Gemma 2 27B IT: Ficha de modelo

Publicado por Nextbit256 S.L. | Última actualización: mayo de 2026 Referencia normativa: Reglamento (UE) 2024/1689 del AI Act, art. 53.1.c y 53.1.d


Identificación del modelo

CampoDetalle
Nombre completo del modeloGemma 2 27B Instruction Tuned (gemma-2-27b-it)
Desarrollado porGoogle DeepMind
Fecha de publicaciónJunio de 2024
Ficha del modelohuggingface.co/google/gemma-2-27b-it
Informe técnicoGemma 2 Technical Report (consulta ai.google.dev/gemma/docs)
Blog del desarrolladorai.google.dev/gemma

Arquitectura y parámetros

CampoDetalle
ArquitecturaDensa (transformer solo decodificador) con atención local/global intercalada
Parámetros totales27 B
Parámetros activos por tokenNo aplica. Modelo denso, todos los parámetros están activos
Parámetros sin incluir embeddingsNo publicado por Google DeepMind
CapasNo publicado por Google DeepMind
AtenciónAtención de ventana deslizante (local) y completa (global) intercaladas, con Grouped Query Attention (GQA)
Longitud de contexto nativaNo publicado por Google DeepMind (consulta la ficha del modelo para max_position_embeddings)
Contexto extendidoNo aplica
PrecisiónBF16 (nativa), admite cuantización a float32, int8 e int4

Licencia y uso comercial

Licencia: Gemma Terms of Use (licencia propietaria de Google, no es Apache 2.0)

El modelo Gemma 2 27B IT se publica bajo los Gemma Terms of Use, una licencia propietaria emitida por Google LLC. Es una licencia distinta de Apache 2.0 o MIT e incluye condiciones específicas que difieren de las licencias de código abierto estándar.

Términos clave de los Gemma Terms of Use:

  • Uso comercial: permitido. Los Gemma Terms of Use permiten el uso comercial, incluida la prestación de las salidas del modelo mediante servicios de API alojados, sin límites de número de usuarios (a diferencia de algunas versiones anteriores de Gemma).
  • Restricciones de uso en cadena: los proveedores de servicios deben incluir las restricciones de uso de Gemma (según la Sección 3.2 y la Gemma Prohibited Use Policy) como una disposición exigible en cualquier acuerdo posterior con sus propios usuarios.
  • Aviso de distribución: los proveedores que distribuyan o desplieguen Gemma deben entregar a los usuarios una copia de los Gemma Terms of Use.
  • Política de uso prohibido: ni los proveedores ni sus usuarios finales pueden emplear el modelo para los usos restringidos que figuran en la Gemma Prohibited Use Policy.
  • Entrenamiento de otros modelos: permitido bajo los Gemma Terms of Use, siempre que los acuerdos posteriores incluyan las restricciones de uso de Gemma. Los derivados del modelo (incluida la destilación) deben trasladar los mismos términos a quienes los reciban.

Aceptación de Nextbit: Nextbit ha aceptado los Gemma Terms of Use para prestar este modelo por API.

Aviso importante para los usuarios de la API de Nextbit: los usuarios de la API de Nextbit que integren las salidas de este modelo en sus propios productos o servicios deben aceptar y cumplir de forma independiente los Gemma Terms of Use. Al usar la API de Nextbit para acceder a este modelo, los usuarios confirman haber revisado y aceptado los Gemma Terms of Use en ai.google.dev/gemma/terms. Los Términos de Servicio de Nextbit incorporan esta obligación por referencia.


Resumen de datos de entrenamiento

A continuación se resume la información públicamente disponible facilitada por Google DeepMind sobre los datos de entrenamiento de Gemma 2.

Datos de preentrenamiento

Gemma 2 27B se preentrenó con aproximadamente 13 billones de tokens. Las fuentes de datos de entrenamiento incluyen:

  • Documentos web: contenido de texto web diverso, idioma principal: inglés
  • Código: contenido en lenguajes de programación en múltiples lenguajes
  • Matemáticas: contenido de razonamiento matemático

Cobertura de idiomas

Gemma 2 27B es principalmente un modelo en inglés. Los datos de entrenamiento son predominantemente en inglés, con representación limitada de otros idiomas. Para casos de uso multilingües, los usuarios deben evaluar cuidadosamente el rendimiento del modelo en idiomas distintos del inglés.

Fecha de corte del conocimiento

No publicada explícitamente por Google DeepMind. A partir de la fecha de publicación de junio de 2024, la fecha de corte de los datos de entrenamiento se estima no posterior a principios de 2024, aunque esto no ha sido confirmado oficialmente. Los usuarios deben tratarlo como una aproximación.

Prácticas de seguridad de datos

Google DeepMind aplicó las siguientes prácticas de filtrado de datos:

  • Filtrado de CSAM (material de abuso sexual infantil)
  • Eliminación de datos personales sensibles
  • Filtrado de calidad y seguridad de contenido conforme a las políticas de Google

Post-entrenamiento

La variante ajustada por instrucciones (gemma-2-27b-it) se ajustó mediante aprendizaje supervisado y aprendizaje por refuerzo a partir de feedback humano (RLHF) sobre el modelo base gemma-2-27b, para mejorar el seguimiento de instrucciones y reducir resultados dañinos.

El entrenamiento se realizó en TPUv5p usando JAX y Google ML Pathways.

Qué no está disponible públicamente

Google DeepMind no ha publicado:

  • Recuentos exactos de tokens por fuente ni porcentajes de composición
  • Conjuntos de datos o corpus específicos utilizados
  • La metodología de filtrado o deduplicación de datos en detalle
  • El cómputo de entrenamiento (FLOPs u horas de GPU)
  • El número de capas ni especificaciones detalladas de la arquitectura

La referencia pública principal es la documentación de Gemma y la ficha del modelo.


Idiomas admitidos

Gemma 2 27B IT es principalmente un modelo en inglés. Tiene capacidad limitada en otros idiomas. Consulta la documentación del modelo Gemma para cualquier actualización sobre el soporte multilingüe.


Usos previstos

Este modelo está diseñado para:

  • Seguimiento de instrucciones y diálogo de propósito general en inglés
  • Tareas de respuesta a preguntas, resumen y generación de texto
  • Generación y análisis de código
  • Aplicaciones de investigación y académicas

La ficha del modelo no indica usos explícitamente excluidos. El uso se rige por la Gemma Prohibited Use Policy, aplicable a todos los usuarios de la API de Nextbit que accedan a este modelo.


Evaluación de riesgo sistémico

CampoDetalle
FLOPs de entrenamientoNo publicados por Google DeepMind
FLOPs estimados (modelo denso)~4,7 × 10²⁴ (estimación basada en 27 B de parámetros por ~13 billones de tokens de entrenamiento, fórmula 6 × N × D)
¿Supera el umbral de 10²⁵ FLOPs?No. Se estima aproximadamente 2 veces por debajo del umbral de riesgo sistémico
Nota sobre la arquitectura densaGemma 2 27B es un modelo denso, todos sus 27 B de parámetros están activos por token. El recuento total de parámetros es el que se usa para la estimación de FLOPs
Designación por la Oficina de IANo está designado como modelo de riesgo sistémico a fecha de mayo de 2026
¿Aplican las obligaciones del art. 55?No

Esta estimación se basa en información públicamente disponible (recuento de parámetros: 27 B, recuento de tokens: 13 billones, de la ficha del modelo). Google DeepMind no ha publicado cifras oficiales de FLOPs. Con la estimación de ~4,7 × 10²⁴ FLOPs, este modelo está por debajo pero se acerca al umbral de 10²⁵. Nextbit vigila este modelo por si la Oficina de IA lo revisa. Si se publican cifras oficiales de cómputo o designaciones de la Oficina de IA, esta sección se actualizará.


Esta documentación está publicada por Nextbit256 S.L. de conformidad con el artículo 53(1)(c) y 53(1)(d) del Reglamento (UE) 2024/1689 (AI Act). Nextbit256 S.L. presta este modelo a través de su API de inferencia, pero no lo ha desarrollado ni entrenado. Toda la información sobre datos de entrenamiento y arquitectura procede de la documentación pública publicada por Google DeepMind. Nextbit256 S.L. ha aceptado los Gemma Terms of Use y exige a los usuarios de la API que accedan a este modelo que hagan lo mismo.

Para consultas: [email protected]

Was this page helpful?