Euryale L3.3 70B v2.3: Ficha de modelo

Publicado por Nextbit256 S.L. | Última actualización: mayo de 2026 Referencia normativa: Reglamento (UE) 2024/1689 del AI Act, art. 53.1.c y 53.1.d


Identificación del modelo

CampoDetalle
Nombre completo del modeloL3.3-70B-Euryale-v2.3
Desarrollado porSao10K (autor del fine-tune), modelo base: Meta AI (Meta-Llama-3.3-70B-Instruct)
Fecha de publicación2024-2025
Ficha del modelohuggingface.co/Sao10K/L3.3-70B-Euryale-v2.3
Informe técnicoNo publicado por Sao10K
Blog del desarrolladorNo publicado por Sao10K

Nota sobre el identificador de catálogo: el identificador de catálogo de Nextbit euryale:33-70b se refiere específicamente a la versión v2.3 de la serie Euryale, que usa una base Llama 3.3 70B (no Llama 3.1 ni 3.2). Versiones anteriores de Euryale se basaban en otras variantes de Llama 3.x.


Arquitectura y parámetros

CampoDetalle
ArquitecturaDensa (transformer solo decodificador), arquitectura Llama 3.3
Parámetros totales71 B
Parámetros activos por tokenNo aplica. Modelo denso, todos los parámetros están activos
Parámetros sin incluir embeddingsNo publicado por Sao10K
CapasNo publicado por Sao10K (configuración estándar de Llama 3.3 70B)
AtenciónNo publicado por Sao10K (Llama 3.3 70B usa GQA)
Longitud de contexto nativa16.384 tokens (según la configuración de este fine-tune)
Contexto extendidoNo publicado por Sao10K
PrecisiónBF16

Licencia y uso comercial

Licencia: Meta Llama 3.3 Community License

Euryale L3.3 70B v2.3 se construye sobre Meta-Llama-3.3-70B-Instruct. La Llama 3.3 Community License es una licencia propietaria de Meta, no es una licencia de código abierto como Apache 2.0 o MIT, y contiene condiciones específicas.

La Llama 3.3 Community License es distinta de la Llama 2 Community License y, en general, más permisiva. Las diferencias clave incluyen:

  • El umbral de 700 millones de MAU se aplica de igual forma (el uso comercial sin aprobación de Meta requiere estar por debajo de 700 M de MAU)
  • Los derivados de Llama 3.3 deben incluir "Llama" en el nombre y mostrar "Built with Llama"

Términos clave de la Meta Llama 3.3 Community License:

  • Uso comercial: permitido para organizaciones cuyos productos o servicios tengan menos de 700 millones de usuarios activos mensuales (MAU) en el mes natural anterior. Las organizaciones que igualen o superen ese umbral deben solicitar una licencia adicional a Meta.
  • Requisitos de atribución: los nombres de los modelos de IA derivados deben incluir "Llama" al inicio. Los proveedores deben mostrar de forma visible "Built with Llama".
  • Documentación y aviso: el acuerdo de licencia debe distribuirse con cualquier copia o parte sustancial de los materiales de Llama.
  • Política de uso aceptable: todo uso debe cumplir con la Acceptable Use Policy de Meta.
  • Indemnización: los licenciatarios deben indemnizar a Meta frente a reclamaciones de terceros derivadas de su uso o distribución.
  • Cláusula de litigios: si un licenciatario demanda a Meta por infracción de propiedad intelectual relacionada con Llama, su licencia se extingue de inmediato.

Verificación de Nextbit: Nextbit ha revisado la Llama 3.3 Community License y ha confirmado que prestar Euryale L3.3 70B v2.3 por API para uso comercial está permitido, siempre que Nextbit opere por debajo del umbral de 700 millones de MAU. Nextbit opera actualmente muy por debajo de ese umbral. El identificador de API "euryale:33-70b" cumple el requisito de nomenclatura de Llama.

Restricciones relevantes para los usuarios: los usuarios de la API de Nextbit que accedan a este modelo quedan sujetos a los términos de la Llama 3.3 Community License. Los usuarios cuyos propios productos superen los 700 millones de MAU deben obtener la aprobación separada de Meta.


Resumen de datos de entrenamiento

Este modelo tiene dos capas diferenciadas: los datos de preentrenamiento del modelo base y los datos del fine-tune.

(a) Datos de preentrenamiento del modelo base, Meta-Llama-3.3-70B-Instruct

Euryale L3.3 70B v2.3 se construye sobre Meta-Llama-3.3-70B-Instruct. Los datos de preentrenamiento de Llama 3.3 están documentados por Meta AI. Nextbit no reproduce esa documentación aquí. Para más detalles consulta la ficha del modelo Meta Llama 3.3 y la documentación publicada por Meta AI.

Hechos conocidos sobre el preentrenamiento de Llama 3.3 70B:

  • Aproximadamente 15 billones de tokens (compartidos entre la familia Llama 3.1/3.3)
  • Texto web, código, matemáticas y contenido multilingüe
  • Fecha de corte del conocimiento: aproximadamente diciembre de 2023

(b) Datos del fine-tune, conjunto de datos Euryale v2.3 de Sao10K

Sao10K ajustó el modelo base usando LoRA (Low-Rank Adaptation) sobre tres conjuntos de datos:

  1. amoral-full-sys-prompt.json, datos de desalineación / restricción reducida (depurados)
  2. mimi-superfix-RP-filtered-fixed.json, datos de roleplay e instrucción creativa
  3. hespera-smartshuffle.json, datos de Hesperus-v2-Instruct

Método de fine-tune: LoRA (lora_r: 128, lora_alpha: 16, lora_dropout: 0.1, RSLoRA activado). Entrenado con Axolotl v0.5.2 y DeepSpeed ZeRO-3 (BF16), 1 época.

No publicado por Sao10K:

  • El tamaño exacto de cada conjunto de datos
  • Las fuentes de los conjuntos de datos del fine-tune (más allá de los nombres indicados)
  • Si los conjuntos de datos del fine-tune están disponibles públicamente

Idiomas admitidos

Principalmente los idiomas admitidos por Llama 3.3 70B: sobre todo inglés, con capacidad multilingüe. El fine-tune se realizó sobre conjuntos de datos en inglés. Consulta la documentación de Meta Llama 3.3 para la lista completa de idiomas del modelo base.


Usos previstos

Este modelo está diseñado para:

  • Roleplay y generación de narrativa centrada en personajes
  • Escritura creativa con restricciones de contenido reducidas (el fine-tune incluye explícitamente datos de desalineación para reducir los rechazos excesivos)
  • Ficción interactiva y narración

Es el sucesor directo de Euryale v2.2, optimizado para casos de uso creativos y de roleplay. El modelo no está pensado para responder preguntas factuales, programar ni realizar tareas de razonamiento científico. Otros modelos del catálogo de Nextbit son más adecuados para esos usos.

El uso está sujeto a la Acceptable Use Policy de Meta y a la Llama 3.3 Community License.


Evaluación de riesgo sistémico

CampoDetalle
FLOPs de entrenamientoNo publicados por Meta AI para Llama 3.3 70B, no aplica para el paso de fine-tune
Base relevante para la evaluación del umbralLlama 3.3 70B (el modelo base preentrenado), el fine-tune LoRA implica un cómputo adicional insignificante
FLOPs estimados (preentrenamiento de Llama 3.3 70B)~1,3 × 10²⁴ (estimación basada en 70 B de parámetros por ~15 billones de tokens, fórmula 6 × N × D)
¿Supera el umbral de 10²⁵ FLOPs?No. Se estima aproximadamente 8 veces por debajo del umbral de riesgo sistémico
Nota sobre la arquitectura densaLlama 3.3 70B es un modelo denso, todos sus 70 B de parámetros están activos por token
Designación por la Oficina de IANo está designado como modelo de riesgo sistémico a fecha de mayo de 2026
¿Aplican las obligaciones del art. 55?No

Los FLOPs relevantes para la evaluación del umbral de riesgo sistémico son los del modelo base (preentrenamiento de Llama 3.3 70B). El fine-tune LoRA realizado por Sao10K implica un número reducido de parámetros entrenables adicionales y no afecta de forma material a la estimación de cómputo. Esta estimación se basa en información públicamente disponible de la documentación de Llama 3 de Meta AI. Si Meta publica cifras oficiales de cómputo, esta sección se actualizará.


Esta documentación está publicada por Nextbit256 S.L. de conformidad con el artículo 53(1)(c) y 53(1)(d) del Reglamento (UE) 2024/1689 (AI Act). Nextbit256 S.L. presta este modelo a través de su API de inferencia, pero no lo ha desarrollado ni entrenado. El fine-tune lo realizó Sao10K. El modelo base lo desarrolló Meta AI. Toda la información procede de la documentación pública publicada por Sao10K y Meta AI. Este modelo se presta bajo la Meta Llama 3.3 Community License.

Para consultas: [email protected]

Was this page helpful?