UnslopNemo 12B v4.1: Ficha de modelo
Publicado por Nextbit256 S.L. | Última actualización: mayo de 2026 Referencia normativa: Reglamento (UE) 2024/1689 del AI Act, art. 53.1.c y 53.1.d
Identificación del modelo
| Campo | Detalle |
|---|---|
| Nombre completo del modelo | UnslopNemo-12B-v4.1 |
| Desarrollado por | TheDrummer (autor del fine-tune), modelo base: Mistral AI (Mistral-Nemo-Base-2407) |
| Fecha de publicación | 2024 |
| Ficha del modelo | huggingface.co/TheDrummer/UnslopNemo-12B-v4.1 |
| Informe técnico | No publicado por TheDrummer |
| Blog del desarrollador | No publicado por TheDrummer |
El nombre "UnslopNemo" es un compuesto: "Unslop" se refiere a reducir las respuestas de IA genéricas, excesivamente alineadas y "sloppy" (descuidadas). "Nemo" confirma el modelo base Mistral NeMo. El modelo se dirige a usuarios que buscan una salida menos depurada y más auténtica.
Arquitectura y parámetros
| Campo | Detalle |
|---|---|
| Arquitectura | Densa (transformer solo decodificador), arquitectura Mistral NeMo (MistralForCausalLM) |
| Parámetros totales | 12 B |
| Parámetros activos por token | No aplica. Modelo denso, todos los parámetros están activos |
| Parámetros sin incluir embeddings | No publicado por TheDrummer |
| Capas | 40 |
| Atención | GQA, 32 cabezas Q, 8 cabezas KV |
| Longitud de contexto nativa | 1.024.000 tokens (1M, según config.json, contexto nativo de Mistral NeMo: 128K) |
| Contexto extendido | No aplica |
| Precisión | BF16 |
Licencia y uso comercial
Licencia: Apache License 2.0
El modelo base, Mistral-Nemo-Base-2407, se publica bajo Apache 2.0. El autor del fine-tune (TheDrummer) no ha publicado un archivo de licencia separado ni metadatos en la ficha del modelo que indiquen una licencia distinta. Dado que el modelo base fundacional es Apache 2.0 y TheDrummer no ha publicado una licencia que la sustituya, Nextbit aplica Apache 2.0 como licencia efectiva.
Apache 2.0 es una licencia de código abierto permisiva que permite el uso comercial, la distribución y la modificación de forma gratuita, siempre que se conserve el aviso de copyright original y el texto de la licencia, y que cualquier modificación quede documentada.
Verificación de Nextbit: Nextbit ha revisado la licencia del modelo base (Apache 2.0) y ha confirmado que prestar UnslopNemo-12B-v4.1 por API bajo un servicio de inferencia comercial está permitido. No se requiere ningún acuerdo comercial adicional con Mistral AI ni con TheDrummer para este caso de uso.
Restricciones relevantes para los usuarios: ninguna más allá de los términos estándar de Apache 2.0. El modelo está diseñado para producir salidas menos restringidas y no incluye filtrado de seguridad por defecto. Los usuarios de la API de Nextbit que integren las salidas del modelo en sus propios productos siguen siendo responsables de su propio cumplimiento de la normativa aplicable, incluidas las obligaciones relacionadas con el contenido.
Resumen de datos de entrenamiento
Este modelo tiene dos capas diferenciadas: los datos de preentrenamiento del modelo base y los datos del fine-tune.
(a) Datos de preentrenamiento del modelo base, Mistral-Nemo-Base-2407
UnslopNemo-12B-v4.1 se construye sobre Mistral-Nemo-Base-2407 (12B, julio de 2024). Los datos de preentrenamiento de este modelo base están documentados por Mistral AI. Nextbit no reproduce esa documentación aquí. Para más detalles consulta la ficha del modelo Mistral NeMo y la entrada de blog de Mistral NeMo.
Hechos conocidos sobre el preentrenamiento de Mistral-Nemo-Base-2407:
- Ventana de contexto nativa de 128K
- Alta proporción de datos multilingües y de código
- Idiomas: principalmente inglés, con cobertura sustancial de francés, alemán, español, italiano, portugués, ruso, chino y japonés
- Fecha de corte del conocimiento: aproximadamente mediados de 2024 (publicación en julio de 2024)
- Volumen de tokens: no publicado por Mistral AI
(b) Datos del fine-tune, TheDrummer
No publicado por TheDrummer. La ficha del modelo es mínima y no describe los conjuntos de datos de fine-tuning, el método de fine-tuning ni los hiperparámetros de entrenamiento. A partir del propósito del modelo (reducir las salidas "sloppy" excesivamente alineadas y mejorar la calidad narrativa auténtica), el fine-tune probablemente implicó conjuntos de datos seleccionados de escritura creativa y roleplay con un filtrado de alineación reducido, pero no se han publicado detalles.
Idiomas admitidos
Principalmente inglés. El modelo base (Mistral NeMo) tiene capacidad multilingüe en inglés, francés, alemán, español, italiano, portugués, ruso, chino y japonés. El fine-tune probablemente se realizó sobre datos en inglés. Para la lista completa de idiomas del modelo base, consulta la ficha del modelo Mistral NeMo.
Usos previstos
Este modelo está diseñado para:
- Escritura creativa y generación narrativa con menos rechazos excesivos y una prosa más natural
- Roleplay y ficción interactiva con voces de personaje auténticas
- Seguimiento de instrucciones generales con un estilo de salida menos depurado
El objetivo de diseño "Unslop" es eliminar la tendencia de los modelos de IA alineados a producir texto genérico, cauteloso o excesivamente prudente ("sloppy") en contextos creativos, lo que da como resultado una narrativa más atractiva y auténtica. Este modelo se ha usado como base para 27 merges comunitarios derivados, lo que indica una fuerte adopción en las comunidades de IA creativa.
Este modelo no está específicamente diseñado para responder preguntas factuales, razonamiento matemático ni tareas de programación. Dado el fine-tuning de alineación reducido, este modelo no es adecuado para aplicaciones sensibles orientadas al consumidor sin medidas de seguridad adicionales.
Evaluación de riesgo sistémico
| Campo | Detalle |
|---|---|
| FLOPs de entrenamiento | No publicados por Mistral AI para Mistral-Nemo-Base-2407, los FLOPs del fine-tune no aplican (no publicados por TheDrummer) |
| Base relevante para la evaluación del umbral | Mistral-Nemo-Base-2407 (el modelo base preentrenado), el fine-tune implica un cómputo adicional insignificante respecto al preentrenamiento |
| FLOPs estimados (preentrenamiento de Mistral NeMo 12B) | ~4,3 × 10²³ (estimación basada en 12 B de parámetros por unos ~6 billones de tokens de entrenamiento asumidos, fórmula 6 × N × D. El recuento de tokens es en sí mismo una estimación, ya que Mistral AI no lo ha publicado) |
| ¿Supera el umbral de 10²⁵ FLOPs? | No. Se estima aproximadamente 23 veces por debajo del umbral de riesgo sistémico |
| Nota sobre la arquitectura densa | Mistral NeMo 12B es un modelo denso, todos sus 12 B de parámetros están activos por token |
| Designación por la Oficina de IA | No está designado como modelo de riesgo sistémico a fecha de mayo de 2026 |
| ¿Aplican las obligaciones del art. 55? | No |
Los FLOPs relevantes para la evaluación del umbral de riesgo sistémico son los del modelo base (preentrenamiento de Mistral-Nemo-Base-2407). Mistral AI no ha publicado recuentos oficiales de tokens de entrenamiento ni FLOPs para este modelo. La estimación de tokens es aproximada. Si se publican cifras oficiales, esta sección se actualizará.
Esta documentación está publicada por Nextbit256 S.L. de conformidad con el artículo 53(1)(c) y 53(1)(d) del Reglamento (UE) 2024/1689 (AI Act). Nextbit256 S.L. presta este modelo a través de su API de inferencia, pero no lo ha desarrollado ni entrenado. El fine-tune lo realizó TheDrummer. El modelo base lo desarrolló Mistral AI. Toda la información procede de la documentación pública publicada por TheDrummer y Mistral AI.
Para consultas: [email protected]