Qwen3-14B: Ficha de modelo
Publicado por Nextbit256 S.L. | Última actualización: mayo de 2026 Referencia normativa: Reglamento (UE) 2024/1689 del AI Act, art. 53.1.c y 53.1.d
Identificación del modelo
| Campo | Detalle |
|---|---|
| Nombre completo del modelo | Qwen3-14B |
| Desarrollado por | Qwen Team, Alibaba Cloud |
| Fecha de publicación | Abril de 2025 |
| Ficha del modelo | huggingface.co/Qwen/Qwen3-14B |
| Informe técnico | arXiv:2505.09388 |
| Blog del desarrollador | qwenlm.github.io/blog/qwen3 |
Arquitectura y parámetros
| Campo | Detalle |
|---|---|
| Arquitectura | Densa (transformer solo decodificador) |
| Parámetros totales | 14,8 B |
| Parámetros activos por token | No aplica. Modelo denso, todos los parámetros están activos |
| Parámetros sin incluir embeddings | 13,2 B |
| Capas | 40 |
| Atención | GQA, 40 cabezas Q, 8 cabezas KV |
| Longitud de contexto nativa | 32.768 tokens |
| Contexto extendido (YaRN) | 131.072 tokens |
| Precisión | BF16 |
Licencia y uso comercial
Licencia: Apache License 2.0
Apache 2.0 es una licencia de código abierto permisiva que permite el uso comercial, la distribución y la modificación de forma gratuita, siempre que se conserve el aviso de copyright original y el texto de la licencia, y que cualquier modificación quede documentada.
Verificación de Nextbit: Nextbit ha revisado los términos de licencia aplicables a Qwen3-14B y ha confirmado que prestar este modelo por API bajo un servicio de inferencia comercial está permitido conforme a Apache 2.0. No se requiere ningún acuerdo comercial adicional con Alibaba Cloud / Qwen Team para este caso de uso.
Restricciones relevantes para los usuarios: ninguna específica de este modelo más allá de los términos estándar de Apache 2.0. Los usuarios de la API de Nextbit que integren las salidas del modelo en sus propios productos siguen siendo responsables de su propio cumplimiento de la normativa aplicable y de cualquier requisito de licencia derivado.
Resumen de datos de entrenamiento
A continuación se resume la información públicamente disponible facilitada por el Qwen Team sobre los datos de entrenamiento usados para la familia de modelos Qwen3, incluido Qwen3-14B. Son los mismos datos de entrenamiento que el resto de la familia Qwen3 (consulta también: documentación de Qwen3-30B-A3B). Solo difiere la arquitectura del modelo (denso de 14B frente a MoE).
Datos de preentrenamiento
La familia de modelos Qwen3 se preentrenó con aproximadamente 36 billones de tokens en 119 idiomas y dialectos. Esto representa aproximadamente el doble de los datos de entrenamiento usados para la generación anterior Qwen2.5 (~18 billones de tokens).
Las fuentes de datos de entrenamiento incluyen:
- Contenido web: texto extraído de páginas web disponibles públicamente, procesado y filtrado por calidad.
- Datos de documentos: contenido de PDF y documentos estructurados procesado con Qwen2.5-VL para extracción de texto.
- Datos sintéticos: datos de matemáticas y programación generados con Qwen2.5-Math y Qwen2.5-Coder para reforzar las capacidades de razonamiento y programación.
Fases de preentrenamiento
El entrenamiento se realizó en tres fases secuenciales:
| Fase | Tokens | Enfoque |
|---|---|---|
| Fase 1 | más de 30 billones | Habilidades generales de lenguaje, ventana de contexto de 4K |
| Fase 2 | ~5 billones | Dominios intensivos en conocimiento: STEM, programación, razonamiento |
| Fase 3 | No especificado | Extensión de contexto largo hasta 32K tokens, datos de contexto largo de alta calidad |
Post-entrenamiento
El post-entrenamiento incluyó fine-tuning supervisado y aprendizaje por refuerzo para habilitar el funcionamiento dual del modelo en modo de pensamiento / sin pensamiento, el seguimiento de instrucciones y las capacidades de uso de herramientas.
Fecha de corte del conocimiento
El Qwen Team no ha publicado una fecha de corte del conocimiento explícita para Qwen3. A partir de la publicación del modelo en abril de 2025, la fecha de corte de los datos de entrenamiento se estima no posterior a principios de 2025, aunque esto no ha sido confirmado oficialmente. Los usuarios deben tratarlo como una aproximación.
Qué no está disponible públicamente
El Qwen Team no ha publicado:
- Los porcentajes exactos de composición de las fuentes de datos
- Conjuntos de datos o corpus específicos utilizados
- La metodología de filtrado o deduplicación de datos en detalle
- El cómputo de entrenamiento (FLOPs u horas de GPU)
La referencia pública principal para los datos de entrenamiento es el Qwen3 Technical Report (arXiv:2505.09388) y la entrada de blog de Qwen3.
Idiomas admitidos
Qwen3-14B admite 119 idiomas y dialectos, incluidos entre otros: árabe, chino (simplificado y tradicional), inglés, francés, alemán, hindi, indonesio, italiano, japonés, coreano, malayo, portugués, ruso, español, tailandés, turco, ucraniano y vietnamita.
Lista completa de idiomas: consulta el Qwen3 Technical Report.
Usos previstos
Este modelo está diseñado para:
- Tareas de razonamiento complejo (matemáticas, lógica, razonamiento científico)
- Generación y análisis de código
- Seguimiento de instrucciones y diálogo de propósito general
- Tareas multilingües y traducción
- Flujos de trabajo agénticos con tool calling y function calling
- Escritura creativa y roleplay
El modelo admite dos modos de funcionamiento:
- Modo de pensamiento: razonamiento interno extendido antes de generar una respuesta, adecuado para tareas complejas
- Modo sin pensamiento: generación de respuesta directa, adecuado para aplicaciones conversacionales y sensibles a la latencia
Evaluación de riesgo sistémico
| Campo | Detalle |
|---|---|
| FLOPs de entrenamiento | No publicados por el Qwen Team |
| FLOPs estimados (modelo denso) | ~2,5 × 10²⁴ (estimación basada en 14,8 B de parámetros por ~36 billones de tokens, fórmula 6 × N × D) |
| ¿Supera el umbral de 10²⁵ FLOPs? | No. Se estima aproximadamente 4 veces por debajo del umbral de riesgo sistémico |
| Nota sobre la arquitectura densa | Qwen3-14B es un modelo denso, todos sus 14,8 B de parámetros están activos por token. El recuento total de parámetros (no un subconjunto activo) es el que se usa para la estimación de FLOPs |
| Designación por la Oficina de IA | No está designado como modelo de riesgo sistémico a fecha de mayo de 2026 |
| ¿Aplican las obligaciones del art. 55? | No |
Esta estimación se basa en información públicamente disponible. El Qwen Team no ha publicado cifras oficiales de cómputo de entrenamiento. Si se publican dichas cifras, esta sección se actualizará.
Esta documentación está publicada por Nextbit256 S.L. de conformidad con el artículo 53(1)(c) y 53(1)(d) del Reglamento (UE) 2024/1689 (AI Act). Nextbit256 S.L. presta este modelo a través de su API de inferencia, pero no lo ha desarrollado ni entrenado. Toda la información sobre datos de entrenamiento y arquitectura procede de la documentación pública publicada por el Qwen Team / Alibaba Cloud.
Para consultas: [email protected]