Completions

La API de Completions te permite generar continuaciones de texto a partir de un prompt. Para IA conversacional, recomendamos usar la API de Chat Completions en su lugar.

La API de Chat Completions es generalmente preferida para la mayoría de casos de uso ya que proporciona mejor control sobre el contexto de la conversación e instrucciones del sistema.

El modelo de Completion

El modelo de Completion toma un prompt de texto y genera una continuación.

Propiedades

Name
model
Type
string
Description
El ID del modelo a usar para la Completion.
Name
prompt
Type
string
Description
El prompt de texto para generar una Completion.
Name
max_tokens
Type
integer
Description
El número máximo de tokens a generar.
Name
temperature
Type
number
Description
Controla la aleatoriedad. Valores más altos hacen la salida más aleatoria. Rango: 0-2, predeterminado: 1.
Name
stream
Type
boolean
Description
Si se establece a true, las Completions parciales se enviarán como eventos del servidor. Predeterminado: false.

POST/v1/completions

Crear Completion

Genera una Completion de texto basada en un prompt.

Atributos requeridos

Name
model
Type
string
Description
El ID del modelo a usar para la Completion.
Name
prompt
Type
string
Description
El prompt de texto a completar.

Atributos opcionales

Name
max_tokens
Type
integer
Description
Máximo de tokens a generar. Predeterminado: 16.
Name
temperature
Type
number
Description
Temperatura de muestreo (0-2). Predeterminado: 1.
Name
stream
Type
boolean
Description
Habilitar respuestas en streaming. Predeterminado: false.

Solicitud

POST

/v1/completions

from openai import OpenAI

client = OpenAI(
    base_url="https://api.nextbit256.com/v1",
    api_key="tu-clave-api"
)

response = client.completions.create(
    model="llama3.3:70b",
    prompt="Érase una vez",
    max_tokens=50
)

print(response.choices[0].text)

Respuesta

{
  "id": "cmpl-6ff64705f50d43cbbab7cd03250e9382",
  "object": "text_completion",
  "created": 1742470129,
  "model": "llama3.3:70b",
  "choices": [
    {
      "text": ", en un reino lejano, vivía un sabio anciano mago...",
      "index": 0,
      "logprobs": null,
      "finish_reason": "length"
    }
  ],
  "usage": {
    "prompt_tokens": 4,
    "completion_tokens": 50,
    "total_tokens": 54
  }
}