Эмбеддинги

Эндпоинт POST /v1/embeddings совместим с OpenAI Embeddings API.

Пример

from openai import OpenAI

client = OpenAI(base_url="https://d-api-3i.llmgw.ru/v1", api_key="sk-llmgw-...")

resp = client.embeddings.create(
    model="openai/text-embedding-3-large",
    input=["Привет, мир", "доступ к LLM через llmgw"],
)
for item in resp.data:
    print(len(item.embedding), item.embedding[:4])

Доступные модели

• openai/text-embedding-3-large — 3072 dim, максимальное качество.
• openai/text-embedding-3-small — 1536 dim, экономный вариант.
• cohere/embed-multilingual-v3 — мультиязычные эмбеддинги.
• voyage/voyage-3 — удобна для кода и документов.

Актуальный список и цены — в каталоге моделей.

Батчи

Передавайте input массивом: один вызов вместо серии одиночных. Типичный лимит — до 2048 элементов на запрос.