Skip to content

LangChain / LlamaIndex / прочее

API llmgw совместим с OpenAI Chat Completions — подключайте LangChain, LlamaIndex и другие библиотеки через base_url и ваш ключ.

LangChain (Python)

python
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="anthropic/claude-sonnet-4.6",
    base_url="https://d-api-3i.llmgw.ru/v1",
    api_key="sk-llmgw-...",
    temperature=0.3,
)

print(llm.invoke("Что такое llmgw?").content)

LangChain.js

ts
import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "openai/gpt-5",
  configuration: { baseURL: "https://d-api-3i.llmgw.ru/v1" },
  apiKey: process.env.LLMBOX_KEY,
});
const r = await llm.invoke("hi");

LlamaIndex

python
from llama_index.llms.openai import OpenAI

llm = OpenAI(
    model="anthropic/claude-sonnet-4.6",
    api_base="https://d-api-3i.llmgw.ru/v1",
    api_key="sk-llmgw-...",
)

Vercel AI SDK (ai)

ts
import { createOpenAI } from "@ai-sdk/openai";
const openai = createOpenAI({
  baseURL: "https://d-api-3i.llmgw.ru/v1",
  apiKey: process.env.LLMBOX_KEY,
});

const { text } = await generateText({
  model: openai("anthropic/claude-sonnet-4.6"),
  prompt: "ping",
});

Continue / Cline / Cursor / OpenWebUI

Пошаговые инструкции — в разделе Внедрение и интеграции:

Кратко: в настройках указываете:

© llmgw · ООО «ЭСТЕСИС»