RU ▾
Получить API-ключ

kimiapikey.comГайд

Интеграция API-ключа Kimi с SDK OpenAI и LangChain

Интеграция этого API в приложение означает изменение двух значений в коде, который у вас, вероятно, уже есть: базового URL и ключа. В этом руководстве показано изменение для SDK OpenAI, LangChain и LiteLLM, а затем рассматриваются повторные попытки и лимиты для использования в производственной среде.

Обновлено

Изометрические блоки, соединенные светящимися линиями с центральным узлом, показывающие интеграцию приложений с одним API

Ключевые моменты

  • Каждому клиенту нужны одни и те же три значения: базовый URL https://api.kimiapikey.com/v1, ваш ключ и модель uncensored.
  • Сохраните их в переменных окружения, чтобы вы могли менять поставщиков без редактирования кода.
  • Обрабатывайте ответы 429 отдельно: rate_limited, concurrency и временная перегрузка с Retry-After: 5.
  • Полный ключ позволяет 8 одновременных запросов и 300 в минуту; пробный ключ позволяет 2 и 60.

Что именно меняется в вашем коде

Интеграция API-ключа Kimi звучит как проект, но для этого эндпоинта это изменение конфигурации. Сервис реализует формат chat completions OpenAI, поэтому любая библиотека клиентов, которая позволяет вам устанавливать базовый URL и ключ, будет работать. Нет необходимости устанавливать пользовательский SDK или изучать новую форму запроса.

НастройкаЗначение
Базовый URLhttps://api.kimiapikey.com/v1
АвторизацияКлюч из вашей панели управления, отправляемый как Authorization: Bearer
Модельuncensored
ЭндпоинтыPOST /v1/chat/completions, GET /v1/models

Два момента экономят время. Во-первых, это текстовая модель за одним эндпоинтом: нет маршрута эмбеддингов, нет генерации изображений, нет аудио. Если ваше приложение вызывает эти функции, оставьте другого поставщика для них и направляйте только чат сюда. Во-вторых, это не официальный API Kimi или любого другого поставщика; это независимый поставщик, запускающий одну модель с открытыми весами, поэтому имена моделей с других платформ не будут разрешены. Объяснение API-ключа Kimi более подробно охватывает эту разницу.

Получите ключ на странице API-ключ. Новые аккаунты могут получить $0,50 пробного баланса, которого достаточно для всего, что описано ниже.

Конфигурация и перенос существующего приложения

Официальные библиотеки OpenAI для Python и Node.js считывают переменные окружения OPENAI_API_KEY и OPENAI_BASE_URL, если вы не передаёте их явно. Это позволяет настроить интеграцию минимальными изменениями в окружении:

export OPENAI_BASE_URL="https://api.kimiapikey.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

Существующий код, который создает клиент OpenAI(), теперь обращается к этому эндпоинту. Вам по-прежнему нужно изменить аргумент model на uncensored. Поместите имя модели в переменную, например LLM_MODEL, чтобы тестовая среда и производственная среда могли отличаться без редактирования кода.

Эта привычка стоит минуты, которую она занимает. Когда базовый URL, ключ и модель находятся в конфигурации, пробный переход на другого поставщика, совместимого с OpenAI, — это изменение развертывания, а откат — то же изменение в обратном порядке.

Большинство команд не начинают с пустого файла. У них уже есть приложение, которое обращается к API в стиле OpenAI, и они хотят, чтобы оно обращалось к этому. Миграция заключается в поиске трёх строк.

  1. Найдите место, где создается клиент, и измените базовый URL.
  2. Найдите каждый аргумент model= и замените старое имя на uncensored.
  3. Ищите функции, которые использует ваш код, которые этот API не предоставляет, такие как эмбеддинги, генерация изображений или аудио. Эти вызовы должны оставаться у другого поставщика или быть удалены.

Затем сравните поведение, а не только синтаксис. У другой модели другой тон, другую длину по умолчанию и другие привычки форматирования. Запустите свои существующие тестовые промпты, прочитайте ответы бок о бок и настройте системный промпт, где тон изменился. Текст промпта, который обходил причуды другой модели, иногда здесь ничего не делает, а иногда ухудшает ситуацию, поэтому удаляйте старые обходные пути по одному и наблюдайте, что меняется.

Проверьте также параметры, которые вы передаёте. Temperature, top_p, stop, seed и штрафы передаются как есть, поэтому они ведут себя так, как вы ожидаете. Поля, которые принадлежат другим поставщикам или функциям, которых нет в этом API, не будут иметь никакого эффекта. Держите тело запроса небольшим и стандартным. Лимит тела составляет 8 МБ, что имеет значение только если вы напрямую встраиваете большие документы.

Python: синхронно, потоково и асинхронно

Явная форма, которая не зависит от переменных окружения:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in plain English."},
        {"role": "user", "content": "Explain idempotency in two sentences."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Для потоковой передачи установите stream=True и читайте фрагменты по мере их поступления. Потоковая передача доставляется через события, отправляемые сервером, и использование сообщается в конце.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a limerick about retries."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Для сервиса, который обрабатывает многих пользователей, используйте асинхронный клиент и ограничьте свою собственную параллельность, чтобы вы никогда не превышали лимит параллельных запросов ключа. Семафор — самый простой способ:

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(
    base_url="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
)
gate = asyncio.Semaphore(8)

async def ask(prompt: str) -> str:
    async with gate:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give one fact about the number {n}." for n in range(20)]
    answers = await asyncio.gather(*(ask(p) for p in prompts))
    print(len(answers), "answers")

asyncio.run(main())

Установите семафор на 2, пока вы на пробном ключе, и на 8 на ключе с балансом.

Node и TypeScript

Библиотека Node принимает те же два параметра под немного другими именами:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.kimiapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const completion = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three HTTP status codes." }],
});

console.log(completion.choices[0].message.content);

Потоковая передача с тем же клиентом использует параметр stream: true и асинхронный итератор по результату. Если вы используете фреймворк для фронтенда, который оборачивает библиотеку OpenAI, например, чат-инструментарий, найдите опцию базового URL и установите её аналогичным образом. Храните ключ на сервере. Ключ, помещённый в код браузера, может быть скопирован любым, кто откроет инструменты разработчика, а баланс за ним — это реальные деньги.

LangChain и LiteLLM

Фреймворки, которые оборачивают клиент OpenAI, обычно предоставляют те же два параметра. В LangChain для Python класс модели чата OpenAI принимает их напрямую:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
    temperature=0.5,
)

reply = llm.invoke("Summarize what a message queue does in one sentence.")
print(reply.content)

Оттуда цепочки, шаблоны промптов и парсеры вывода работают так же, как и с любой другой моделью чата. Если вы связываете инструменты, API поддерживает вызов функций с tools и tool_choice, а результаты инструментов возвращаются модели как сообщения role: "tool", что и производит фреймворк.

LiteLLM полезен, когда вы хотите одно соглашение о вызовах для нескольких поставщиков. Добавьте к имени модели префикс openai/ и передайте базовый URL как api_base:

import litellm

resp = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "Say hello in French."}],
)
print(resp.choices[0].message.content)

Для структурированных данных передайте response_format={"type": "json_object"} и укажите в промпте, что вам нужен JSON. Всегда обрабатывайте результат с проверкой, потому что JSON-режим запрашивает валидный JSON, но ваша схема всё ещё остаётся лишь запросом в промпте.

Лимиты, повторные попытки и обработка ошибок

Ключ с балансом позволяет выполнять 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет выполнять 2 и 60 соответственно. Тело запроса может быть до 8 МБ, а контекстное окно составляет 100 000 токенов для промпта и завершения вместе. При превышении лимита API отвечает HTTP 429 и одним из следующих:

  • rate_limited: слишком много запросов в минуту. Сделайте паузу на несколько секунд.
  • concurrency: слишком много запросов, работающих одновременно. Подождите, пока один завершится. Потоковый запрос удерживает свой слот до конца потока, поэтому медленный потребитель засчитывается в ваш лимит.
  • 429 с Retry-After: 5: временная перегрузка. Подождите пять секунд и попробуйте снова.

Небольшая обертка для повторных попыток, которая учитывает заголовок, обрабатывает все три:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.kimiapikey.com/v1", api_key="YOUR_KEY", max_retries=0)

def chat(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError as e:
            wait = int(e.response.headers.get("retry-after", 2 ** attempt))
            time.sleep(wait)
    raise RuntimeError("still rate limited after retries")

Неудачные или отклоненные запросы не оплачиваются, поэтому повторные попытки не приводят к дополнительным списаниям. Логируйте заголовок ответа X-Request-Id с каждым вызовом; это самый быстрый способ указать на один запрос, если что-то выглядит неправильно. X-Balance-USD сообщает вам, сколько кредита осталось, что вы можете передать в оповещение. Документация перечисляет все заголовки ответа.

Вызов функций через фреймворк

Фреймворки агентов зависят от вызова функций, поэтому стоит провести короткое тестирование, прежде чем строить на нем. Этот API принимает tools и tool_choice, возвращает tool_calls, когда модель хочет запустить функцию, и ожидает результат как сообщение role: "tool", которое ссылается на идентификатор вызова. Потоковая передача работает с инструментами, с вызовом, прибывающим фрагментами, которые SDK собирает для вас.

Хороший первый тест — агент с одним инструментом с функцией, результат которой вы можете проверить визуально, например, калькулятор или поиск в небольшом словаре. Запустите его десять раз. Если модель выбирает инструмент и правильно заполняет его аргументы каждый раз, вы можете добавить второй инструмент. Если она иногда отвечает из памяти вместо вызова функции, сделайте описание инструмента более конкретным или установите tool_choice, чтобы принудительно вызвать его для этого шага. Модели различаются по надежности управления длинными цепочками вызовов, поэтому держите цепочки короткими и добавляйте лимит шагов в любой цикл, чтобы сбитый с толку запуск не мог крутиться вечно и тратить кредит.

Короткий чек-лист перед запуском

  1. Запустите один запрос через curl или SDK и подтвердите, что блок использования присутствует.
  2. Протестируйте потоковую передачу с клиентом, который будет использоваться в продакшене, включая то, что происходит, когда пользователь закрывает страницу во время потока.
  3. Ограничьте свою собственную параллельность ниже лимита ключа.
  4. Установите max_tokens там, где ожидаются короткие ответы, и обрезайте историю чата, прежде чем она вырастет больше, чем вы хотите оплатить.
  5. Держите ключ в конфигурации на стороне сервера и перевыпустите его, если он появляется в журнале.
  6. Проверьте стоимость на реальном трафике. По $0,15 за 1M входных и $0,50 за 1M выходных токенов, запрос с 3000 токенов на входе и 700 на выходе стоит $0,0008, поэтому 10 000 из них стоят около $8. Подробности на странице цен.

Промпты, отправляемые в API, не используются для обучения. Единственное правило, которое не меняется, — это строгий лимит на сексуальный контент с участием несовершеннолетних; в остальном модель настроена так, чтобы отвечать без отказов для законного использования взрослыми, поэтому приложения, которые обслуживают широкую публику, всё равно должны добавить собственную модерацию и проверку возраста там, где этого требуют закон или ваши пользователи.

Часто задаваемые вопросы

Является ли модель той же, что и официальная Kimi от Moonshot?
Нет, мы размещаем модель с открытыми весами, настроенную на отсутствие цензуры. Это не GPT, Claude, Gemini, Grok, DeepSeek или модель другого вендора. Это отдельная модель, работающая на наших собственных серверах.

Вы используете мои данные для обучения?
Нет. Ваши промпты и ответы не используются для обучения. Мы ценим конфиденциальность и прозрачность, поэтому ваши данные остаются вашими.

Какие лимиты запросов?
Лимит составляет 300 запросов в минуту на один API-ключ. Максимальный размер тела запроса — 8 МБ. Эти ограничения обеспечивают стабильную работу сервиса для всех пользователей.

Какая политика контента?
Модель без цензуры в отношении взрослых, спорных и творческих тем. Однако мы блокируем контент сексуального характера с участием несовершеннолетних. Это строгое ограничение, которое действует всегда, независимо от уровня подписки.

Вопросы и ответы

Нужен ли мне специальный SDK?

Нет. Стандартные библиотеки OpenAI для Python и Node.js работают после того, как вы установите базовый URL на https://api.kimiapikey.com/v1 и используете свой ключ. LangChain и LiteLLM работают точно так же.

Какое имя модели должен использовать мой код?

Используйте uncensored. Это единственный идентификатор модели, который предоставляет API, и GET /v1/models выводит его.

Как избежать ошибок 429?

Ограничьте свои параллельные запросы до 8 на оплаченном ключе или до 2 на пробном ключе и повторите запрос после задержки Retry-After, когда API попросит об этом.

Поддерживает ли он вызов функций и JSON-режим?

Да. Используйте tools и tool_choice для вызова функций, а response_format с type json_object для вывода в формате JSON. Потоковая передача также работает.

Могу ли я использовать эмбеддинги или генерацию изображений с тем же ключом?

Нет. API предназначен только для текстового чата, без эндпоинтов для эмбеддингов, изображений, аудио или видео.

Ваш ключ — на расстоянии одной формы

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключЧитать документацию