Kimi API 金鑰與 OpenAI SDK 及 LangChain 整合
將此 API 整合至應用程式意味著修改你現有程式碼中的兩個值:Base URL 與金鑰。本指南展示 OpenAI SDK、LangChain 與 LiteLLM 的修改方式,並涵蓋生產環境的重試與限制。
更新於

重點摘要
- 每個用戶端都需要相同的三個值:Base URL https://api.kimiapikey.com/v1、你的金鑰以及模型
uncensored。 - 將它們儲存於環境變數中,以便在不編輯程式碼的情況下更換供應商。
- 單獨處理 429 回應:rate_limited、concurrency 以及帶有 Retry-After: 5 的暫時過載。
- 完整金鑰允許 8 個並行請求與每分鐘 300 個;試用金鑰允許 2 個與 60 個。
你的程式碼實際發生了什麼變化
Kimi API 金鑰整合聽起來像是一個專案,但對於此端點而言,它僅是設定變更。該服務實作了 OpenAI 聊天完成格式,因此任何允許你設定 Base URL 與金鑰的客戶端程式庫皆可運作。無需安裝自訂 SDK,也無需學習新的請求格式。
| 設定 | 說明 |
|---|---|
| Base URL | https://api.kimiapikey.com/v1 |
| 驗證 | 來自你儀表板的金鑰,以 Authorization: Bearer 傳送 |
| 模型 | uncensored |
| 端點 | POST /v1/chat/completions、GET /v1/models |
兩點可以節省時間。首先,這是一個單一端點後端的文字模型:沒有嵌入路由、沒有圖像生成、沒有音訊。如果您的應用程式呼叫這些功能,請為它們保留另一個供應商,僅將聊天路由到此處。其次,這不是 Kimi 或其他任何供應商的官方 API;這是一個獨立供應商運行單一開放權重模型,因此其他平台的模型名稱將無法解析。Kimi API 金鑰說明文件更詳細地涵蓋了這一差異。
前往 API 金鑰頁面取得金鑰。新帳戶可領取 $0.50 試用額度,足以應付以下所有內容。
設定與現有應用程式遷移
當您未明確傳遞時,官方 OpenAI Python 和 Node 函式庫會從環境讀取OPENAI_API_KEY和OPENAI_BASE_URL。這使得最低限度的整合只需修改 shell:
export OPENAI_BASE_URL="https://api.kimiapikey.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
現有程式碼會建立一個空的 OpenAI() 用戶端,現在會連接到此端點。你仍然需要將 model 參數設為 uncensored。也請將模型名稱放入變數中,例如 LLM_MODEL,讓測試環境與生產環境可以不同,而不需要修改程式碼。
這個習慣值得花費的那一分鐘。當 Base URL、金鑰與模型位於設定檔中時,嘗試另一個相容 OpenAI 的供應商僅需部署變更,而回滾則是反向的相同變更。
大多數團隊並非從空白檔案開始。他們已有呼叫 OpenAI 風格 API 的應用程式,並希望其呼叫此 API。遷移主要是搜尋三個字串。
- 找到建立客戶端的位置並變更 Base URL。
- 找到所有
model=參數,並將舊名稱替換為uncensored。 - 搜尋程式碼使用的此 API 未提供的功能,例如嵌入、圖像生成或音訊。這些呼叫必須保留在其他供應商或予以移除。
然後比較行為,而不僅是語法。不同的模型有不同的語氣、不同的預設長度以及不同的格式習慣。執行您現有的測試提示詞,並排閱讀答案,並在語氣偏離時調整系統提示詞。為繞開另一個模型怪癖而寫的提示詞,在這裡有時完全無效,有時甚至會使情況變糟,因此請逐一移除舊的變通方法並觀察變化。
也要檢查您傳遞的參數。Temperature、top_p、stop、seed 和懲罰都會原樣傳遞,因此它們的行為符合您的預期。屬於其他供應商或此 API 缺乏的功能的欄位將不會產生任何作用。保持請求主體小而標準。請求主體限制為 8 MB,這僅在您直接嵌入大型文件時才有意義。
Python:同步、串流與非同步
明確形式,不依賴環境變數:
from openai import OpenAI
client = OpenAI(
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain English."},
{"role": "user", "content": "Explain idempotency in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
進行串流輸出時,請設定 stream=True,並在資料區塊到達時讀取它們。串流輸出透過伺服器發送事件(SSE)傳送,用量會在最後報告。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a limerick about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
對於處理許多使用者的服務,使用非同步客戶端並限制你自己的並行性,以免超過金鑰的並行限制。訊號量(semaphore)是最簡單的方式:
import asyncio
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
)
gate = asyncio.Semaphore(8)
async def ask(prompt: str) -> str:
async with gate:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
async def main():
prompts = [f"Give one fact about the number {n}." for n in range(20)]
answers = await asyncio.gather(*(ask(p) for p in prompts))
print(len(answers), "answers")
asyncio.run(main())
當你處於試用金鑰時,將訊號量設為 2;處於儲值金鑰時設為 8。
Node 和 TypeScript
Node 程式庫在稍有不同的名稱下接受相同的兩個選項:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.kimiapikey.com/v1",
apiKey: process.env.API_KEY,
});
const completion = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three HTTP status codes." }],
});
console.log(completion.choices[0].message.content);
使用相同客戶端的串流輸出使用stream: true和結果的非同步迭代器。如果您使用包裝 OpenAI 函式庫的前端框架,例如聊天 UI 工具包,請尋找其Base URL 選項並以相同方式設定。將金鑰保留在伺服器上。放在瀏覽器程式碼中的金鑰可以被任何開啟開發者工具的人複製,其背後的額度是真實的資金。
LangChain 與 LiteLLM
包裝 OpenAI 客戶端的框架通常會公開相同的兩個參數。在 Python 的 LangChain 中,OpenAI 聊天模型類別直接接受它們:
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
temperature=0.5,
)
reply = llm.invoke("Summarize what a message queue does in one sentence.")
print(reply.content)
從那裡開始,鏈、提示詞範本和輸出解析器的工作方式與任何聊天模型相同。如果您綁定工具,API 支援使用tools和tool_choice的函式呼叫,工具結果以role: "tool"訊息返回給模型,這是框架產生的內容。
LiteLLM 在希望跨多個供應商使用單一呼叫慣例時很有用。在模型前加上openai/並將 Base URL 作為api_base傳遞:
import litellm
resp = litellm.completion(
model="openai/uncensored",
api_base="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
messages=[{"role": "user", "content": "Say hello in French."}],
)
print(resp.choices[0].message.content)
對於結構化資料,傳遞response_format={"type": "json_object"}並在提示詞中說明您想要 JSON。始終防禦性地解析結果,因為 JSON 模式要求有效的 JSON,但您的結構描述仍只是提示詞中的請求。
限制、重試與錯誤處理
已儲值金鑰允許 8 個並行請求與每分鐘 300 個請求。試用金鑰允許 2 個與 60 個。請求主體最多可達 8 MB,上下文視窗為提示詞與完成合計 100,000 個 token。當你超過限制時,API 會以 HTTP 429 與以下其中一項回應:
rate_limited:每分鐘請求過多。退避幾秒鐘。concurrency:同時運行的請求過多。等待一個完成。串流請求會保留其槽位直到串流結束,因此慢速消費者會佔用您的名額。- 429 錯誤且
Retry-After: 5:暫時過載。等待五秒鐘後再試。
尊重標頭的小重試包裝函式可處理所有三種情況:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.kimiapikey.com/v1", api_key="YOUR_KEY", max_retries=0)
def chat(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = int(e.response.headers.get("retry-after", 2 ** attempt))
time.sleep(wait)
raise RuntimeError("still rate limited after retries")
失敗或遭拒的請求不會計費,因此重試不會產生額外費用。每次呼叫時請記錄 X-Request-Id 回應標頭;若出現異常,這是定位單一請求最快的方式。X-Balance-USD 會顯示剩餘額度,你可將其餵給警報系統。說明文件 列出了所有回應標頭。
透過框架進行函式呼叫
Agent 框架依賴函式呼叫,因此在建立之前值得進行簡短測試。此 API 接受tools和tool_choice,當模型想要執行函式時返回tool_calls,並期望以role: "tool"訊息返回結果,該訊息引用呼叫 ID。串流輸出與工具一起運作,呼叫以片段形式到達,SDK 會為您組裝。
良好的第一個測試是建立一個具單一工具的代理程式,其函式的結果可透過肉眼檢查,例如計算機或小型字典的查詢。執行十次。如果模型每次都正確選擇工具並填入參數,你可以加入第二個工具。如果模型有時會從記憶中回答而非呼叫函式,請使工具描述更具體,或將 tool_choice 設為強制該步驟的呼叫。模型驅動長串呼叫的可靠性各不相同,因此請保持呼叫鏈簡短,並在迴圈中加入步驟限制,以免執行過程陷入無限循環並耗盡額度。
簡短的上線前檢查清單
- 透過 curl 或 SDK 執行一個請求並確認用量區塊存在。
- 使用生產環境將使用的用戶端測試串流輸出,包括當使用者在串流中途關閉頁面時的情況。
- 將你自己的並行性限制在金鑰限制以下。
- 在預期短回答的情況下設定
max_tokens,並在聊天歷史超過你想付費的範圍前進行修剪。 - 將金鑰保留在伺服器端設定中,如果它出現在日誌中則進行輪替。
- 在真實流量下檢查成本。輸入每 1M token 為 $0.15,輸出每 1M token 為 $0.50,一次請求輸入 3,000 token、輸出 700 token 的成本為 $0.0008,因此 10,000 次請求的成本約為 $8。詳細資訊請見定價頁面。
傳送至 API 的提示詞不會用於訓練。唯一永不改變的內容規則,是針對未成年人之性內容的嚴格限制;在其他方面,該模型經過調整,可針對合法成人用途無拒絕地回答,因此面向大眾的應用程式仍應根據法律或使用者期望,加入自己的審核與年齡檢查機制。
更多指南
常見問題
該模型與 Moonshot 官方的 Kimi 相同嗎?
不,我們託管了一個經過微調以實現無審查的開放權重模型。它不是 GPT、Claude、Gemini、Grok、DeepSeek 或其他供應商提供的模型。這是一個運行在我們自有伺服器上的獨立模型。
你會在訓練中使用我的資料嗎?
不會。你的提示詞與生成內容不會用於訓練。我們重視隱私與透明度,因此你的資料始終歸你所有。
速率限制為何?
每個金鑰每分鐘限 300 個請求。請求主體的最大大小為 8 MB。這些限制旨在確保所有使用者的穩定效能。
內容政策為何?
該模型對於成人、爭議性及創意主題為無審查。然而,我們會封鎖涉及未成年人的性內容。這是硬性限制,無論你的訂閱等級為何,皆會適用。
問答
我需要特殊的 SDK 嗎?
不會。設定 Base URL 為 https://api.kimiapikey.com/v1 並使用您的 API 金鑰後,標準的 Python 和 Node.js OpenAI 函式庫即可運作。LangChain 和 LiteLLM 亦然。
我的程式碼應使用哪個模型名稱?
使用 uncensored。這是 API 提供的唯一模型 ID,且 GET /v1/models 會列出該模型。
如何避免 429 錯誤?
在已付費金鑰上將您的並行請求限制為 8,在試用金鑰上限制為 2,並在 API 要求時於 Retry-After 延遲後重試。
是否支援函式呼叫和 JSON 模式?
是。請使用 tools 和 tool_choice 進行函式呼叫,並使用帶有 type json_object 的 response_format 進行 JSON 輸出。串流輸出也可用。
我可以使用相同的 API 金鑰來使用嵌入或圖像生成嗎?
不會。該 API 僅限文字聊天,沒有嵌入、影像、音訊或影片的端點。
只差一張表單,即可取得金鑰
建立帳號、複製金鑰、更改Base URL。這就是整個設定過程。