Kimi API 密钥与 OpenAI SDK 及 LangChain 集成
将此 API 集成到应用中意味着更改你现有代码中的两个值:base URL 和密钥。本指南展示 OpenAI SDK、LangChain 和 LiteLLM 的更改方法,并涵盖生产环境的重试和限制。
更新于

要点
- 每个客户端都需要三个相同的值:base URL https://api.kimiapikey.com/v1、你的密钥和模型
uncensored。 - 将它们存储在环境变量中,以便在不编辑代码的情况下更换提供商。
- 单独处理 429 响应:rate_limited、concurrency 以及带有 Retry-After: 5 的临时过载。
- 完整密钥允许 8 个并发请求和每分钟 300 个请求;试用密钥允许 2 个和 60 个。
你的代码中实际发生了什么变化
kimi api 密钥集成听起来像是一个项目,但对此接口而言,它只是一个配置更改。该服务实现了 OpenAI 聊天补全格式,因此任何允许你设置 base URL 和密钥的客户端库都能工作。无需安装自定义 SDK,也无需学习新的请求格式。
| 设置 | 说明 |
|---|---|
| Base URL | https://api.kimiapikey.com/v1 |
| 认证 | 来自你仪表盘的密钥,以 Authorization: Bearer 形式发送 |
| 模型 | uncensored |
| 接口 | POST /v1/chat/completions,GET /v1/models |
两点可以节省时间。首先,这是一个通过单一接口提供服务的文本模型:没有嵌入接口,没有图像生成,没有音频。如果你的应用需要这些功能,请保留另一个提供商来处理它们,仅将聊天请求路由到这里。其次,这不是 Kimi 或其他任何供应商的官方 API;它是一个独立提供商,运行一个开放权重模型,因此其他平台的模型名称将无法解析。Kimi API 密钥说明对此差异进行了更详细的介绍。
在API 密钥页面获取你的密钥。新账户可以在那里领取 $0.50 的试用额度,这对于以下内容来说已经足够了。
配置和迁移现有应用
当你不显式传递它们时,官方的 Python 和 Node OpenAI 库会从环境变量中读取 OPENAI_API_KEY 和 OPENAI_BASE_URL。这使得最低工作量的集成成为一个 shell 更改:
export OPENAI_BASE_URL="https://api.kimiapikey.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
构建裸 OpenAI() 客户端的现有代码现在将连接到该接口。你仍需将 model 参数更改为 uncensored。也将模型名称放入变量中,例如 LLM_MODEL,以便测试环境和生产环境可以不同而无需编辑代码。
这种习惯值得花费的那一分钟。当 base URL、密钥和模型位于配置中时,尝试另一个兼容 OpenAI 的提供商只是一个部署更改,回滚则是反向的相同更改。
大多数团队不是从零开始。他们有一个已经调用 OpenAI 风格 API 的应用,并希望它调用这个 API。迁移主要是搜索三个字符串。
- 找到构建客户端的位置并更改 base URL。
- 找到每个
model=参数,并将旧名称替换为uncensored。 - 搜索你的代码使用但此 API 未提供的功能,例如嵌入、图像生成或音频。这些调用必须保留在另一个提供商中或移除。
然后比较行为,而不仅仅是语法。不同的模型有不同的语气、不同的默认长度和不同的格式习惯。运行你现有的测试提示词,并排阅读答案,并在语气漂移时调整系统提示词。为绕开其他模型怪癖而写的提示词在这里可能毫无作用,有时甚至会使情况更糟,因此逐一移除旧变通方法并观察变化。
也要检查你传递的参数。Temperature、top_p、stop、seed 和惩罚项会被透传,因此它们的行为符合你的预期。属于其他供应商或此 API 缺乏的功能的字段将不会有用。保持请求体小而标准。请求体限制为 8 MB,这仅在你直接嵌入大型文档时才重要。
Python:同步、流式输出和异步
显式形式,不依赖环境变量:
from openai import OpenAI
client = OpenAI(
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain English."},
{"role": "user", "content": "Explain idempotency in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
对于流式输出,设置 stream=True 并随到达读取块。流通过服务器发送事件交付,使用情况在末尾报告。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a limerick about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
对于处理许多用户的服务,使用异步客户端并限制你自己的并发量,以免超过密钥的并发限制。信号量是最简单的方法:
import asyncio
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
)
gate = asyncio.Semaphore(8)
async def ask(prompt: str) -> str:
async with gate:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
async def main():
prompts = [f"Give one fact about the number {n}." for n in range(20)]
answers = await asyncio.gather(*(ask(p) for p in prompts))
print(len(answers), "answers")
asyncio.run(main())
在试用密钥期间将信号量设置为 2,在付费密钥期间设置为 8。
Node 和 TypeScript
Node 库在略有不同的名称下接受相同的两个选项:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.kimiapikey.com/v1",
apiKey: process.env.API_KEY,
});
const completion = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three HTTP status codes." }],
});
console.log(completion.choices[0].message.content);
使用相同客户端的流式输出使用 stream: true 和结果的异步迭代器。如果你使用包装 OpenAI 库的前端框架,例如聊天 UI 工具包,查找其 base URL 选项并以相同方式设置。将密钥保留在服务器端。放在浏览器代码中的密钥可以被任何打开开发人员工具的人复制,其后的额度是真实资金。
LangChain 和 LiteLLM
包装 OpenAI 客户端的框架通常公开相同的两个参数。在 Python 的 LangChain 中,OpenAI 聊天模型类直接接受它们:
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
temperature=0.5,
)
reply = llm.invoke("Summarize what a message queue does in one sentence.")
print(reply.content)
从那里,链、提示模板和输出解析器的工作方式与任何聊天模型相同。如果你绑定工具,API 支持带有 tools 和 tool_choice 的函数调用,工具结果作为 role: "tool" 消息返回给模型,这是框架生成的内容。
当你希望在多个提供商之间使用一种调用约定时,LiteLLM 很有用。在模型前加上 openai/ 并将 base URL 作为 api_base 传递:
import litellm
resp = litellm.completion(
model="openai/uncensored",
api_base="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
messages=[{"role": "user", "content": "Say hello in French."}],
)
print(resp.choices[0].message.content)
对于结构化数据,传递 response_format={"type": "json_object"} 并在提示词中说明你想要 JSON。始终防御性地解析结果,因为 JSON 模式要求有效的 JSON,但你的模式仍然只是提示词中的一个请求。
限制、重试和错误处理
付费密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个和 60 个。请求体最多可达 8 MB,上下文窗口为 100,000 个 token,包括提示词和补全。当你超过限制时,API 会返回 HTTP 429 以及以下之一:
rate_limited:每分钟请求过多。退避几秒。concurrency:同时运行的请求过多。等待一个完成。流式请求会占用其槽位直到流结束,因此慢速的消费端也会占用你的并发额度。- 带有
Retry-After: 5的 429:临时过载。等待五秒并重试。
遵循该标头的小型重试包装器处理所有三种情况:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.kimiapikey.com/v1", api_key="YOUR_KEY", max_retries=0)
def chat(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = int(e.response.headers.get("retry-after", 2 ** attempt))
time.sleep(wait)
raise RuntimeError("still rate limited after retries")
失败或拒绝的请求不会收费,因此重试不会产生额外费用。每次调用都记录 X-Request-Id 响应头;如果出现问题,这是指向单个请求的最快方法。X-Balance-USD 告诉你剩余多少额度,你可以将其用于警报。文档列出了所有响应头。
通过框架进行函数调用
Agent 框架依赖于函数调用,因此在构建之前值得进行简短测试。此 API 接受 tools 和 tool_choice,当模型想要运行函数时返回 tool_calls,并期望将结果作为引用调用 ID 的 role: "tool" 消息。流式输出与工具一起工作,调用以片段形式到达,SDK 会为你组装。
一个好的首次测试是使用一个工具的代理,其结果可以通过肉眼检查,例如计算器或小字典中的查找。运行十次。如果模型每次都正确选择工具并填充其参数,你可以添加第二个工具。如果它有时从内存中回答而不是调用函数,使工具描述更具体,或设置 tool_choice 以强制该步骤的调用。模型在驱动长调用链方面的可靠性不同,因此保持链短并在任何循环中添加步骤限制,以免混乱的运行永远旋转并花费额度。
简短的发布前检查清单
- 通过 curl 或 SDK 运行一个请求,并确认使用块存在。
- 使用将在生产中使用的客户端测试流式输出,包括用户在流中间关闭页面时会发生什么。
- 将你自己的并发量限制在密钥限制以下。
- 在预期短答案的地方设置
max_tokens,并在聊天历史增长超过你想要付费的范围之前进行修剪。 - 将密钥保留在服务器端配置中,如果它出现在日志中,请轮换它。
- 在真实流量下查看成本。输入每 100 万 token 收费 $0.15,输出每 100 万 token 收费 $0.50,一次请求输入 3,000 token、输出 700 token 的成本为 $0.0008,因此 10,000 次此类请求的成本约为 $8。详情见 定价页面。
发送给 API 的提示词不会用于训练。唯一不变的内容规则是对涉及未成年人的性内容的硬性限制;该模型在其他方面经过调整,可在合法成人使用中无拒绝地回答,因此面向公众的应用程序仍应根据法律或用户期望添加自己的审核和年龄验证。
更多指南
常见问题
该模型与 Moonshot 的官方 Kimi 相同吗?
不,我们托管的是一个经过调整以实现无审查的开放权重模型。它不是 GPT、Claude、Gemini、Grok、DeepSeek 或其他供应商的模型。这是一个运行在我们自己服务器上的独立模型。
你们对我的数据进行训练吗?
不。你的提示词和补全内容不会用于训练。我们重视隐私和透明度,因此你的数据仍归你所有。
速率限制是多少?
每个密钥每分钟限制为 300 个请求。最大请求体大小为 8 MB。这些限制旨在确保所有用户的稳定性能。
内容政策是什么?
该模型在成人、争议和创意主题方面无审查。但是,我们会屏蔽涉及未成年人的色情内容。这是一个硬性限制,始终适用,无论你的订阅层级如何。
问答
我需要特殊的 SDK 吗?
不。设置 base URL 为 https://api.kimiapikey.com/v1 并使用你的 API 密钥后,标准的 Python 和 Node.js OpenAI 库即可使用。LangChain 和 LiteLLM 的使用方式相同。
我的代码应使用哪个模型名称?
使用 uncensored。这是 API 提供的唯一模型 ID,且 GET /v1/models 会列出该模型。
如何避免 429 错误?
将你自己的并发请求限制为:使用付费密钥时最多 8 个,使用试用密钥时最多 2 个。当 API 要求时,在 Retry-After 延迟后重试。
是否支持函数调用和 JSON 模式?
支持。使用 tools 和 tool_choice 进行函数调用,使用 response_format 并设置 type json_object 以获取 JSON 输出。流式输出也支持。
我可以使用相同的密钥调用嵌入或图像生成接口吗?
不可以。该 API 仅支持文本对话,不提供嵌入、图像、音频或视频接口。
只差一张表单,即可获得密钥
创建账户,复制密钥,更改 base URL。这就是全部设置。