kimiapikey.comHướng dẫn
Tích hợp khóa API Kimi với SDK OpenAI và LangChain
Tích hợp API này vào ứng dụng nghĩa là thay đổi hai giá trị trong mã bạn có thể đã có: URL cơ sở và khóa. Hướng dẫn này hiển thị cách thay đổi cho các SDK OpenAI, LangChain và LiteLLM, sau đó bao gồm việc thử lại và giới hạn cho việc sử dụng sản xuất.
Cập nhật

Điểm chính
- Mỗi client cần ba giá trị: base URL https://api.kimiapikey.com/v1, khóa của bạn và mô hình
uncensored. - Lưu chúng trong biến môi trường để bạn có thể đổi nhà cung cấp mà không cần sửa mã.
- Xử lý riêng các phản hồi 429: rate_limited, concurrency và quá tải tạm thời với Retry-After: 5.
- Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút; khóa dùng thử cho phép 2 và 60.
Những gì thực sự thay đổi trong mã của bạn
Tích hợp khóa API kimi nghe có vẻ như một dự án, nhưng đối với endpoint này, đó là một thay đổi cấu hình. Dịch vụ triển khai định dạng chat completions của OpenAI, vì vậy bất kỳ thư viện máy khách nào cho phép bạn đặt URL cơ sở và khóa đều sẽ hoạt động. Không có SDK tùy chỉnh nào để cài đặt và không có định dạng yêu cầu mới nào để học.
| Cài đặt | Giá trị |
|---|---|
| Base URL | https://api.kimiapikey.com/v1 |
| Xác thực | Khóa từ bảng điều khiển của bạn, gửi dưới dạng Authorization: Bearer |
| Mô hình | uncensored |
| Endpoint | POST /v1/chat/completions, GET /v1/models |
Hai điểm giúp tiết kiệm thời gian. Đầu tiên, đây là một mô hình văn bản phía sau một endpoint: không có endpoint embeddings, không tạo hình ảnh, không có âm thanh. Nếu ứng dụng của bạn gọi những chức năng đó, hãy giữ nhà cung cấp khác cho chúng và chỉ định tuyến trò chuyện vào đây. Thứ hai, đây không phải là API chính thức của Kimi hoặc bất kỳ nhà cung cấp nào khác; đây là một nhà cung cấp độc lập chạy một mô hình trọng số mở, vì vậy tên mô hình từ các nền tảng khác sẽ không khớp. Giải thích khóa API Kimi bao gồm sự khác biệt đó chi tiết hơn.
Lấy khóa của bạn trên trang khóa API. Tài khoản mới có thể nhận $0,50 tín dụng dùng thử tại đó, đủ cho mọi thứ bên dưới.
Cấu hình và di chuyển ứng dụng hiện có
Các thư viện Python và Node chính thức của OpenAI đọc OPENAI_API_KEY và OPENAI_BASE_URL từ môi trường khi bạn không truyền chúng rõ ràng. Điều này giúp tích hợp đơn giản nhất chỉ là thay đổi shell:
export OPENAI_BASE_URL="https://api.kimiapikey.com/v1"
export OPENAI_API_KEY="YOUR_KEY"
Mã hiện tại tạo một máy khách OpenAI() trống giờ đây sẽ giao tiếp với endpoint này. Bạn vẫn phải thay đổi đối số model thành uncensored. Đặt tên mô hình vào một biến, ví dụ LLM_MODEL, để môi trường thử nghiệm và môi trường sản xuất có thể khác nhau mà không cần chỉnh sửa mã.
Thói quen này đáng giá bằng số phút nó tốn. Khi base URL, khóa và mô hình được lưu trong cấu hình, việc chuyển sang nhà cung cấp tương thích OpenAI khác chỉ là một thay đổi triển khai, và hoàn tác cũng là một thay đổi tương tự theo chiều ngược lại.
Hầu hết nhóm không bắt đầu từ tệp trống. Họ có ứng dụng đã gọi API kiểu OpenAI và muốn nó gọi cái này. Việc di chuyển chủ yếu là tìm ba chuỗi.
- Tìm nơi máy khách được tạo và thay đổi URL cơ sở.
- Tìm mọi đối số
model=và thay tên cũ bằnguncensored. - Tìm các tính năng mà mã của bạn sử dụng mà API này không cung cấp, chẳng hạn như embeddings, tạo hình ảnh hoặc âm thanh. Những cuộc gọi đó phải được giữ với nhà cung cấp khác hoặc bị loại bỏ.
Sau đó, so sánh hành vi, không chỉ cú pháp. Một mô hình khác có giọng điệu khác, độ dài mặc định khác và thói quen định dạng khác. Chạy các prompt thử nghiệm hiện có của bạn, đọc các câu trả lời cạnh nhau và điều chỉnh prompt hệ thống nơi giọng điệu đã bị lệch. Văn bản prompt hoạt động xung quanh các điểm yếu của mô hình khác đôi khi không làm gì ở đây, và đôi khi làm mọi thứ tệ hơn, vì vậy hãy loại bỏ các giải pháp tạm thời cũ từng cái một và xem những gì thay đổi.
Bạn cũng nên kiểm tra các tham số bạn truyền. Temperature, top_p, stop, seed và các tham số penalty được truyền nguyên trạng, nên chúng hoạt động như bạn mong đợi. Các trường thuộc về nhà cung cấp khác hoặc các tính năng mà API này không có sẽ không hoạt động hiệu quả. Hãy giữ thân yêu cầu nhỏ và chuẩn. Giới hạn thân yêu cầu là 8 MB, điều này chỉ quan trọng nếu bạn nhúng trực tiếp các tài liệu lớn.
Python: đồng bộ, streaming và bất đồng bộ
Dạng rõ ràng, không phụ thuộc biến môi trường:
from openai import OpenAI
client = OpenAI(
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You answer in plain English."},
{"role": "user", "content": "Explain idempotency in two sentences."},
],
temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)
Để truyền phát, hãy đặt stream=True và đọc từng phần khi chúng đến. Dữ liệu truyền phát được gửi qua server-sent events (SSE), và thông tin sử dụng được báo cáo ở cuối.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a limerick about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Đối với một dịch vụ xử lý nhiều người dùng, hãy sử dụng máy khách không đồng bộ và giới hạn độ đồng thời của chính bạn để bạn không bao giờ vượt quá giới hạn độ đồng thời của khóa. Một semaphore là cách đơn giản nhất:
import asyncio
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
)
gate = asyncio.Semaphore(8)
async def ask(prompt: str) -> str:
async with gate:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
async def main():
prompts = [f"Give one fact about the number {n}." for n in range(20)]
answers = await asyncio.gather(*(ask(p) for p in prompts))
print(len(answers), "answers")
asyncio.run(main())
Đặt semaphore ở mức 2 khi bạn dùng khóa dùng thử, và 8 trên khóa đã nạp tiền.
Node và TypeScript
Thư viện Node lấy hai tùy chọn tương tự dưới tên hơi khác:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.kimiapikey.com/v1",
apiKey: process.env.API_KEY,
});
const completion = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Name three HTTP status codes." }],
});
console.log(completion.choices[0].message.content);
Truyền phát với cùng một máy khách sử dụng stream: true và một bộ lặp bất đồng bộ trên kết quả. Nếu bạn sử dụng một khung giao diện người dùng bao bọc thư viện OpenAI, chẳng hạn như bộ công cụ giao diện trò chuyện, hãy tìm tùy chọn URL cơ sở của nó và đặt nó theo cách tương tự. Hãy giữ khóa trên máy chủ. Một khóa được đặt trong mã chạy trên trình duyệt có thể bị sao chép bởi bất kỳ ai mở công cụ dành cho nhà phát triển, và tín dụng đằng sau nó là tiền thật.
LangChain và LiteLLM
Các khung bao bọc máy khách OpenAI thường hiển thị cùng hai tham số. Trong LangChain cho Python, lớp mô hình trò chuyện OpenAI chấp nhận chúng trực tiếp:
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="uncensored",
base_url="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
temperature=0.5,
)
reply = llm.invoke("Summarize what a message queue does in one sentence.")
print(reply.content)
Từ đó, các chuỗi, mẫu prompt và trình phân tích đầu ra hoạt động như với bất kỳ mô hình trò chuyện nào khác. Nếu bạn liên kết các công cụ, API hỗ trợ gọi hàm với tools và tool_choice, và kết quả công cụ được trả lại cho mô hình dưới dạng các thông báo role: "tool", đây là những gì khung công việc tạo ra.
LiteLLM hữu ích khi bạn muốn một quy tắc gọi chung cho nhiều nhà cung cấp. Thêm tiền tố openai/ vào tên mô hình và truyền URL cơ sở dưới dạng api_base:
import litellm
resp = litellm.completion(
model="openai/uncensored",
api_base="https://api.kimiapikey.com/v1",
api_key="YOUR_KEY",
messages=[{"role": "user", "content": "Say hello in French."}],
)
print(resp.choices[0].message.content)
Cho dữ liệu có cấu trúc, truyền response_format={"type": "json_object"} và nói trong prompt rằng bạn muốn JSON. Luôn phân tích kết quả một cách phòng thủ, vì chế độ JSON yêu cầu JSON hợp lệ nhưng lược đồ của bạn vẫn chỉ là một yêu cầu trong prompt.
Giới hạn, retry và xử lý lỗi
Khóa đã nạp tiền cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 và 60. Thân yêu cầu có thể lên đến 8 MB, và cửa sổ ngữ cảnh là 100.000 token cho prompt và hoàn thành cộng lại. Khi bạn vượt giới hạn, API trả về HTTP 429 và một trong những cái sau:
rate_limited: quá nhiều yêu cầu mỗi phút. Hãy chờ vài giây.concurrency: quá nhiều yêu cầu đang chạy cùng lúc. Hãy đợi một yêu cầu hoàn tất. Một yêu cầu truyền phát giữ chỗ của nó cho đến khi luồng kết thúc, vì vậy một người tiêu dùng chậm sẽ bị tính vào hạn mức của bạn.- 429 với
Retry-After: 5: quá tải tạm thời. Chờ năm giây và thử lại.
Một lớp bọc thử lại nhỏ tôn trọng header này xử lý cả ba trường hợp:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.kimiapikey.com/v1", api_key="YOUR_KEY", max_retries=0)
def chat(messages, tries=4):
for attempt in range(tries):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = int(e.response.headers.get("retry-after", 2 ** attempt))
time.sleep(wait)
raise RuntimeError("still rate limited after retries")
Các yêu cầu bị lỗi hoặc bị từ chối không bị tính phí, vì vậy việc thử lại không phát sinh phí. Hãy ghi lại tiêu đề phản hồi X-Request-Id với mọi lệnh gọi; đây là cách nhanh nhất để xác định một yêu cầu cụ thể nếu có gì đó không ổn. X-Balance-USD cho bạn biết số tín dụng còn lại, mà bạn có thể dùng để kích hoạt cảnh báo. Tài liệu liệt kê tất cả các tiêu đề phản hồi.
Gọi hàm qua khung
Các khung công việc agent phụ thuộc vào việc gọi hàm, vì vậy hãy thử nghiệm ngắn gọn trước khi xây dựng dựa trên nó. API này chấp nhận tools và tool_choice, trả về tool_calls khi mô hình muốn chạy một hàm, và mong đợi kết quả dưới dạng thông báo role: "tool" tham chiếu đến ID lệnh gọi. Truyền phát hoạt động với các công cụ, với lệnh gọi đến dưới dạng các mảnh mà SDK tự lắp ráp cho bạn.
Một bài kiểm tra đầu tiên tốt là một agent một công cụ với một hàm mà bạn có thể kiểm tra kết quả bằng mắt, chẳng hạn như máy tính hoặc tra cứu trong một từ điển nhỏ. Chạy nó mười lần. Nếu mô hình chọn công cụ và điền các đối số của nó chính xác mỗi lần, bạn có thể thêm một công cụ thứ hai. Nếu đôi khi nó trả lời từ bộ nhớ thay vì gọi hàm, hãy viết mô tả công cụ cụ thể hơn, hoặc đặt tool_choice để buộc lệnh gọi cho bước đó. Các mô hình khác nhau về mức độ đáng tin cậy khi điều khiển các chuỗi lệnh gọi dài, vì vậy hãy giữ các chuỗi ngắn và thêm giới hạn bước cho bất kỳ vòng lặp nào để một lần chạy bị nhầm lẫn không thể quay vòng vô hạn và tiêu tốn tín dụng.
Danh sách kiểm tra trước ra mắt ngắn
- Chạy một yêu cầu qua curl hoặc SDK và xác nhận khối sử dụng có mặt.
- Kiểm tra truyền phát với máy khách sẽ được sử dụng trong sản xuất, bao gồm những gì xảy ra khi người dùng đóng trang khi đang truyền phát.
- Giới hạn độ đồng thời của chính bạn dưới giới hạn khóa.
- Đặt
max_tokenskhi câu trả lời ngắn được mong đợi, và cắt lịch sử chat trước khi nó lớn hơn mức bạn sẵn sàng trả. - Giữ khóa trong cấu hình phía máy chủ và thay khóa mới nếu nó xuất hiện trong log.
- Kiểm tra chi phí trên lưu lượng thực. Với giá $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra, một yêu cầu với 3.000 token đầu vào và 700 token đầu ra tốn $0,0008, do đó 10.000 yêu cầu như vậy tốn khoảng $8. Chi tiết có trên trang giá cả.
Các prompt gửi đến API không được dùng để huấn luyện. Quy tắc nội dung duy nhất không thay đổi là giới hạn cứng về nội dung tình dục liên quan đến người chưa thành niên; mô hình được tinh chỉnh để trả lời mà không từ chối đối với việc sử dụng hợp pháp của người lớn, vì vậy các ứng dụng phục vụ công chúng vẫn nên thêm bộ lọc nội dung và kiểm tra độ tuổi của riêng mình ở những nơi luật pháp hoặc người dùng của bạn yêu cầu.
Hướng dẫn khác
- Sử dụng khóa API kiểu Kimi trong Cursor: Hướng dẫn thiết lập
- Bảng giá khóa API Kimi: Chi phí của giải pháp thay thế này
- Khóa API Kimi: Cách hoạt động và các giải pháp thay thế là gì
Câu hỏi thường gặp
Mô hình có giống với Kimi chính thức của Moonshot không?
Không, chúng tôi lưu trữ một mô hình trọng số mở được tinh chỉnh để không kiểm duyệt. Nó không phải là GPT, Claude, Gemini, Grok, DeepSeek hoặc bất kỳ mô hình của nhà cung cấp nào khác. Đó là một mô hình riêng biệt chạy trên máy chủ của chúng tôi.
Bạn có huấn luyện trên dữ liệu của tôi không?
Không. Các prompt và kết quả trả về của bạn không được sử dụng để huấn luyện. Chúng tôi coi trọng quyền riêng tư và sự minh bạch, vì vậy dữ liệu của bạn vẫn thuộc về bạn.
Giới hạn tốc độ là gì?
Bạn bị giới hạn ở 300 yêu cầu mỗi phút trên mỗi khóa. Kích thước tối đa của thân yêu cầu là 8 MB. Các giới hạn này được thiết kế để đảm bảo hiệu suất ổn định cho tất cả người dùng.
Chính sách nội dung là gì?
Mô hình không kiểm duyệt đối với các chủ đề người lớn, gây tranh cãi và sáng tạo. Tuy nhiên, chúng tôi chặn nội dung tình dục liên quan đến trẻ vị thành niên. Đây là giới hạn cứng luôn được áp dụng, bất kể cấp độ đăng ký của bạn là gì.
Hỏi đáp
Tôi có cần một SDK đặc biệt không?
Không. Các thư viện chuẩn của OpenAI cho Python và Node hoạt động sau khi bạn đặt base URL thành https://api.kimiapikey.com/v1 và sử dụng khóa của bạn. LangChain và LiteLLM hoạt động theo cách tương tự.
Tên mô hình nào nên dùng trong mã của tôi?
Dùng uncensored. Đây là ID mô hình duy nhất mà API cung cấp, và GET /v1/models liệt kê nó.
Làm thế nào để tránh lỗi 429?
Giới hạn các yêu cầu đồng thời của bạn ở mức 8 đối với khóa đã nạp tiền hoặc 2 đối với khóa dùng thử, và thử lại sau độ trễ Retry-After khi API yêu cầu.
Nó có hỗ trợ gọi hàm và chế độ JSON không?
Có. Sử dụng tools và tool_choice cho các lệnh gọi hàm, và response_format với type json_object cho đầu ra JSON. Truyền phát (streaming) cũng hoạt động.
Tôi có thể dùng embeddings hoặc tạo ảnh thông qua cùng một khóa không?
Không. API chỉ dành cho trò chuyện văn bản, không có các endpoint cho embeddings, ảnh, âm thanh hoặc video.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.