TR ▾
API anahtarını al

kimiapikey.comKılavuz

Kimi API Anahtarı ile OpenAI SDK'ları ve LangChain Entegrasyonu

Bu API'yi bir uygulamaya entegre etmek, muhtemelen zaten sahip olduğunuz koddaki iki değeri değiştirmeyi gerektirir: base URL ve anahtar. Bu kılavuz OpenAI SDK'ları, LangChain ve LiteLLM için değişikliği gösterir, ardından üretim kullanımı için yeniden denemeleri ve limitleri kapsar.

güncellendi

Merkezi bir merkeze ışıklı çizgilerle bağlanan izometrik bloklar, API'ye entegre olan uygulamaları gösteriyor

Temel noktalar

  • Her istemcinin aynı üç değere ihtiyacı vardır: base URL https://api.kimiapikey.com/v1, anahtarınız ve model uncensored.
  • Sağlayıcıları kodu düzenlemeden değiştirebilmek için bunları ortam değişkenlerinde saklayın.
  • 429 yanıtlarını ayrı olarak işleyin: rate_limited, concurrency ve Retry-After: 5 ile geçici aşırı yüklenme.
  • Tam bir anahtar 8 eşzamanlı isteğe ve dakikada 300 isteğe izin verir; deneme anahtarı 2 ve 60 isteğe izin verir.

Kodunuzda ne gerçekten değişir

Bir kimi api key entegrasyonu bir proje gibi görünse de, bu uç nokta için bir yapılandırma değişikliğidir. Servis OpenAI chat completions formatını uyguladığından, base URL ve anahtar ayarlayabilen herhangi bir istemci kütüphanesi çalışır. Yüklenecek özel bir SDK veya öğrenilecek yeni bir istek yapısı yoktur.

AyarDeğer
Base URLhttps://api.kimiapikey.com/v1
Kimlik doğrulamaKontrol panelinizden gelen anahtar, Authorization: Bearer olarak gönderilir
Modeluncensored
Uç noktalarPOST /v1/chat/completions, GET /v1/models

İki nokta zaman kazandırır. Birincisi, bu tek bir uç noktanın arkasındaki bir metin modelidir: embedding rotası yok, görüntü oluşturma yok, ses yok. Uygulamanız bunları çağırıyorsa, bunlar için başka bir sağlayıcı kullanın ve yalnızca sohbeti buraya yönlendirin. İkincisi, bu Kimi veya başka bir satıcının resmi API'si değildir; tek bir açık ağırlıklı model çalıştıran bağımsız bir sağlayıcıdır, bu nedenle diğer platformlardan model adları çözümlenmez. Kimi API anahtarı açıklaması bu farkı daha uzun şekilde ele alır.

Anahtarınızı API anahtarı sayfası sayfasından alın. Yeni hesaplar burada $0,50 deneme kredisi talep edebilir; bu aşağıdaki her şey için fazlasıyla yeterlidir.

Yapılandırma ve mevcut bir uygulamanın taşınması

Resmi OpenAI Python ve Node kütüphaneleri, bunları açıkça geçmediğinizde OPENAI_API_KEY ve OPENAI_BASE_URL değerlerini ortamdan okur. Bu, en düşük çabayı gerektiren entegrasyonun bir kabuk değişikliği olmasını sağlar:

export OPENAI_BASE_URL="https://api.kimiapikey.com/v1"
export OPENAI_API_KEY="YOUR_KEY"

Yalın OpenAI() istemcisi oluşturan mevcut kod artık bu uç noktaya bağlanır. Hâlâ model bağımsız değişkenini uncensored olarak değiştirmeniz gerekir. Bir değişkene model adını da ekleyin, örneğin LLM_MODEL, böylece test ortamı ile üretim ortamı kod değişikliği olmadan farklılaşabilir.

Bu alışkanlık harcadığı dakikaya değerdir. Base URL, anahtar ve model yapılandırmada olduğunda, başka bir OpenAI uyumlu sağlayıcı denemek bir dağıtım değişikliğidir ve geri alma da tersine aynı değişikliktir.

Çoğu ekip boş bir dosyadan başlamaz. Zaten bir OpenAI tarzı API'yi çağıran bir uygulamaları vardır ve bunun bu API'yi çağırmasını isterler. Taşıma işlemi büyük ölçüde üç dize için arama yapmaktan ibarettir.

  1. İstemcinin oluşturulduğu yeri bulun ve base URL'yi değiştirin.
  2. Her model= argümanını bulun ve eski adı uncensored ile değiştirin.
  3. Bu API'nin sağlamadığı embedding, görüntü oluşturma veya ses gibi kodunuzun kullandığı özellikleri arayın. Bu çağrılar başka bir sağlayıcıda kalmalı veya kaldırılmalıdır.

Ardından yalnızca sözdizimini değil, davranışı da karşılaştırın. Farklı bir modelin farklı bir üslubu, farklı bir varsayılan uzunluğu ve biçimlendirme konusunda farklı alışkanlıkları vardır. Mevcut test istemlerinizi çalıştırın, yanıtları yan yana okuyun ve ton kaymışsa sistem istemini ayarlayın. Başka bir modelin tuhaflıklarına göre çalışan istem metinleri burada bazen hiçbir şey yapmayabilir ve bazen durumu kötüleştirebilir, bu nedenle eski geçici çözümleri tek tek kaldırın ve değişiklikleri izleyin.

İlettiğiniz parametreleri de kontrol edin. Temperature, top_p, stop, seed ve cezalar doğrudan iletilir, bu nedenle, beklendiği gibi davranırlar. Diğer satıcılara ait alanlar veya bu API'de bulunmayan özelliklere ait alanlar anlamlı bir şey yapmaz. İstek gövdesini küçük ve standart tutun. Gövde limiti 8 MB'tır; bu yalnızca büyük belgeleri doğrudan gömdüğünüzde önemlidir.

Python: senkron, streaming ve async

Ortam değişkenlerine bağlı olmayan açık form:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You answer in plain English."},
        {"role": "user", "content": "Explain idempotency in two sentences."},
    ],
    temperature=0.7,
)
print(resp.choices[0].message.content)
print(resp.usage.prompt_tokens, resp.usage.completion_tokens)

Streaming için stream=True ayarlayın ve parçalar geldikçe okuyun. Stream server-sent events üzerinden iletilir ve kullanım bilgisi sonda bildirilir.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a limerick about retries."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Çok kullanıcı işleyen bir hizmet için async istemciyi kullanın ve anahtarınızın eşzamanlılık limitini aşmayacak şekilde kendi eşzamanlılığınızı sınırlayın. Bir semaphore en basit yoldur:

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(
    base_url="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
)
gate = asyncio.Semaphore(8)

async def ask(prompt: str) -> str:
    async with gate:
        r = await client.chat.completions.create(
            model="uncensored",
            messages=[{"role": "user", "content": prompt}],
        )
        return r.choices[0].message.content

async def main():
    prompts = [f"Give one fact about the number {n}." for n in range(20)]
    answers = await asyncio.gather(*(ask(p) for p in prompts))
    print(len(answers), "answers")

asyncio.run(main())

Deneme anahtarıyken semaphore'u 2'ye, fonlanmış anahtarda 8'e ayarlayın.

Node ve TypeScript

Node kütüphanesi aynı iki seçeneği farklı isimler altında alır:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.kimiapikey.com/v1",
  apiKey: process.env.API_KEY,
});

const completion = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Name three HTTP status codes." }],
});

console.log(completion.choices[0].message.content);

Aynı istemci ile streaming stream: true ve sonuç üzerinde bir async iterator kullanır. OpenAI kütüphanesini saran bir ön uç çerçevesi kullanıyorsanız (örneğin bir sohbet UI kiti), base URL seçeneğini arayın ve aynı şekilde ayarlayın. Anahtarı sunucuda tutun. Tarayıcı koduna yerleştirilen bir anahtar, geliştirici araçlarını açan herkes tarafından kopyalanabilir ve arkasındaki kredi gerçek paradır.

LangChain ve LiteLLM

OpenAI istemcisini saran çerçeveler genellikle aynı iki parametreyi ortaya çıkarır. Python için LangChain'de, OpenAI chat model sınıfı bunları doğrudan kabul eder:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="uncensored",
    base_url="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
    temperature=0.5,
)

reply = llm.invoke("Summarize what a message queue does in one sentence.")
print(reply.content)

Oradan zincirler, istem şablonları ve çıktı ayrıştırıcıları herhangi bir chat modeliyle olduğu gibi çalışır. Araçları bağlarsanız, API tools ve tool_choice ile fonksiyon çağırma destekler ve araç sonuçları role: "tool" mesajları olarak modele geri döner; bu çerçevenin ürettiği şeydir.

LiteLLM, birden fazla sağlayıcı arasında tek bir çağrı kuralı istediğinizde kullanışlıdır. Modeli openai/ ile ön ekleyin ve base URL'yi api_base olarak geçirin:

import litellm

resp = litellm.completion(
    model="openai/uncensored",
    api_base="https://api.kimiapikey.com/v1",
    api_key="YOUR_KEY",
    messages=[{"role": "user", "content": "Say hello in French."}],
)
print(resp.choices[0].message.content)

Yapılandırılmış veri için response_format={"type": "json_object"} geçirin ve istemde JSON istediğinizi belirtin. Sonucu her zaman savunmacı bir şekilde ayrıştırın, çünkü JSON modu geçerli JSON ister ancak şemanız yine de yalnızca istemdeki bir istektir.

Limitler, yeniden denemeler ve hata işleme

Fonlanmış bir anahtar 8 eşzamanlı isteğe ve dakikada 300 isteğe izin verir. Bir deneme anahtarı 2 ve 60 isteğe izin verir. Gövde 8 MB'a kadar olabilir ve pencere istem ve tamamlama için birlikte 100.000 token içindir. Bir limiti aştığınızda API HTTP 429 ve bunlardan biriyle yanıt verir:

  • rate_limited: dakika başına çok fazla istek. Birkaç saniye bekleyin.
  • concurrency: aynı anda çok fazla istek. Birinin bitmesini bekleyin. Bir streaming isteği, stream bitene kadar slotunu tutar, bu nedenle yavaş bir tüketici sizin aleyhinize sayılır.
  • Retry-After: 5 ile 429: geçici aşırı yüklenme. Beş saniye bekleyin ve tekrar deneyin.

Başlığı dikkate alan küçük bir yeniden deneme sarmalayıcısı üç durumu da yönetir:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.kimiapikey.com/v1", api_key="YOUR_KEY", max_retries=0)

def chat(messages, tries=4):
    for attempt in range(tries):
        try:
            return client.chat.completions.create(model="uncensored", messages=messages)
        except RateLimitError as e:
            wait = int(e.response.headers.get("retry-after", 2 ** attempt))
            time.sleep(wait)
    raise RuntimeError("still rate limited after retries")

Başarısız veya reddedilen istekler ücretlendirilmez, bu nedenle yeniden deneme faturalandırma cezası taşımaz. Her çağrı için X-Request-Id yanıt başlığını günlüğe kaydedin; bir şeyler yanlış görünürse bir isteği işaretlemenin en hızlı yoludur. X-Balance-USD kalan krediyi söyler; bunu bir uyarıya besleyebilirsiniz. Dokümantasyon tüm yanıt başlıklarını listeler.

Çerçeve üzerinden fonksiyon çağırma

Aracı çerçeveler fonksiyon çağırmaya bağlıdır, bu nedenle üzerine inşa etmeden önce kısa bir test yapmaya değer. Bu API tools ve tool_choice kabul eder, model bir fonksiyon çalıştırmak istediğinde tool_calls döndürür ve sonucu role: "tool" mesajı olarak bekler. Streaming araçlarla çalışır, çağrı SDK tarafından sizin için birleştirilen parçalar halinde gelir.

İyi bir ilk test, sonucu gözle kontrol edebileceğiniz bir fonksiyonla tek araçlı bir aracıdır; örneğin bir hesap makinesi veya küçük bir sözlükte bir arama. On kez çalıştırın. Model her seferinde aracı seçer ve argümanlarını doğru doldurursa ikinci bir araç ekleyebilirsiniz. Bazen işlevi çağırmak yerine bellekten yanıtlarsa, araç tanımını daha spesifik hale getirin veya o adım için çağrıyı zorlamak için tool_choice ayarlayın. Modeller uzun çağrı zincirlerini ne kadar güvenilir sürdürdüğü konusunda farklılık gösterir, bu nedenle zincirleri kısa tutun ve kafası karışmış bir çalıştırma sonsuza kadar dönüp krediyi harcamasın diye herhangi bir döngüye bir adım limiti ekleyin.

Kısa bir lansman öncesi kontrol listesi

  1. curl veya SDK ile bir istek çalıştırın ve kullanım bloğunun mevcut olduğunu onaylayın.
  2. Üretimde kullanılacak istemci ile streaming'i test edin, kullanıcı stream sırasında sayfayı kapattığında ne olduğu dahil.
  3. Kendi eşzamanlılığınızı anahtarın limitinin altında sınırlayın.
  4. max_tokens değerini kısa yanıtların beklenildiği durumlarda ayarlayın ve chat geçmişini, ödemeyi yapmak istediğiniz miktardan fazla büyümeden önce kısaltın.
  5. Anahtarı sunucu tarafı yapılandırmasında tutun ve bir günlükte görünürse döndürün.
  6. Gerçek trafikta maliyeti kontrol edin. 1M giriş için $0,15 ve 1M çıkış için $0,50 fiyatlarla, 3.000 token girdisi ve 700 token çıktısı olan bir istek $0,0008 tutarındadır; bu nedenle 10.000 tanesi yaklaşık $8 tutarındadır. Detaylar fiyatlandırma sayfasında yer almaktadır.

API'ye gönderilen istemler eğitim için kullanılmaz. Hiç değişmeyen tek içerik kuralı, reşit olmayanları içeren cinsel içeriğe getirilen katı sınırdır; model yasal yetişkin kullanımı için reddetmeler olmadan yanıt verecek şekilde ayarlanmıştır, bu nedenle halka hizmet veren uygulamalar yasanın veya kullanıcılarınızın beklediği yerlerde kendi moderasyonlarını ve yaş doğrulamalarını eklemelidir.

Sıkça Sorulan Sorular

Model, Moonshot'un resmi Kimi'si ile aynı mı?
Hayır, sansürsüz olması için ayarlanmış açık ağırlıklı bir model barındırıyoruz. Bu bir GPT, Claude, Gemini, Grok, DeepSeek veya başka bir tedarikçinin modeli değildir. Kendi sunucularımızda çalışan ayrı bir modeldir.

Verilerimle eğitim yapıyor musunuz?
Hayır. İstemleriniz ve tamamlamalarınız eğitim için kullanılmaz. Gizliliğe ve şeffaflığa değer veriyoruz, bu nedenle verileriniz size ait kalır.

Hız limitleri nelerdir?
Her anahtar başına dakikada 300 istekle sınırlısınız. Maksimum istek gövdesi boyutu 8 MB'tır. Bu limitler, tüm kullanıcılar için kararlı performansın sağlanması için tasarlanmıştır.

İçerik politikası nedir?
Model, yetişkinlere yönelik, tartışmalı ve yaratıcı konular konusunda sansürsüzdür. Ancak, reşit olmayanlarla ilgili cinsel içerikler engellenir. Bu, abonelik seviyenizden bağımsız olarak her zaman geçerli olan katı bir sınırlamadır.

Sorular ve cevaplar

Özel bir SDK'ya ihtiyacım var mı?

Hayır. Python ve Node için standart OpenAI kütüphaneleri, base URL'yi https://api.kimiapikey.com/v1 olarak ayarladıktan ve anahtarınızı kullandıktan sonra çalışır. LangChain ve LiteLLM de aynı şekilde çalışır.

Kodum hangi model adını kullanmalı?

uncensored modelini kullanın. API'nin sunduğu tek model ID'sidir ve GET /v1/models bunu listeler.

429 hatalarından nasıl kaçınırım?

Fonlanmış anahtarda eşzamanlı isteklerinizi 8'e, deneme anahtarınızda ise 2'ye kadar sınırlandırın ve API Retry-After gecikmesini talep ettiğinde yeniden deneyin.

Fonksiyon çağırma ve JSON modunu destekliyor mu?

Evet. Fonksiyon çağrıları için tools ve tool_choice, JSON çıktısı için ise type json_object ile response_format kullanın. Akış (streaming) de çalışır.

Aynı anahtar aracılığıyla embedding veya görüntü oluşturma kullanabilir miyim?

Hayır. API yalnızca metin sohbet içindir; embedding, görüntü, ses veya video uç noktaları yoktur.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı alDokümantasyonu oku