Modele

Adresezi gateway-ul prin alias, nu prin numele vendorului upstream. Un alias este o identitate stabilă pe care gateway-ul o rezolvă la un model concret în momentul cererii, așa că codul tău nu se schimbă niciodată când se schimbă upstream-ul.

codai — singurul nume de reținutCopiază linkul secțiunii

model: "codai" este identitatea principală. Astăzi rutează către modelele Claude actuale ale Anthropic (familiile Opus, Fable, Sonnet și Haiku), cu failover automat între deployment-uri aprobate când unul nu este disponibil. Lanțul din spatele numelui se poate schimba. Header-ul de răspuns x-codai-routed-to îți spune care model a răspuns la fiecare cerere, iar distribuția live a rutării de pe codai.ro arată unde a mers efectiv traficul din producție. Modelele altor furnizori nu fac parte din această rută; le apelezi după nume (vezi nume upstream directe). Fixează codai-max (sau codai-fable) când vrei Fable 5.1 primul.

codai este și alias-ul cu cea mai multă protecție încorporată:

• Prompt caching este mereu pornit. Opt-out-ul X-Codai-Cache: 0 este ignorat pentru alias-urile codai* (este respectat pe numele upstream directe). Citirile din cache costă aproximativ a zecea parte din input-ul proaspăt.
• Fiecare cerere este contorizată în micro-USD pe cheia ta, inclusiv sub-apelurile pe care gateway-ul le face în numele tău.
• Effort este un buton pe care îl controlezi. API-ul brut pornește implicit pe medium; configurația VS Code livrează high (max e la un pas pe buton). Vezi effort și thinking.

Alias-uri publiceCopiază linkul secțiunii

Apar în GET /v1/models pentru orice cheie.

Alias-uri de workloadCopiază linkul secțiunii

Ascunse din listarea /v1/models, dar rezolvabile de orice cheie care poate adresa codai. Există ca integrările IDE să poată fixa un rol pe un model fără să inventeze nume proprii.

codai Max (previzualizare)Copiază linkul secțiunii

codai-max-n este un mod opțional pentru sarcini grele, distinct de pinul codai-max. E oprit până când operatorul gateway-ului îl pornește; cât timp e oprit, numele e respins ca orice model necunoscut (HTTP 400). Nu apare niciodată în /v1/models și poate fi adresat de orice cheie care poate adresa codai.

Pentru fiecare cerere, gateway-ul:

1. generează în paralel mai multe răspunsuri candidate (implicit 4, maximum 8);
2. elimină candidații defecți și, când codul poate rula în sandbox, îi preferă pe cei al căror cod chiar rulează;
3. cere unui singur judecător să compare deodată toți candidații rămași și să aleagă unul, cu un scor de încredere;
4. când judecătorul e nesigur, întreabă o singură dată un model frontier și servește acel răspuns. Un răspuns verificat prin execuție nu este escaladat niciodată.

Alias-uri cu scop specialCopiază linkul secțiunii

Detalii și exemple pe pagina embeddings, audio și realtime.

Nume upstream directeCopiază linkul secțiunii

Poți ocoli alias-urile și numi un model concret — claude-sonnet-5-5, gpt-6.1-sol, gemini-3.8-flash, grok-4.6 și așa mai departe — dacă planul tău îl permite. GET /v1/models returnează exact ce poate adresa cheia ta, alias-uri și modele concrete la fel:

curl https://ai.codai.ro/v1/models -H "Authorization: Bearer $CODAI_API_KEY"

{
  "object": "list",
  "data": [
    {
      "id": "codai",
      "object": "model",
      "created": 0,
      "owned_by": "codai",
      "codai": {
        "kind": "alias",
        "type": "chat",
        "routesTo": ["claude-opus-5-5", "claude-fable-5-1", "claude-opus-5", "claude-sonnet-5-5", "claude-sonnet-5", "claude-haiku-5-5", "claude-haiku-4-5"],
        "capabilities": { "tools": true, "vision": true, "streaming": true, "maxInputTokens": 1000000, "maxOutputTokens": 128000 }
      }
    }
  ]
}

Obiectul codai este o extensie non-standard; clienții OpenAI-compatibili îl ignoră, IDE-urile îl citesc pentru a-și dimensiona indicatorii de context. owned_by este codai pentru alias-uri și codai-upstream pentru modele concrete.

Catalogul publicCopiază linkul secțiunii

GET /v1/public/models nu cere cheie. Întoarce lista curatoriată a modelelor pe care codai le numește public, filtrată după ce rutează gateway-ul chiar acum: un model scos din rutare dispare din răspuns în câteva minute. Include și modelele open-weight proprii codai, care rulează pe dispozitivul tău și nu trec niciodată prin gateway. CORS este deschis (*), iar răspunsurile pot fi păstrate în cache o oră, așa că site-urile îl pot citi direct.

curl https://ai.codai.ro/v1/public/models

{
  "object": "list",
  "updated": "2026-10-11T12:00:00.000Z",
  "live": true,
  "aliases": [
    { "id": "codai", "description": "The default. Routes each request across Anthropic's current Claude models by task tier: …", "routesTo": ["claude-opus-5-5", "claude-fable-5-1", "claude-sonnet-5-5", "claude-haiku-5-5"] },
    { "id": "codai-fast", "description": "…", "routesTo": ["claude-haiku-5-5", "claude-haiku-4-5"] }
  ],
  "data": [
    { "id": "claude-opus-5-5", "name": "Claude Opus 5.5", "provider": "Anthropic", "family": "Claude Opus", "via": ["Google Vertex AI", "Microsoft Azure AI Foundry"], "tier": "large", "kind": "chat", "released": "2026-09-22", "own": false, "highlight": true, "aliases": ["codai"] },
    { "id": "gpt-6.1-sol", "name": "GPT-6.1 Sol", "provider": "OpenAI", "family": "GPT-6", "via": ["Microsoft Azure AI Foundry"], "tier": "large", "kind": "chat", "own": false, "highlight": true, "aliases": [] },
    { "id": "codai-nano", "name": "codai-nano", "provider": "codai", "family": "codai-nano", "via": ["on-device"], "tier": "small", "kind": "chat", "own": true, "highlight": true, "aliases": [], "base": "google/gemma-4-E2B-it", "note": "Runs on your Android phone in the codai app (LiteRT-LM). …" }
  ]
}

Textele description și note sunt în engleză.

Dacă cheia ta poate apela un model decide GET /v1/models, nu această listă.

Cum funcționează rezolvareaCopiază linkul secțiunii

Fiecare alias poartă un lanț de intrări { provider, upstreamModel }. La fiecare cerere gateway-ul parcurge lanțul, sare adaptoarele marcate momentan ca nesănătoase și trimite către primul sănătos. Lanțul este dată, reîncărcată din registru la fiecare minut — adăugarea sau schimbarea unui upstream nu modifică niciun cod de client. Allowlist-ul cheii tale (dacă tier-ul setează unul) se aplică modelului rezolvat, nu alias-ului, așa că un tier care permite codai permite și codai-fast.

Effort și thinkingCopiază linkul secțiunii

Adâncimea raționamentului este un buton, nu un model. O setezi per cerere în oricare dintre două moduri echivalente:

curl https://ai.codai.ro/v1/chat/completions \
  -H "Authorization: Bearer $CODAI_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Codai-Effort: high" \
  -d '{ "model": "codai", "messages": [{ "role": "user", "content": "Demonstrează că √2 este irațional." }] }'

Header-ul câștigă când sunt prezente ambele. Când nu e setat niciunul, gateway-ul folosește medium. Tier-urile, de la cel mai ieftin la cel mai scump:

Poți activa și extended thinking direct: X-Codai-Thinking: 1 îl pornește, X-Codai-Thinking-Budget: <tokeni> setează bugetul (implicit 16 384).

Atenuarea pe continuăriCopiază linkul secțiunii

Într-o buclă de agent, majoritatea turelor sunt modelul consumând un rezultat de unealtă, nu pornind o sarcină. Pe aceste ture de continuare cu unelte gateway-ul limitează orice buget de thinking injectat la 4 096 tokeni, ca o buclă de 30 de pași să nu plătească factura max de 30 de ori. Turele proaspete de utilizator păstrează bugetul complet.

Dacă ai nevoie de bugetul complet la fiecare pas — o demonstrație lungă purtată peste apeluri de tool, de exemplu — trimiți X-Codai-Thinking-Pin: 1. Header-ul de răspuns x-codai-effort-continuation-dampened: 1 îți spune când s-a aplicat limitarea.

Ce îți spune răspunsulCopiază linkul secțiunii