Clienți

Gateway-ul publică configurații gata de lipit pentru tool-urile pe care oamenii le folosesc efectiv. Nimic de pe aceste endpoint-uri nu e secret — cheia ta e mereu un placeholder pe care îl completezi local — așa că sunt publice și deschise CORS.

VS Code (Copilot Chat, Custom Endpoint)

Provider-ul de modele de limbaj Custom Endpoint din VS Code primește un obiect JSON care descrie modelele de adăugat în picker. Gateway-ul îl servește gata construit:

GET https://ai.codai.ro/vscode/chatLanguageModels.json

curl.exe -s https://ai.codai.ro/vscode/chatLanguageModels.json | Set-Clipboard

Picker-ul primește trei intrări, fiecare o identitate fixă de model:

Configurația servită setează header-e care țin gateway-ul un transport transparent: X-Codai-Disable-Subagents: 1, X-Codai-No-Recall: 1, X-Codai-Compact: off, plus X-Codai-Thinking: 1 cu buget per alias și X-Codai-Cache: 1. Copilot deține orchestrarea și transcript-ul; gateway-ul nu rulează niciodată o a doua buclă de agent în spatele lui.

Două endpoint-uri însoțitoare publică o bază curată de setări: GET /vscode/settings.json (setări de utilizator VS Code) și GET /vscode/.copilot/settings.json (Copilot CLI ~/.copilot/settings.json).

GitHub Copilot CLI (BYOK)

Copilot CLI rulează în modul bring-your-own-key când COPILOT_PROVIDER_BASE_URL este setat — autentificarea GitHub nu e necesară. codai este un provider drop-in.

$env:COPILOT_PROVIDER_API_KEY = 'codai_xxxxxxxx'
Invoke-RestMethod https://ai.codai.ro/copilot/env.ps1 | Out-File env.ps1
. .\env.ps1   # dot-source: setează variabilele și lansează copilot

GET /copilot/config returnează aceleași valori ca JSON, inclusiv alias-urile alternative pe care le poți folosi ca wire model (codai-fast, codai-deep, codai-agent, codai-max, codai-explorer, codai-vision) și flag-urile de capabilități (streaming, tool calling, vision și prompt caching sunt pornite; memoria găzduită de GitHub și delegarea remote rămân rutate prin GitHub și nu sunt disponibile în modul BYOK).

Memorie persistentă pentru sesiunile BYOK

Modul BYOK pierde memoria GitHub. Adaugi în schimb serverul MCP codai:

mkdir -p ~/.codai
curl -fsSL -o ~/.codai/mcp-codai-memory.mjs https://ai.codai.ro/copilot/mcp-bridge.mjs
curl -s https://ai.codai.ro/copilot/mcp.json   # lipești `mcpServers` în ~/.copilot/mcp-config.json

Snippet-ul înregistrează un bridge local stdio, nu un server http: CLI-ul nu expandează placeholder-ele ${ENV} în header-ele http, așa că un server remote cu un header Authorization cu template trimite placeholder-ul literal și blochează handshake-ul de 60 s. Bridge-ul citește CODAI_API_KEY sau COPILOT_PROVIDER_API_KEY din mediu și trimite JSON-RPC către /mcp. Înlocuiești ~ din args cu directorul tău home absolut — CLI-ul nu îl expandează.

Cursor, Continue, Cline, Zed și alte tool-uri OpenAI-compatibile

Orice client cu o opțiune de provider OpenAI-compatibil funcționează. Setezi:

Dacă tool-ul te lasă să setezi header-e custom, X-Codai-Effort: high sau max este cel care merită adăugat. Dacă oferă o listă de modele, o poate citi din GET /v1/models cu cheia ta.

Claude Code și tool-uri native Anthropic

Setezi base URL-ul Anthropic la rădăcină și cheia la cheia ta codai:

export ANTHROPIC_BASE_URL='https://ai.codai.ro'
export ANTHROPIC_API_KEY='codai_xxxxxxxx'
export ANTHROPIC_MODEL='codai'

POST /v1/messages acceptă atât Authorization: Bearer, cât și x-api-key, așa că header-ul implicit al SDK-ului funcționează neschimbat.

Server MCP

Gateway-ul este el însuși un server MCP remote (Streamable HTTP, spec 2025-11-25, compatibil pe fir cu 2025-06-18):

POST https://ai.codai.ro/mcp

Tool-uri: chat, list_models, memory_search, memory_store, memory_list, memory_forget, memory_graph. Expune și prompt-uri (comenzi slash), resurse (codai://models, codai://memory/recent) și completare de argumente de prompt.

Două moduri de autentificare:

• Cheie API — Authorization: Bearer codai_…. Îl folosești din scripturi sau prin bridge-ul stdio de mai sus.
• OAuth 2.1 — clienții care îl suportă (VS Code, Claude Desktop, Claude Code, conectori ChatGPT) nu au nevoie deloc de cheie. Îi îndrepți către URL; o cerere neautentificată returnează 401 cu o provocare WWW-Authenticate: Bearer resource_metadata=…, iar GET /.well-known/oauth-protected-resource/mcp îi trimite la auth.codai.ro pentru onboarding automat.

{
  "servers": {
    "codai": { "type": "http", "url": "https://ai.codai.ro/mcp" }
  }
}

Trimiți Accept: text/event-stream și un apel de tool chat face stream notifications/progress cât timp rulează, apoi rezultatul JSON-RPC. Fiecare cerere MCP trece prin același rate limiter ca /v1, iar apelurile de tool care ajung la un upstream scriu o înregistrare de usage.

Pe care să-l folosești?

• Trăiești în VS Code → configurația Custom Endpoint. Buton de effort, trei roluri, cheie în keychain.
• Trăiești în terminal → Copilot CLI BYOK plus bridge-ul de memorie.
• Folosești alt editor → provider-ul lui OpenAI-compatibil cu base URL-ul /v1.
• Legi un framework de agenți → SDK-urile, sau SDK-ul OpenAI/Anthropic pe base URL-ul potrivit.