Один API-ключ.
Все ведущие LLM.

CI-AI Gateway — единая OpenAI-совместимая точка входа перед GPT-5, Claude, Gemini, DeepSeek, Qwen, Llama и Kimi. Умная маршрутизация, автоматические фолбэки, кэш ответов, BYOK и open-weight модели, которые можно запустить на своём GPU.

Создать API-ключ Открыть демо-чат

OpenAI-совместимый /v1/chat/completions · стриминг · function calling · GET /v1/models

curl https://ci-ai.duckdns.org/v1/chat/completions \
  -H "Authorization: Bearer $CIAI_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-flash-4.1",
    "messages": [
      {"role": "user",
       "content": "Сделай саммари этого журнала изменений"}
    ],
    "stream": true
  }'
99,95%аптайм шлюза за 90 дней
140 мсмедианная надбавка маршрутизации
41модель от 9 вендоров и open weight
428Bтокенов в неделю через шлюз

Задачи, для которых нас выбирают

программированиеreasoningагенты и toolsпереводРП и персоныдлинный контекстмультимодальныеopen weightsлокальный запускEU-резидентность

Популярные модели Весь каталог — 41 модель →

gemini-3-flash

Google

$0,10 вход · $0,40 выход

  • 1M ctx
  • мультимодальная
  • 240 ток/с

qwen-flash-next-3.8

Alibaba · открытые веса

$0,06 вход · $0,24 выход

  • локально
  • MoE
  • 256k ctx

deepseek-flash-4.1

DeepSeek · открытые веса

$0,08 вход · $0,32 выход

  • локально
  • tools
  • MoE

gpt-5

OpenAI

$1,25 вход · $10,00 выход

  • vision
  • reasoning
  • 256k ctx

claude-sonnet-4.5

Anthropic

$3,00 вход · $15,00 выход

  • tools
  • 200k ctx
  • длинные задачи

qwen3.8-27b

Alibaba · открытые веса

$0,10 вход · $0,40 выход

  • локально · 24 ГБ GPU
  • 128k ctx
  • tools

Топ недели по токенам

gemini-3-flash83.6B
qwen-flash-next-3.8 open71.3B
gpt-5-mini61.4B
deepseek-flash-4.1 open58.9B
gpt-548.2B

Полная статистика — на странице каталога.

Как это работает

1. Создайте ключ

30 секунд в панели, без карты: тестовые 100k токенов уже на счёте. Ключ ограничивается моделями, бюджетом и регионом.

2. Менять нечего

Base URL → https://ci-ai.duckdns.org/v1. Любой OpenAI-совместимый код, SDK или фреймворк заработает как есть.

3. Роутер решает

model: "auto" или суффиксы :fast / :cheap / :eu — шлюз выбирает апстрим по живым метрикам и держит цепочку фолбэков.

Спроектирован для продакшн-нагрузок

  • Умная маршрутизация — выбирайте семейство по качеству, цене или задержке; шлюз оценивает каждый апстрим в реальном времени.
  • Цепочки фолбэков — если апстрим отдаёт 503 или rate-limit, отвечает следующая модель; ваш код видит один поток.
  • Кэш ответов — идентичные промпты отдаются из кэша бесплатно (по включению, на ключ).
  • BYOK — приносите свой ключ вендора: платите вендору напрямую, комиссия шлюза — ноль.
  • Open weight + локальный запуск — веса qwen, deepseek-flash, devstral и llama в зеркале со стабильными чек-суммами; считайте у себя, перелив пиков — через шлюз.
  • Точки присутствия EU / US — закрепляйте трафик за регионом ради локализации данных.
Внутри edge-датацентра CI-AI
Edge-поп eu-central: маршрутизация и кэширование ближе всего к open-weight флоту.

Частые вопросы

Это правда drop-in-совместимо с OpenAI?

Да — меняется только base URL и заголовок авторизации, всё остальное нет. /v1/chat/completions, /v1/embeddings, /v1/models, SSE-стриминг и tool-вызовы следуют спецификации OpenAI; вендорские расширения передаются через extra_body.

Вы обучаетесь на моих промптах?

Никогда. Промпты передаются выбранному апстриму по соглашениям с нулевым хранением и не логируются глубже метаданных запроса за 24 часа, если вы не включили архивирование запросов на ключе.

Что будет, если вендор упадёт?

Ваш ключ продолжит работать: роутер перейдёт к следующей модели в цепочке фолбэков и пометит ответ заголовком x-gateway-fallback.

Можно ли считать на своём железе?

Да: open-weight модели из каталога скачиваются из нашего зеркала и запускаются локально (от 24 ГБ VRAM в 4-бите). Для пиков включите "burst": "gateway" — перелив пойдёт по ценам каталога.

Начните за 30 секунд

Тестовые 100k токенов, без карты. Один ключ — сорок одна модель.

Создать ключ Посмотреть каталог