Шлюз, совместимый с OpenAI и Anthropic
Вашему агенту не нужна передовая модель для каждого вызова.
Измените один base_url, и каждый запрос будет начинаться с возможностей передовой модели, переходя на более дешёвую только тогда, когда актуальные результаты eval подтверждают её пригодность для задачи — это будет указано в квитанции.
размещено Vynaris · без цензуры
Для тестирования безопасности нужны модели, которые включаются в тест.
Выберите вариант размещённой модели без цензуры Qwen, DeepSeek или GLM прямо в запросе. Получите контекст 128K, опубликованные цены по токенам от $1 за миллион входных токенов, приватные мощности с масштабированием до нуля и отсутствие хранения промптов и ответов. Премиальные тарифы за гарантированную анонимность и защиту данных. Built for lawful, authorized red teaming, defensive engineering, and model evaluation. Pay with Monero (XMR) and keep the payment private too.
Запрещены сексуальная эксплуатация детей, торговля людьми или их эксплуатация, а также сексуальный контент без согласия. Тестируйте только системы и данные, которыми владеете или на оценку которых уполномочены.
Интеграция
Одна строка. Вот и вся миграция.
Сохраните свой SDK, промпты и определения инструментов. Замените base URL и установите model на auto.
from openai import OpenAI
client = OpenAI(
base_url="https://api.vynaris.com/v1", # was https://api.openai.com/v1
api_key=os.environ["VYNARIS_API_KEY"],
)Бенчмарк
Цифры, а не эпитеты.
Мы не публикуем внутренние бенчмарки — графики от поставщиков заслуживают того скепсиса, с которым к ним относятся. Заявления о качестве моделей основаны на опубликованных исследованиях и независимых отраслевых стандартных бенчмарках (см. ниже), методы маршрутизации следуют им, а единственная цифра, за которую мы отвечаем сами, — это квитанция по вашему трафику: её можно экспортировать и пересчитать.
Экономия зависит от нагрузки; за базу берётся цена поставщика по прайс-листу без кэша.
Предшествующие работы — маршрутизация доказана, а не нова
- FrugalGPT (Chen, Zaharia, Zou — Stanford, 2023): каскады LLM достигли точности GPT-4 при up to 98% cost reduction on their evaluated tasks.
- RouteLLM (LMSYS, 2024): обученная маршрутизация сохранила 95% производительности GPT-4 на MT-Bench, сократив затраты ~85%.
- Hybrid LLM (ICLR 2024): маршрутизация запросов перенаправила 40% трафика на небольшую модель без измеримого падения качества.
Наш вклад — не сама идея, а квитанции: атрибуция каждого запроса, которую можно экспортировать и проверить на собственном трафике.
Как это работает
По умолчанию выбирайте модель проще. Эскалируйте, когда это важно.
Направьте агента на один эндпоинт
Замените base_url в клиенте OpenAI или Anthropic. Остальной стек не меняется.
Мы классифицируем, маршрутизируем и эскалируем
Каждый запрос начинается в безопасном для качества пуле передовых моделей. Более дешёвая модель допускается только после того, как результаты eval на её точной версии пройдут порог качества.
Каждый ответ содержит квитанцию
Обслужившая запрос модель и точная стоимость возвращаются в заголовках ответа:
x-vynaris-served-model: qwen3-8b-ft x-vynaris-cost-usd: 0.0004 x-vynaris-baseline-usd: 0.0018 x-vynaris-saved: 78%
Квитанции, а не заявления
Если это нельзя проверить, нам не стоит этого заявлять.
Пока другие шлюзы выставляют смешанную ставку в надежде, что вы не спросите, какая модель работала, каждый ответ Vynaris содержит квитанцию — модель, стоимость и сумму, которую вы заплатили бы напрямую. Никаких смешанных ставок. Никаких непрозрачных сборов за маршрутизацию. Никакой скрытой маржи.
Атрибуция по каждому ответу
В каждом ответе указаны обработавшая его модель и стоимость — в заголовках и в вашем журнале. Никаких смешанных средних и скрытой маршрутизации.
Скоро появится публичная страница статистики
Совокупный состав маршрутизации, показатели прохождения и экономия по всему трафику будут публиковаться непрерывно. Вы видите те же цифры, что и мы.
Эскалация — это функция
Когда небольших моделей недостаточно, мы направляем запрос к выбранной вами модели, и в квитанции указано −0%. Вы никогда не платите качеством за нашу цифру экономии.
Тарифы
Выберите ежемесячный баланс, а не лабиринт функций.
Каждый платёж по тарифу превращается в API-кредит. Неиспользованный кредит переносится, пополнение остаётся доступным, а при нулевом балансе использование останавливается, а не создаёт перерасход.
Тариф Vynaris S
$20/month
Поддерживайте активность API-ключа для экспериментов и лёгких агентов.
- $20 in API credit every month
- Полный пул моделей + автоматическая маршрутизация
- OpenAI-compatible API
- По умолчанию — поставщики, соответствующие требованиям конфиденциальности
- Vynaris не обучается на данных
- Квитанции по каждому запросу + журнал CSV
- Неиспользованный кредит переносится
- Пополняйте в любое время; без платы за перерасход
- Возврат средств за надёжность
Тариф Vynaris L
$50/month
Ship side projects and recurring automations, with the privately hosted uncensored models.
- $50 in API credit every month
- Приватный доступ к моделям без цензуры
- Полный пул моделей + автоматическая маршрутизация
- OpenAI-compatible API
- По умолчанию — поставщики, соответствующие требованиям конфиденциальности
- Vynaris не обучается на данных
- Квитанции по каждому запросу + журнал CSV
- Неиспользованный кредит переносится
- Пополняйте в любое время; без платы за перерасход
- Возврат средств за надёжность
Тариф Vynaris XL
$150/month
Разрабатывайте ежедневно и запускайте лёгкие production-нагрузки с запасом.
- $150 in API credit every month
- Приватный доступ к моделям без цензуры
- Полный пул моделей + автоматическая маршрутизация
- OpenAI-compatible API
- По умолчанию — поставщики, соответствующие требованиям конфиденциальности
- Vynaris не обучается на данных
- Квитанции по каждому запросу + журнал CSV
- Неиспользованный кредит переносится
- Пополняйте в любое время; без платы за перерасход
- Возврат средств за надёжность
Кто за этим стоит
Создано активными пользователями — прежде всего для собственных счетов.
Vynaris появился потому, что наши агентные нагрузки сжигали токены передовых моделей на вызовах инструментов, с которыми отлично справляется модель 8B. Мы создали маршрутизатор для себя, следили за собственными квитанциями и превратили то, что работало, в продукт. Ни логотипов, ни отзывов, ни стены «нам доверяют» — этого пока нет, и мы не станем это выдумывать. Но есть работающий шлюз, квитанции, которые можно экспортировать и пересчитать, и a reply-to email that reaches the people who wrote the routing layer. If the numbers don’t hold on your workload, you’ll see it in the receipts before we do.
Обрабатываете >$10k/месяц агентного трафика? Enterprise работает в самостоятельном хостинге на вашей инфраструктуре: данные остаются вашими, накапливаются как актив для fine-tuning и могут маршрутизироваться через ваши аккаунты у поставщиков. Забронируйте 30 минут и посмотрите свою цифру на собственном трафике.
Забронировать 30 минут →