AI-шлюз для продакшна: 600+ моделей через один API с роутингом, кэшем и управлением.

Описание

Единая точка доступа ко всем LLM с политиками маршрутизации и автофолбэком; семантическое кэширование для снижения расходов; аналитика по стоимости, токенам, задержкам и вызовам инструментов; корпоративное управление — SSO (Okta, Azure AD, Google Workspace, custom OIDC), RBAC, аудит-логи, белые списки моделей, лимиты трат, сервис-аккаунты для CI/CD; работа со своими ключами (BYOK).

Requesty's model as a service helps you fully define your requirements in an easy to use UI, providing you with built-in monitoring, observability, topic classification and much more!

Установка

Не знаете, с чего начать — попросите ассистента провести по шагам:

Характеристики

Тип	Платформа
Категория	Инфраструктура и MLOps / LLM-шлюз и роутер
Цена	есть бесплатный тариф
Платформа	Только веб
Системы	web, api, cloud
Хостинг	cloud
Установка	saas
Для кого	Инженерные и платформенные команды, выводящие ИИ в продакшн, компании с требованиями GDPR и EU-резидентности, организации, которым нужно централизовать доступ инженеров к ИИ-провайдерам
Язык сайта	en
Вендор	Requesty Ltd.
Рейтинг	0.00 (0 отзывов)
Просмотры	338
Запуск	2024-10-21