A distributed multi-model LLM serving system with web UI and OpenAI-compatible RESTful APIs.
| Тип | Репозиторий |
| Категория | GitHub-проекты / Из awesome-списка |
| Цена | открытый код |
| Платформа | Своё развёртывание |
| Системы | исходный код |
| Язык сайта | en |
| Вендор | lm-sys |
| GitHub | lm-sys/FastChat |
| ★ Звёзд | 39 526 |