FlexGen

github.com
На карте связей Открыть сайт

Running large language models on a single GPU for throughput-oriented scenarios. (Archived)

Описание

Характеристики

Тип Репозиторий
КатегорияGitHub-проекты / Из awesome-списка
Цена открытый код
GitHubFMInference/FlexGen

Исходный код

FMInference/FlexGen

Найден в источниках

Похожие в разделе «GitHub-проекты»

Предложить сайт в каталог

Пришлите ссылку — остальное мы выясним сами.

Мы рассмотрим, что вы прислали, и добавим в каталог, если подойдёт.

Не знаете, как внедрить? Мы поможем

Расскажите про задачу — подберём инструменты и подскажем, с чего начать.

0 / 5000
Проверочный код

Поля со звёздочкой обязательны. Данные используются только для ответа.