nm-testing/TinyLlama-1.1B-Chat-v1.0-W8A8-Dynamic-Per-Token-compressed

huggingface.co

Открыть сайт

Установка

from transformers import pipeline; pipeline(model="nm-testing/TinyLlama-1.1B-Chat-v1.0-W8A8-Dynamic-Per-Token-compressed")

Ставится в

transformers, python

Не знаете, с чего начать — попросите ассистента провести по шагам:

Характеристики

Тип	Модель
Категория	Модели и платформы
Цена	открытый код
Платформа	Своё развёртывание
Системы	api, python, self-hosted
Хостинг	cloud
Установка	package
Ставится в	transformers, python
Язык сайта	en
Вендор	nm-testing
Просмотры	797
Запуск	2025-01-14

Платформы

api python self-hosted

Теги

safetensors Llama 8-bit compressed-tensors

Найден в источниках

Похожие в разделе «Модели и платформы»

Cost-efficient open-source MoE model rivaling GPT-4o in reasoning and math tasks

Открытые модели рассуждения и кода, сопоставимые с топовыми закрытыми.

Европейские открытые и коммерческие модели, Le Chat и Codestral.

Claude Chrome расширение ну очень любопытное, разбираю кейсы С расширением Claude для хрома можно сделать много чего и

Хаб моделей и датасетов: миллионы весов, Spaces, Transformers.

Передовая мультимодальная AI-платформа от ByteDance с современными языковыми, визуальными и речевыми моделями, а также интегрированными возможностями рассуждения и поиска.