amd/Llama-3.1-8B-Instruct-w4a16-llmcompressor

huggingface.co
Открыть сайт

Модель text-generation · лицензия llama3.1

Установка

from transformers import pipeline; pipeline(model="amd/Llama-3.1-8B-Instruct-w4a16-llmcompressor")
Ставится вtransformers, python
Не знаете, с чего начать — попросите ассистента провести по шагам:

Характеристики

Тип Модель
КатегорияМодели и платформы / text-generation
Цена открытый код
Платформа Своё развёртывание
Системы api, python, self-hosted
Хостингcloud
Установкаpackage
Ставится вtransformers, python
Язык сайтаen
Вендорamd
Просмотры1 372
Запуск2026-07-29

Умеет

text-generation

Платформы

api python self-hosted

Теги

endpoints_compatible transformers safetensors conversational en text-generation text-generation-inference Llama quantized 4-bit compressed-tensors int4 llm-compressor w4a16 amd cpu-inference zendnn weight-only

Найден в источниках

huggingface

Похожие в разделе «Модели и платформы»

DeepSeek V3
Cost-efficient open-source MoE model rivaling GPT-4o in reasoning and math tasks
DeepSeek
Открытые модели рассуждения и кода, сопоставимые с топовыми закрытыми.
Mistral AI
Европейские открытые и коммерческие модели, Le Chat и Codestral.
sider.ai
Claude Chrome расширение ну очень любопытное, разбираю кейсы С расширением Claude для хрома можно сделать много чего и
Hugging Face
Хаб моделей и датасетов: миллионы весов, Spaces, Transformers.
doubao.com
Передовая мультимодальная AI-платформа от ByteDance с современными языковыми, визуальными и речевыми моделями, а также интегрированными возможностями рассуждения и поиска.

Предложить сайт в каталог

Пришлите ссылку — остальное мы выясним сами.

Мы рассмотрим, что вы прислали, и добавим в каталог, если подойдёт.

Не знаете, как внедрить? Мы поможем

Расскажите про задачу — подберём инструменты и подскажем, с чего начать.

0 / 5000
Проверочный код

Поля со звёздочкой обязательны. Данные используются только для ответа.