ModelScan

modelscan.io
На карте связей Открыть сайт

Сканер безопасности моделей ML с открытым исходным кодом, обнаруживающий небезопасный код в различных форматах моделей для предотвращения атак сериализации.

Описание

汇聚模型资料、价格来源与巡检线索，辅助接入前比对上下文、模态、能力和计费信息。

ModelScan — это инструмент безопасности с открытым исходным кодом, разработанный компанией Protect AI, который сканирует модели машинного обучения для обнаружения небезопасного кода и защиты от атак сериализации моделей. Как первый в отрасли сканер моделей ML, поддерживающий несколько форматов, он проверяет файлы моделей без их выполнения, выявляя вредоносный код, внедренный во время процесса сериализации. Инструмент защищает пользователей от кража учетных данных, кража данных, отравления данных и отравления моделей при использовании моделей ML из различных источников. ModelScan поддерживает PyTorch, TensorFlow, Keras, sklearn и XGBoost, сканирует форматы H5, Pickle и SavedModel и беспрепятственно интегрируется в ML и CI/CD Pipeline.

Установка

Не знаете, с чего начать — попросите ассистента провести по шагам:

Возможности

Поддержка нескольких форматов
Сканирует модели в различных форматах сериализации, включая H5, Pickle и SavedModel, защищая пользователей, работающих с PyTorch, TensorFlow, Keras, sklearn и XGBoost.
Статический анализ безопасности
Проверяет файлы моделей побайтово без выполнения кода, безопасно и эффективно обнаруживая небезопасные операции и сигнатуры вредоносного кода.
Классификация серьезности рисков
Категоризирует обнаруженные уязвимости на четыре уровня серьезности: CRITICAL, HIGH, MEDIUM и LOW, обеспечивая приоритизированное устранение.
Интеграция с CI/CD Pipeline
Беспрепятственно работает с CI/CD Pipeline и ML-рабочими процессами, позволяя автоматизированное сканирование безопасности перед развертыванием, переподготовкой или оценкой модели.
Открытый исходный код и бесплатно
Доступен как проект с открытым исходным кодом Apache 2.0 через pip install, бесплатно для всех пользователей для защиты своих рабочих процессов машинного обучения.

Сценарии использования

Проверка безопасности перед развертыванием
Сканируйте все модели перед развертыванием на конечные точки, чтобы убедиться, что они не были скомпрометированы при хранении или передаче.
Защита цепочки поставок ML
Обнаруживайте атаки на цепочку поставок путем сканирования предварительно обученных моделей перед переподготовкой, тонкой настройкой или оценкой для предотвращения загрязнения окружающей среды.
Проверка моделей третьих сторон
Проверяйте безопасность моделей, полученных из Интернета, обмениваемых между командами или загруженных с Hugging Face перед загрузкой в производственные системы.
Аудит безопасности после обучения
Сканируйте модели после завершения обучения, чтобы обнаружить любое внедрение вредоносного кода, которое могло произойти во время Pipeline обучения.
Соответствие безопасности ML на уровне предприятия
Интегрируйте автоматизированное сканирование моделей в корпоративные ML-рабочие процессы для соответствия требованиям безопасности для развертывания ПО AI/ML.

Частые вопросы

ModelScan — это инструмент безопасности с открытым исходным кодом, который сканирует модели машинного обучения для обнаружения небезопасного кода и защиты от атак сериализации моделей.

Да, ModelScan — это проект с открытым исходным кодом Apache 2.0, который бесплатен для всех пользователей. Установите его с помощью pip install modelscan.

ModelScan поддерживает форматы H5, Pickle и SavedModel, охватывая фреймворки PyTorch, TensorFlow, Keras, sklearn и XGBoost.

ModelScan читает файлы моделей побайтово, используя статический анализ, ища сигнатуры кода, указывающие на небезопасные операции, без выполнения кода.

ModelScan защищает от атак сериализации моделей, включая кража учетных данных, кража данных, отравление данных и отравление моделей.

Да, ModelScan работает с CI/CD Pipeline и ML-рабочими процессами. Сканируйте модели перед развертыванием, после обучения или перед переподготовкой для обеспечения безопасности.

Установите ModelScan через pip (pip install modelscan) или получите доступ к исходному коду на GitHub по адресу github.com/protectai/modelscan.

Характеристики

Тип Инструмент
КатегорияКодинг и разработка / Помощник DevOps ИИ
Цена бесплатно
Системы website
Хостингcloud
Установкаsaas
Язык сайтаzh

Платформы

website

Теги

ai developer tools ai devops assistant

Хэштеги

tool

Найден в источниках

moge

Похожие в разделе «Кодинг и разработка»

ReDigest
ReDigest Продолжаем субботнюю рубрику, тут я кратко рассказываю про новости из мира технологий и AI, которые привлекли мое внимание.
OpenHands
Code less, make more
Bolt AI
Create apps and websites simply by talking to AI.
GitHub
Главный хостинг кода: репозитории, Actions, Copilot и почти все AI-проекты.
Codex 2.0 by OpenAI
Codex 2.0 — продвинутый ИИ для создания приложений и автоматизации задач. Ускорьте разработку с помощью нейросети от OpenAI.
Wispr Flow — это технологический оргазм
Список полезных сервисов... ... хотела подготовить я для вас. Решила собрать в один пост все сервисы, которые когда-ли

Предложить сайт в каталог

Пришлите ссылку — остальное мы выясним сами.

Мы рассмотрим, что вы прислали, и добавим в каталог, если подойдёт.

Не знаете, как внедрить? Мы поможем

Расскажите про задачу — подберём инструменты и подскажем, с чего начать.

0 / 5000
Проверочный код

Поля со звёздочкой обязательны. Данные используются только для ответа.