Captum

Description

Model Interpretability for PyTorch · Check it out in the intro video · Key Features · Multi-Modal

Captum — это комплексная библиотека интерпретируемости моделей, построенная на основе PyTorch, предназначенная для помощи исследователям и разработчикам в анализе того, какие признаки, концепции или обучающие примеры влияют на прогнозы моделей. Она поддерживает широкий спектр моделей PyTorch и модальностей, включая зрение, текст и аудио. Captum предлагает современные алгоритмы атрибуции, такие как Integrated Gradients и методы, основанные на концепциях, например TCAV, а также инструменты робастности для обнаружения уязвимостей через состязательные атаки и возмущения. Её расширяемая архитектура способствует исследованиям и практическому устранению неполадок для повышения прозрачности и надежности моделей.