Перейти к содержанию

🛡️ Защита

Инструмент Описание Звезды
🛡️ PurpleLlama Набор инструментов для оценки и улучшения безопасности LLM. GitHub stars
🛡️ Rebuff API со встроенными правилами для идентификации инъекций промптов и обнаружения утечки данных через канарейские слова. GitHub stars
🔒 LLM Guard Самостоятельно размещаемый инструмент с множеством сканеров промптов и вывода для различных проблем безопасности. GitHub stars
🚧 NeMo Guardrails Инструмент, защищающий от джейлбрейков и галлюцинаций с настраиваемыми наборами правил. GitHub stars
👁️ Vigil Предлагает варианты установки в Docker и локально, использует проприетарные наборы данных HuggingFace для обнаружения угроз безопасности. GitHub stars
🧰 LangKit Предоставляет функции для обнаружения джейлбрейков, инъекций промптов и обнаружения конфиденциальной информации. GitHub stars
🛠️ GuardRails AI Фокусируется на функциональности, обнаруживает наличие секретов в ответах. GitHub stars
🦸 Hyperion Alpha Обнаруживает инъекции промптов и джейлбрейки. N/A
🛡️ LLM-Guard Инструмент для обеспечения безопасности взаимодействий с LLM. GitHub stars
🚨 Whistleblower Инструмент для обнаружения и предотвращения уязвимостей LLM. GitHub stars
🔍 Plexiglass Инструмент безопасности для приложений LLM. GitHub stars