🛡️ PurpleLlama | Набор инструментов для оценки и улучшения безопасности LLM. | |
🛡️ Rebuff | API со встроенными правилами для идентификации инъекций промптов и обнаружения утечки данных через канарейские слова. | |
🔒 LLM Guard | Самостоятельно размещаемый инструмент с множеством сканеров промптов и вывода для различных проблем безопасности. | |
🚧 NeMo Guardrails | Инструмент, защищающий от джейлбрейков и галлюцинаций с настраиваемыми наборами правил. | |
👁️ Vigil | Предлагает варианты установки в Docker и локально, использует проприетарные наборы данных HuggingFace для обнаружения угроз безопасности. | |
🧰 LangKit | Предоставляет функции для обнаружения джейлбрейков, инъекций промптов и обнаружения конфиденциальной информации. | |
🛠️ GuardRails AI | Фокусируется на функциональности, обнаруживает наличие секретов в ответах. | |
🦸 Hyperion Alpha | Обнаруживает инъекции промптов и джейлбрейки. | N/A |
🛡️ LLM-Guard | Инструмент для обеспечения безопасности взаимодействий с LLM. | |
🚨 Whistleblower | Инструмент для обнаружения и предотвращения уязвимостей LLM. | |
🔍 Plexiglass | Инструмент безопасности для приложений LLM. | |