| CalypsoAI Moderator | Фокусируется на предотвращении утечки данных, полной проверяемости и обнаружении вредоносного кода. | https://calypsoai.com/ |
| Giskard | Система управления качеством ИИ для ML моделей, фокусирующаяся на уязвимостях, таких как смещение производительности, галлюцинации и инъекции промптов. | https://www.giskard.ai/ |
| Lakera | Lakera Guard повышает безопасность приложений LLM и противодействует широкому спектру киберугроз ИИ. | https://www.lakera.ai/ |
| Lasso Security | Фокусируется на LLM, предлагая оценку безопасности, продвинутое моделирование угроз и специализированные программы обучения. | https://www.lasso.security/ |
| LLM Guard | Разработан для усиления безопасности LLM, предлагает санитизацию, обнаружение вредоносного языка, предотвращение утечки данных и устойчивость к инъекциям промптов. | https://llm-guard.com |
| LLM Fuzzer | Открытый фреймворк для фаззинга, специально разработанный для LLM, фокусирующийся на интеграции в приложения через API LLM. | https://github.com/mnns/LLMFuzzer |
| Prompt Security | Предоставляет подход к безопасности, конфиденциальности данных и защите во всех аспектах генеративного ИИ, независимо от конкретных LLM. | https://prompt.security |
| Rebuff | Самоукрепляющийся детектор инъекций промптов для приложений ИИ, использующий многоуровневый механизм защиты. | https://github.com/rebuff |
| Robust Intelligence | Предоставляет ИИ-брандмауэр и непрерывное тестирование и оценку. Создатели базы данных airisk.io, переданной MITRE. | https://www.robustintelligence.com/ |
| WhyLabs | Защищает LLM от угроз безопасности, фокусируясь на предотвращении утечки данных, мониторинге инъекций промптов и предотвращении дезинформации. | https://www.whylabs.ai/ |