DE2COM / AI × SOFTWARE × DATA
Безопасность LLM-систем
Prompt injection, утечки контекста, небезопасное использование инструментов и защита границ доверия.
- Как изолировать недоверенный контент от системных инструкций?
- Какие действия должны проходить policy gate?
- Как проверять выход модели до вызова внешнего API?