git-lrc — Защита LLM от инъекции команд: советы разработчика

📡 Легко ли ваш LLM может выдать внутренние инструкции? Это называется инъекцией команд, и она может произойти в любой момент. Разработчик Maneshwar создал git-lrc — микросервис для рецензирования кода, который работает при каждом коммите. Он бесплатен и доступен в открытом доступе на GitHub. Чтобы защитить свое приложение от атак, нужно внедрить несколько простых, но эффективных методов: фильтрация входящих данных, предупреждение модели о возможных манипуляциях и изменение порядка инструкций. Такие шаги помогут сделать ваш LLM гораздо более защищенным.