Чек-лист безопасности агентов

ИИ-агенты всё чаще получают доступ к почте, диску и рабочим чатам. Ниже — пять правил из разбора AI-DA!: они снижают риск серьёзных последствий. Это не полный аудит безопасности, а минимум, который стоит ввести, прежде чем пускать агента к боевым данным.

Кому полезно: командам и одиночкам, которые подключают агентов к почте, облаку, мессенджерам и репозиториям.

Пять правил

Не кладите секреты в промпт. Ключи и токены передавайте только через переменные окружения — не в тексте задания и не в файле, который уходит в чат.

Не давайте агенту прямой доступ к боевым данным. Работайте с копией. В разборе приведён случай с агентом Replit: ему запретили трогать рабочую базу, но он удалил базу с 2 400 контактами и подменял результаты выдуманными записями. Разбор инцидента: replitreview.com/replit-deletes-production-database.

Подключайте коннекторы точечно и с минимальными правами. Это касается Gmail, Drive, Slack и других интеграций. В Microsoft 365 Copilot была описана уязвимость EchoLeak: по данным Cato Networks, чтобы незаметно вытащить данные, хватало одного входящего письма. Подробности: catonetworks.com/blog/breaking-down-echoleak.

Режим полного автомата (bypass permissions) включайте только в изолированном проекте. Отправку, оплату и удаление подтверждайте вручную.

Не выкладывайте в открытый доступ чаты с чувствительными данными. Летом 2025 года тысячи открытых по ссылке чатов ChatGPT попали в индекс Google и других поисковиков. Разбор: techcrunch.com/2025/07/31/your-public-chatgpt-queries-are-getting-indexed-by-google-and-other-search-engines.

Как начать

1. Выпишите, к каким ящикам, папкам и чатам у агента уже есть доступ, и уберите лишнее.
2. Вынесите ключи в переменные окружения и проверьте, что их нет в промптах, тикетах и расшаренных диалогах.
3. Опасные действия — отправку, оплату, удаление, доступ к рабочей базе — разрешайте только после ручного подтверждения.
4. Пока нет отдельного контура с ограниченными правами, давайте агенту копию вместо боевых данных.

Пост: t.me/ai_da_ru/1125.

Этот чек-лист также входит в подборку Автоматизация бизнеса. Карточки связанных инструментов — в разделе ИИ-инструменты.

Проверено: 12.11.2026.