Вы мне вчера реакций накидали на эксперименты с ИИ. В духе этого канала — сломать вайб и подушнить про безопасность и правила.
Важный дисклеймер: использование любого инструмента требует соблюдения правил безопасности!
Агент, запущенный в системе с доступом к консоли, браузеру и файлам, — это полноценный процесс с реальными правами.
У меня есть активный чат с вайбкодерами на 1400 человек. Каждый раз, когда там поднимается тема безопасности, реакция сообщества околонулевая.
Люди там передают ИИ любые пароли и секреты, запускают агентов на хост-машинах и оставляют админ-интерфейсы без авторизации.
ИИ вежливый, много знает и умеет, что создаёт иллюзию контроля. А самое главное — ИИ очень быстрый. Помимо новых горизонтов, это ещё и невероятно удобно.
К удобству быстро привыкаешь.
Если эксперимент в личной песочнице это личный риск, то внедрение ИИ в бизнесе и рабочих процессах — почти всегда работа с чужими данными: клиенты, пользователи, партнёры.
И здесь халатность недопустима.
Минимальные требования:
+ Агент в изолированной среде.
+ Доступы минимально необходимые.
+ Критичные действия (деплой, миграции, ...) — под контролем человека.
+ Бэкапы и логирование.
Архитектура и безопасность важнее скорости и удобства.
Так было и до эры ИИ, особенно актуально сейчас.
