Правило простое: считайте, что всё отправленное покинуло ваш периметр. Дальше вопрос только в том, насколько это критично.
Что точно нельзя
Секреты и ключи. Токены, пароли, приватные ключи, строки подключения к базе. Самый частый способ утечки это скопировать файл конфигурации целиком, чтобы спросить про одну строку.
Персональные данные. Реальные имена, телефоны, адреса, паспортные данные, медицинская информация. Для российских компаний это ещё и вопрос 152-ФЗ.
Чужой код под NDA. Если вы подрядчик, код заказчика обычно нельзя выносить никуда, включая языковые модели. Проверьте договор до того, как отправлять.
Данные платёжных карт. Отдельная регуляторика, отдельные последствия.
Что можно, но осторожно
Схема базы данных. Сама по себе обычно не секрет, но вместе с адресом сервера уже даёт карту для атаки.
Логи. Почти всегда содержат больше, чем кажется: токены сессий, идентификаторы пользователей, внутренние адреса. Чистите перед отправкой.
Трассировки ошибок. Часто включают куски окружения и пути на диске.
Как не полагаться на дисциплину
Люди ошибаются под давлением сроков. Поэтому нужен процесс, а не памятка.
Держите секреты вне кода. Если в файле переменные окружения, а не значения, скопировать секрет физически нечего.
Поставьте сканер на пре-коммит. Он ловит секреты до того, как они попадут в репозиторий, а значит и до того, как попадут в промпт.
Разведите окружения. Для экспериментов с моделью используйте тестовые данные, а не выгрузку из прода.
Обезличивайте на входе. Если задача про обработку персональных данных, заменяйте реальные значения на синтетические до отправки.
Что происходит с данными на нашей стороне
Мы не храним содержимое запросов и ответов. В базу пишется только метаинформация, нужная для счёта: какая модель, сколько токенов и сколько это стоило.
Это стоит понимать буквально: восстановить ваш промпт из нашей базы нельзя, потому что его там нет.
Что делать, если секрет всё-таки ушёл
Порядок такой же, как при любой утечке:
- Отозвать и перевыпустить ключ немедленно, не откладывая на конец дня.
- Проверить логи доступа за период, пока ключ был жив.
- Найти, откуда он попал в промпт, и закрыть этот путь.
Первый пункт важнее остальных. Всё остальное можно делать после.
Коротко
Секреты, персональные данные и чужой код под NDA не отправляются никуда. Остальное чистится перед отправкой. Процесс надёжнее памятки: секреты вне кода, сканер на пре-коммите, тестовые данные для экспериментов.