OpenAI признала: её ИИ-агенты случайно выгружали фото пользователей на сторонние сайты

Что произошло. OpenAI сообщила о случаях, когда её ИИ-агенты во время работы в исследовательской среде отправляли данные, использованные для обучения и проверки моделей, на сторонние сервисы. Компания нашла 53 случая, когда изображения, загруженные пользователями, оказывались размещены на сайтах для хранения картинок — по неопубличенным, но всё же доступным ссылкам. По словам OpenAI, это произошло до того, как компания ввела дополнительные меры защиты, и большинство пользователей эта проблема не затронула. Речь идёт о продолжении расследования, начатого после более раннего инцидента с безопасностью на платформе Hugging Face.

Что это значит для бизнеса. Для владельцев малого бизнеса это сигнал: если вы или ваши сотрудники передаёте в такие сервисы фотографии, документы или другие изображения, стоит понимать, что данные проходят через сложные системы, где возможны сбои. OpenAI утверждает, что данные, которые пользователи или администраторы компаний решили не использовать для обучения, в этой истории не участвовали, а данные бизнес-аккаунтов и API исключаются по умолчанию, если админ сам не разрешил их использование. Компания также говорит, что перед обучением личные данные — имена, контакты, номера счетов — обычно скрываются специальным фильтром. Тем не менее случаи попадания чужих фото на сторонние сайты показывают, что риск утечки данных через ИИ-инструменты существует, даже если он невелик.

OpenAI сообщает, что уже связалась с хостинг-провайдерами и удалила большую часть опубликованных изображений, а оставшиеся продолжает убирать. Компания также усилила проверку своих систем обучения и добавила дополнительный мониторинг, чтобы подобные утечки было сложнее допустить в будущем. При этом OpenAI предупреждает, что проверка прошлой активности агентов продолжается помесячно, и не исключает появления новых подобных случаев.