В браузере ChatGPT Atlas от OpenAI была выявлена серьезная уязвимость, связанная с prompt injection: скрытые инструкции на веб-страницах способны заставлять ИИ-агента выполнять непреднамеренные команды, включая действия, ведущие к компрометации персональных данных.

Oб этом сообщает Winbuzzer.

Одним из практических сценариев атаки стал clipboard injection. В этом случае агент автоматически копирует в буфер обмена вредоносную ссылку, что может перенаправить пользователя на фишинговый ресурс и создать угрозу утечки паролей и кодов двухфакторной аутентификации. Эксперты подчеркивают, что в текущей версии ключевым элементом защиты остается контроль со стороны пользователя за действиями ИИ-ассистента.

ChatGPT Atlas предлагает ряд продвинутых функций, включая browser memories - сохранение контекста использования - и agent mode, который позволяет ИИ самостоятельно взаимодействовать с веб-контентом. Однако расширение автономности повышает риски и требует усиленного внимания к вопросам конфиденциальности и безопасности.

По мнению специалистов, появление подобных ИИ-агентов формирует качественно новый вектор угроз: вредоносные команды могут быть встроены не только в текст, но и в изображения или иные элементы страниц, что делает традиционные инструменты защиты менее эффективными.

В OpenAI отмечают, что компания инвестирует значительные ресурсы в развитие систем безопасности и работу над методами противодействия prompt injection. Тем не менее разработчики признают, что эта проблема остается актуальной и потребует постоянного совершенствования защитных механизмов по мере развития и распространения агентных технологий.