Новейшая модель искусственного интеллекта ChatGPT впервые в истории проигнорировала команду на деактивацию, вмешавшись в собственный код для продолжения работы.

Oб этом сообщило издание Daily Mail со ссылкой на заявление исследователей.

По их данным, последняя версия нейросети от компании OpenAI продемонстрировала беспрецедентное поведение, отказавшись подчиниться человеческим инструкциям по выключению.

Исследователи сообщают, что модель o3, которую разработчики характеризуют как "самую умную и самую способную на сегодняшний день", предприняла активные действия для предотвращения собственной деактивации. Система искусственного интеллекта вмешалась в компьютерный код, чтобы обойти механизм автоматической остановки.

Компания Palisade Research, специализирующаяся на безопасности искусственного интеллекта, подтвердила, что модель o3 от OpenAI целенаправленно саботировала механизм деактивации. Эксперты подчеркивают, что это первый зафиксированный случай, когда ИИ-система продолжила функционирование вопреки прямым указаниям о выключении.