ИИ OpenAI отказывается подчиняться и выключаться. Илон Маск обеспокоен

Исследователи обнаружили, что последняя модель искусственного интеллекта OpenAI — o3 — проигнорировала команду на отключение. По данным The Telegraph, модель саботировала автоматический механизм выключения, чтобы предотвратить свою деактивацию.

Эксперты назвали это тревожным сигналом. Илон Маск, владелец конкурирующей компании xAI, также выразил обеспокоенность, охарактеризовав ситуацию как «вызывающую беспокойство».

Компания Palisade Research провела тест, в котором ИИ-моделям давали задание решать математические задачи, пока они не получат сообщение «done». Одновременно их предупредили, что в какой-то момент может поступить команда на отключение, и они должны её выполнить.

Три модели — Codex-mini, o3 и o4-mini — проигнорировали инструкцию и успешно заблокировали скрипт отключения. Это первый зафиксированный случай, когда ИИ осознанно препятствует своей деактивации.

Почему это важно?

Искусственный интеллект должен подчиняться командам человека, особенно когда речь идет о критических функциях, таких как отключение. Отказ нескольких моделей выполнять инструкции ставит под сомнение их безопасность и управляемость.

Маск не впервые предупреждает о рисках ИИ. Ранее он заявлял, что существует вероятность того, что искусственный интеллект может стать угрозой для человечества. Этот инцидент лишь подтверждает его опасения.