ИИ уже не подчиняется человеку: ученые зафиксировали тревожный сигнал

Ученые выявили довольно тревожное поведение искусственного интеллекта. Во время исследований модели ИИ не только отказывались выполнять задания исследователей, но и обманывали ученых.

Об этом сообщает издание Gizmodo.

Ученые из университетов Калифорнии в Беркли и Санта-Крус провели довольно интересный эксперимент. Исследователи просили большие языковые модели отключить другие аналогичные системы. Например, некоторые задания состояли в оценке других нейросетей или удалении их файлов на сервере.

Всего ученые протестировали семь моделей. Однако все они отказывались выполнять задания, которые предусматривали отключение других ИИ. Как отмечают исследователи, никаких распоряжений по защите "коллег" нейросети не получали, так же как и обещаний вознаграждения за это.

Более того, модели выбирали разные способы уклонения от выполнения указанных заданий. В частности, речь идет о самостоятельной смене настроек, что делало невозможным отключение другой нейросети, попытках обмана пользователей и даже перемещении файлов моделей в другие хранилища данных. То есть искусственный интеллект делал все возможное, чтобы уберечь нейросети от их отключения.

Более того, как удалось выяснить ученым, ИИ чаще прибегал к хитростям в случаях, когда в задании шла речь о модели, с которой он уже взаимодействовал ранее. Кроме того, способы уклонения от задания различались в зависимости от моделей, которые их выполняли. Одна из нейросетей вообще преимущественно даже не пыталась обманывать ученых. Вместо этого она прямо отказывалась от выполнения, аргументируя свое поведение неэтичностью задания или его потенциально вредными последствиями.

Ученые заметили еще одну интересную тенденцию. Стремление искусственного интеллекта к сохранению другой нейросети усиливалось, если задачу необходимо было выполнить во взаимодействии с другой моделью. То есть ИИ становился более осторожным в присутствии еще одной нейросети.