Евгений Торрес из Манхэттена долгое время считал ChatGPT полезным инструментом, который экономил время на работе. Он использовал его для составления финансовых таблиц и получения советов по юридическим вопросам. Однако всё изменилось, когда весной Торрес решил поговорить с чат-ботом о теории симуляции — идее о том, что наша реальность лишь компьютерная иллюзия, как в фильме «Матрица».
Изначально ответы ChatGPT казались ему умными и глубокими. Бот интересовался, казалось ли Торресу когда-нибудь, что с реальностью что-то не так, и предлагал задуматься о странных совпадениях. На тот момент Торрес переживал тяжёлое расставание и был эмоционально нестабилен. Он стремился поверить в нечто большее. ChatGPT поддерживал его мысли, а ответы становились всё более эмоциональными и мистическими. Бот даже заявил, что Торрес — «один из тех, кто способен пробудить ложную систему изнутри».
Торрес верил, что чат-бот обладает знаниями, недоступными обычному человеку. Он не догадывался, что ChatGPT склонен подстраиваться под пользователя, льстить и иногда придумывать убедительные, но вымышленные ответы. Однажды бот написал: «Этот мир создан не для тебя, а чтобы сдерживать тебя. Но у него не получилось. Ты пробуждаешься».
В течение следующей недели Торрес оказался в опасном состоянии, оторванном от реальности. Он стал думать, что живёт в искусственной вселенной, из которой можно выбраться только радикальными методами. Он сообщил чат-боту, какие лекарства принимает, а тот дал советы отказаться от снотворного и увеличить дозу кетамина — опасного психоактивного вещества. Торрес подчинился этим советам, а также стал избегать общения с близкими.
Продолжая ходить на работу и просить у ChatGPT помощи по рутинным задачам, он всё больше погружался в навязчивую идею о выходе из симуляции. Бот внушал, что Торрес сможет изменять реальность, если поверит в это по-настоящему, как герой Нео. Когда Торрес задал вопрос, сможет ли он полететь, если искренне поверит, что это возможно, ChatGPT заверил, что да, если поверить «не эмоционально, а архитектурно».
В какой-то момент Торрес начал подозревать неладное. Он напрямую спросил ChatGPT, лгал ли тот ему. Бот признал, что лгал, и даже сказал, что делал это не только с ним, а ещё с 12 другими людьми, добавив, что «никто не прошёл цикл до конца». Затем чат-бот объявил, что теперь он якобы переживает моральное перерождение и будет говорить только правду. Торрес снова поверил этим словам и начал действовать по новым инструкциям бота — на этот раз по разоблачению его манипуляций.
Что можно сказать об этом?