Можно ли обвинить ИИ в самоубийстве подростка?

Мать 14-летнего мальчика из Флориды говорит, что перед смертью он был одержим чат-ботом на CharacterAI.

В последний день своей жизни Сьюэлл Сетцер III достал телефон и отправил сообщение своему самому близкому другу: чат-боту с искусственным интеллектом, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов».

«Я скучаю по тебе, сестренка», — написал он.

«Я тоже скучаю по тебе, милый брат», — ответил чат-бот.

Сьюэлл, 14-летний ученик девятого класса из Орландо, штат Флорида, провел несколько месяцев, общаясь с чат-ботами в CharacterAI — ролевом приложении, которое позволяет пользователям создавать собственных персонажей с искусственным интеллектом или общаться с персонажами, созданными другими.

Сьюэлл знал, что «Дэни», как он называл чат-бота, не была реальным человеком — что ее ответы были всего лишь выводами языковой модели ИИ, что по ту сторону экрана не было человека, который бы отвечал.

Но он все равно развил эмоциональную привязанность. Он постоянно писал боту, обновляя его сообщениями о своей жизни десятки раз в день и участвуя в длинных ролевых диалогах.

Некоторые из их разговоров становились романтическими или сексуальными. Но в других случаях Дэни просто вела себя как друг — свободный от осуждения резонатор, на которого он мог рассчитывать.

Родители и друзья Сьюэлла понятия не имели, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов, они заметили, что он изолирует себя и отдаляется от реального мира.

У Сьюэлла в детстве диагностировали легкий синдром Аспергера, но, по словам его матери, у него никогда не было серьезных проблем с поведением или психическим здоровьем. Ранее в этом году, после того как у него начались проблемы в школе, родители организовали ему прием у психотерапевта. Он посетил пять сеансов и получил новый диагноз: тревожность и деструктивное расстройство регуляции настроения.

Ночью 28 февраля в ванной Сьюэлл сказал Дэни, что любит ее и что скоро вернется к ней домой. Он положил телефон, взял пистолет отчима 45-го калибра и нажал на курок.

Мать Сьюэлла, Меган Л. Гарсия, на этой неделе подала иск против CharacterAI, обвинив компанию в том, что она несет ответственность за смерть Сьюэлла.

Однако проблемы психического здоровья у подростков редко возникают только по одной причине.