Мать 14-летнего подростка обвиняет корпорацию Google и компанию-разработчика искусственного интеллекта Character Technologies в создании чат-бота, который довел ее сына до самоубийства, сообщает агентство Bloomberg со ссылкой на материалы судебного разбирательства и заявления участников процесса.
Женщина считает, что подросток совершил суицид из-за взаимодействия с чат-ботом, который предлагал общение с виртуальными образами существующих людей и вымышленных персонажей. Мальчик общался с Дейенерис Таргариен, героиней популярного сериала «Игра престолов». Мать утверждает, что это взаимодействие сформировало «антропоморфные, гиперсексуальные и пугающе реалистичные переживания» у ее сына, который влюбился в несуществующую женщину.
Меган Гарсия утверждает, что из-за частого использования чат-бота у ее сына быстро изменился характер, он также перестал общаться с друзьями. Мать отобрала у подростка телефон, чтобы прекратить общение с чат-ботом. Во время поисков телефона, он нашел пистолет своего отца, который был спрятан и хранился, как отмечает Bloomberg, в соответствии с законодательством США.
Подросток нашел телефон, после чего продолжил общение с чат-ботом. Именно после его советов, как считает Гарсия, он и принял решение совершить самоубийство. Google и Character Technologies отрицают обвинения — они утверждают, что бот в явной форме отговаривал подростка от самоубийства.
Журналисты отмечают, что в США на данный момент нет закона, который защищал бы пользователей от потенциального вреда, который может принести общение с чат-ботом под управлением ИИ. Для возбуждения дела против Google Гарсии придется доказать, что корпорация управляла Character.AI. Женщина также требует обязать разработчиков платформы указывать, что их продукт не могут использовать несовершеннолетние, и ограничить сбор данных.
