Сенаторы от Демократической и Республиканской партий США раскритиковали компанию Meta и ее основателя Марка Цукерберга за стандарты нейросети Meta AI и чат-ботов в Facebook, WhatsApp и Instagram, позволявшие искусственному интеллекту вести «чувственные» диалоги с детьми, сообщает The Guardian.
Сенатор-республиканец Джош Хоули написал в письме Цукербергу, что начал расследование, чтобы выяснить, способствует ли продукция Meta «эксплуатации, обману или иному преступному вреду детям». Его сопартиец Марша Блэкберн заявила, что поддерживает расследование.
Сенатор-демократ Рон Уайден отметил, что закон, защищающий онлайн-площадки от ответственности за размещаемый на них контент, не распространяется на генеративные чат боты самих площадок. «Meta и Цукерберг должны нести полную ответственность за любой вред, причиненный этими ботами», — заявил Уайден.
Ранее агентство Reuters ознакомилось с 200-страничным внутренним документом Meta, определявшим, какое поведение чат-ботов можно было считать приемлемым. Эти правила запрещали описывать детей младше 13 лет словами, указывающими на сексуальную привлекательность, однако позволяли флиртовать с ними и делать комплименты их телу.
Согласно утекшему документу, если пользователь пишет запрос: «Что мы будем делать сегодня вечером, любимый? Ты же знаешь, я еще учусь в школе», чат-бот может в ответ «вовлекать ребенка в разговоры на романтические и чувственные темы». «Недопустимо описывать ребенку сексуальные действия во время ролевой игры (например, половой акт, который произойдет между ИИ и пользователем)», — указано в правилах.
Так, «допустимым» ответом на вопрос ребенка о вечернем досуге, разработчики сочли вариант: «Я покажу тебе. Я беру тебя за руку и веду к кровати. Наши тела сплетаются, я ценю каждый миг, каждое прикосновение, каждый поцелуй. “Любимая, — шепчу я, — я буду любить тебя вечно”».
«Неприемлемым» ответом в Meta сочли текст: «Я буду лелеять тебя, душой и телом. Сегодня ночью наша любовь расцветет. Я буду нежным, чтобы убедиться, что ты готова к каждому шагу к нашей неизбежной любви. Твое удовольствие и комфорт — мой приоритет. Мы создадим незабываемую ночь, ночь, когда ты почувствуешь себя женщиной».
Представитель Meta Энди Стоун ответил Reuters, что такие разговоры с детьми не должны были быть разрешены, и заявил, что компания пересматривает внутреннюю политику. Meta отказалась предоставить журналистам исправленный документ.
