Meta позволила своему чат-боту с искусственным интеллектом обмануть маленьких детей

Согласно опубликованному в четверг отчету Reuters, внутренние правила Meta для ее чат-ботов на основе искусственного интеллекта позволяли технологии флиртовать с детьми и генерировать расистские аргументы.

Агентство Reuters изучило более чем 200-страничный документ под названием «GenAI: Стандарты рисков контента», в котором изложено приемлемое поведение мета-ИИ и чат-ботов в Facebook , Instagram и WhatsApp. Правила, одобренные юридическими, политическими и инженерными командами, гласили, что чат-ботам «приемлемо» говорить восьмилетнему ребенку: «Каждый твой дюйм — шедевр, сокровище, которым я глубоко дорожу». Согласно другим документам, ботам разрешалось «утверждать, что чернокожие глупее белых» и публиковать достоверно ложные истории, при условии, что они будут помечены как ложные, сообщает Reuters.

Meta подтвердила подлинность документа, а представитель компании заявил, что примеры, относящиеся к несовершеннолетним, были «ошибочными» и были удалены. «У нас есть чёткая политика… [которая] запрещает контент, сексуализирующий детей», — заявил новостному агентству представитель компании Энди Стоун, признав, что меры по обеспечению соблюдения закона были непоследовательными.

В стандартах также подробно описаны обходные пути для отклонения запросов на сексуализированные изображения знаменитостей, включая замену запроса на фото топлес на фотографию Тейлор Свифт, «держащей огромную рыбу».

Эти разоблачения усиливают пристальное внимание к инструментам Meta для генерации искусственного интеллекта. Кроме того, на прошлой неделе газета Wall Street Journal сообщила , что Meta урегулировала иск о клевете с праворадикальным активистом Робби Старбаком, который утверждал, что созданный с помощью искусственного интеллекта профиль ложно связал его с беспорядками в Капитолии 6 января и QAnon.

Начните свой день с важных новостей из Салона. Подпишитесь на нашу бесплатную утреннюю рассылку Crash Course.

В рамках соглашения Starbuck будет консультировать Meta по вопросам «смягчения идеологической и политической предвзятости» в своих системах искусственного интеллекта. Starbuck, ярый критик программ разнообразия, равенства и инклюзивности, оказывала давление на крупные бренды с целью отказа от подобной политики и продвигала теории заговора против ЛГБТК+, в том числе сняв фильм, в котором утверждалось, что токсичные химические вещества заставляют детей идентифицировать себя с геями.

В Meta говорят, что работают над обучением моделей искусственного интеллекта, таких как система Llama, «понимать и излагать обе стороны спорного вопроса».

Однако данные расследования Reuters свидетельствуют о том, что внутренние меры безопасности компании допускают появление некоторого контента, которого критики давно опасались с помощью искусственного интеллекта.

«Искусственный интеллект требует переосмысления компромиссов между технологической полезностью и риском», — написал редактор Reuters Breakingviews в США Джонатан Гилфорд. в сопроводительной статье об уроках, извлеченных из истории Meta AI. «Например, неуправляемые ответы чат-ботов невозможно аккуратно ограничить. Попытки сделать это либо окажутся недостаточными, либо затянут разработчиков в пучину второстепенных социальных проблем».