Wikipedia блокирует сводки ИИ после восстания редакторов

Редакторы Википедии сорвали план Фонда Викимедиа по внедрению сводок, генерируемых ИИ . Реакция была настолько яростной и единодушной, что некоммерческой организации пришлось немедленно отступить.

Редакторы Википедии критикуют сводки по искусственному интеллекту

Идея казалась разумной на бумаге. Резюме ИИ появлялось бы в верхней части статей Википедии с желтой меткой «непроверено» , и пользователям приходилось бы нажимать, чтобы развернуть и прочитать их. Проект использовал модель Aya от Cohere и был призван сделать сложные статьи доступными для людей с разным уровнем чтения.

Эксперимент родился из дискуссий на конференции Wikimania 2024 , где волонтеры говорили о том, как ИИ может «перетасовать» существующий контент, чтобы сделать Википедию более доступной. Теоретически это может быть полезно. Некоторые статьи Википедии перегружены жаргоном и сбивают с толку обычного читателя.

Фонд Викимедиа также думал о контроле качества. Редакторы, которые участвовали в первоначальных обсуждениях, хотели, чтобы функции ИИ были четко обозначены и чтобы у пользователей был простой способ сообщать о проблемах с автоматически сгенерированным контентом.

Но когда проект был запущен, реакция была разрушительной. Страница обсуждения проекта превратилась в поток общих жалоб. Один редактор написал: « То, что Google запустила свои обзоры ИИ, не означает, что мы должны делать лучше, я умоляю вас не тестировать это ни на мобильных устройствах, ни где-либо еще ». Ссылка на Google не случайна. Обзоры ИИ Google уже привели к нескольким постыдным ошибкам, предполагающим поедание клея или другую ерунду.

Многие редакторы выразили опасения, что их добровольные взносы потеряют ценность, если контроль будет передан инструментам искусственного интеллекта .

Столкнувшись с этим восстанием, Фонд Викимедиа сделал то, что редко можно увидеть в мире технологий. Он признал свою ошибку и отступил. « Это нормально — получать разные отзывы от волонтеров », — объяснил представитель, — « и мы учитываем это в наших решениях, иногда меняя направление ».

Организация также признала, что плохо информировала о проекте. И чтобы успокоить редакторов, фонд пояснил: « Мы никогда не введем функцию резюме без участия редакторов. Они всегда должны быть теми, кто проверяет и модерирует любой контент ».