Wikipedia Italia tiene un problema con el contenido producido por IA generativa

Desde hace varios años, una pregunta ha plagado a la comunidad global de curadores de Wikipedia. ¿Qué pasará con la enciclopedia libre? ¿Del portal capaz de albergar en un solo lugar todo el conocimiento humano, en todos los idiomas, producido por humanos para humanos? ¿Qué pasará con todo esto con el poder alcanzado por la IA generativa? “Llevamos años discutiéndolo, al menos desde que ChatGpt se abrió al público general”, explica a Italian Tech Ferdinando Traversa, de 20 años, de Bari, nuevo presidente de Wikimedia Italia.

Pero últimamente, muchos hemos notado un aumento en las entradas escritas con herramientas de IA. Por eso decidimos establecer algunas reglas. Lo estamos debatiendo, pero el objetivo es uno solo: mantener siempre al ser humano en el centro y su control sobre el producto final, añade. La comunidad está dividida, la discusión está acalorada. Pero la fundación ha decidido adoptar un enfoque “no totalmente cerrado” respecto a las IA, que se estima que han escrito o contribuido a escribir el 5% de las entradas de toda la enciclopedia. De lo contrario. “Pero queremos que las entradas sigan siendo escritas por humanos, que puedan ayudarse mutuamente en la creación de tablas o en tareas repetitivas en la redacción”, razona.

El riesgo de colapso, o de que las IA entrenen sus propios productos

La cautela de la comunidad de Wikipedia Italia se debe a varios factores de riesgo: las alucinaciones que siguen padeciendo las IA generativas, el riesgo de graves inexactitudes, la falta de fuentes y citas, pero sobre todo un posible cortocircuito en los resultados si las IA empezaran a entrenarse con artículos escritos por ellas mismas.

No es ningún secreto que las IA se han alimentado de Wikipedia en todos los idiomas para aprender a generar textos. Nuestros servidores han sufrido mucho por la continua solicitud de acceso a nuestras páginas de estos modelos generativos. Pero pocos ven un riesgo relacionado. Un colapso del modelo, que perjudicaría a todos, a los usuarios y a la propia Wikipedia. El colapso del modelo es un fenómeno muy discutido en el contexto de la IA. Esto sucede cuando los modelos se entrenan con productos de IA. Se alimentan de su propio puré. ¿Efecto? El modelo se empobrece cada vez más, el lenguaje se vuelve repetitivo, menos creativo, impreciso y tiende a reforzar errores e informaciones incorrectas.

De la búsqueda en Wikipedia a la solicitud de chatbot: lo que se pierde

Traversa también ve un desafío planteado por la IA. “Cada vez más personas, sobre todo los más jóvenes, ya no realizan búsquedas online, sino que preguntan directamente a los Chatbots”. Si Wikipedia quiere mantener su misión de proteger, mantener unido el conocimiento de la humanidad y ponerlo a disposición del lector, tendrá que "estudiar nuevas formas de ayudar al propio lector en las consultas".

Para Traversa, preguntar directamente a un chatbot significa “renunciar a la belleza de perderse en la lectura y quizás descubrir un enlace, una referencia, y volver a leer, comprender más, aprender cosas nuevas”. Y el riesgo es que ese chatbot haya sido entrenado con un conjunto de datos que contiene errores, brindando así una respuesta incorrecta. Todas estas son cuestiones que será necesario abordar con el tiempo.

Hoy en día Wikipedia goza de buena salud. Hay 3.000 miembros de la comunidad activos cada mes en Italia. En abril fue leído 57 millones de veces y se realizaron 396 mil cambios en las entradas. Pero si bien su popularidad no se ve afectada actualmente por la presión de la IA, es la presión política la que representa un obstáculo mayor.

Sobre los ataques de Musk: "No estamos en venta"

Musk nos ha atacado varias veces. Cree que somos parciales, que tenemos información falsa sobre él y Tesla. Quiere que escribamos cosas falsas, al menos no verificadas, y esto le ha llevado a atacarnos varias veces, pidiendo a los estadounidenses que dejen de donarnos.

El mensaje falló. Las donaciones “están en línea con lo que esperaba la fundación”, dice Traversa. El año que viene Wikipedia cumplirá 25 años. “Nuestra misión no cambiará, nuestra forma de trabajar no cambiará, no estamos en venta y no podemos comprarnos como Twitter, somos el último trozo de internet libre en la era del dominio de los gigantes tecnológicos”, concluye Traversa.