El fundador de Wikipedia, Jimmy Wales, no está preocupado por la Grokipedia de Elon Musk: "No soy optimista de que vaya a crear algo muy útil en este momento"

Grokipedia, el rival de Wikipedia de Elon Musk , tuvo un "comienzo difícil" en su debut público, pero el fundador de Wikipedia, Jimmy Wales, ni siquiera tuvo que echar un vistazo al resultado de la IA para saber qué esperaba.

"No soy optimista respecto a que vaya a crear algo muy útil en este momento", dijo Wales en la Cumbre del Consejo Ejecutivo de Tecnología de CNBC en la ciudad de Nueva York el martes.

Wales tuvo muchas palabras para Musk, especialmente en respuesta a las acusaciones de que existe un "sesgo progresista" en Wikipedia. "Se equivoca en eso", dijo Wales. "Sus quejas sobre Wikipedia son que nos centramos en fuentes convencionales, y no me disculpo en absoluto por ello. No tratamos a los chiflados al azar igual que al New England Journal of Medicine, y eso no nos convierte en progresistas", dijo en el evento de la CNBC. "Es una paradoja. Somos tan radicales que citamos al New York Times".

"No he tenido tiempo de mirar realmente Grokipedia , y será interesante verlo, pero aparentemente contiene muchos elogios sobre el genio de Elon Musk. Así que estoy seguro de que es completamente neutral", agregó.

Las críticas de Wales a Grokipedia (que tiene su propia página wiki ) tenían menos que ver con una disputa en curso con Musk y más con sus importantes preocupaciones sobre los esfuerzos de todos los grandes modelos lingüísticos por crear una fuente confiable de información en línea.

"Los LLM que está usando para escribirlo van a cometer errores graves", dijo Wales. "Sabemos que ChatGPT y todos los demás LLM no son lo suficientemente buenos para escribir entradas wiki".

Musk parece igualmente seguro del resultado opuesto: "Grokipedia superará a Wikipedia en varios órdenes de magnitud en amplitud, profundidad y precisión", escribió en una publicación el martes por la noche.

Wales dio varios ejemplos del mundo real de por qué no tiene fe en que los LLM recreen lo que la comunidad global de Wikipedia ha construido durante décadas a una fracción del costo: estimó los costos de tecnología dura de la organización en 175 millones de dólares anuales frente a las decenas de miles de millones de dólares que las grandes empresas tecnológicas invierten constantemente en esfuerzos de inteligencia artificial y, según una estimación de Wall Street, un total de 550 mil millones de dólares en gasto en inteligencia artificial esperado por los llamados hiperescaladores el próximo año.

Un ejemplo que Wales citó de la inexactitud de su LLM se relaciona con su esposa. Wales comentó que a menudo pide a los nuevos modelos de chatbot que investiguen temas desconocidos para poner a prueba sus habilidades, y preguntar quién es su esposa, una persona "no famosa, pero conocida", según él, que trabajó en la política británica, siempre resulta en una respuesta "plausible, pero errónea". Cada vez que se le pide a un LLM que investigue a fondo, añadió Wales, "es un desastre".

También puso el ejemplo de un miembro de la comunidad Wiki alemana que desarrolló un programa para verificar los números ISBN de los libros citados y logró atribuir errores notables a una sola persona. Esta persona finalmente confesó haber usado ChatGPT para encontrar citas de referencias textuales y que el LLM "simplemente crea libros por ti", dijo Wales.

Wales afirmó que las batallas en las que se ha visto envuelto, tanto por Musk como por la IA, refuerzan un mensaje serio para Wikipedia. "Es fundamental para nosotros y para la comunidad wiki responder a críticas como esa redoblando nuestra apuesta por la neutralidad y siendo muy cuidadosos con las fuentes", declaró. "No deberíamos ser 'wokepedia'. Eso no es lo que deberíamos ser ni lo que la gente espera de nosotros. Socavaría la confianza".

Wales cree que el público y los medios de comunicación a menudo le dan demasiado crédito a Wikipedia. En sus inicios, dice, el sitio nunca fue tan malo como se decía en los chistes. Pero ahora, añade, «no somos tan buenos como creen. Claro que somos mucho mejores que antes, pero aún queda mucho por hacer».

Y prevé que los desafíos tecnológicos y de desinformación empeoren, con la capacidad de usar LLM para crear sitios web falsos con texto plausible mejorando y probablemente logrando engañar al público. Pero afirma que será difícil engañar a la comunidad Wiki, que ha dedicado 25 años a estudiar y debatir fuentes de información confiables. "Pero engañará a mucha gente y eso es un problema", afirmó.

En algunos casos, esta misma nueva tecnología, que "inventa cosas completamente inútiles", podría ser útil para Wikipedia, afirmó. Wales ha estado trabajando en la búsqueda de dominios limitados donde la IA pueda descubrir información adicional en fuentes existentes que deba añadirse a una wiki, un uso de la IA general que, según él, actualmente está "bastante bien".

"Quizás nos ayude a trabajar más rápido", dijo. Ese ciclo de retroalimentación podría ser muy útil para el sitio si desarrollara su propio LLM para capacitarlo, pero los costos asociados han llevado al sitio a posponer cualquier iniciativa formal mientras continúa probando la tecnología, añadió.

"Estamos muy contentos de que Wiki ahora forme parte de la infraestructura mundial, lo cual supone una carga bastante pesada para nosotros. Así que, cuando la gente dice que hemos sido parciales, debemos tomárnoslo en serio y trabajar en todo lo relacionado", dijo Wales.

Pero no pudo resistirse a plantearlo de otra manera: "Hablamos de los errores que comete ChatGPT. Imaginen una IA entrenada exclusivamente en Twitter. Sería una IA enfadada, enojada y entrenada para pensar tonterías", dijo Wales.