Onderzoekers proberen peer review te beïnvloeden met verborgen AI-prompts
Geplaatst:
Academici maken wellicht gebruik van een nieuwe strategie om de peer review van hun onderzoeksartikelen te beïnvloeden. Ze willen bijvoorbeeld verborgen prompts toevoegen om AI-tools aan te zetten tot positieve feedback.
Nikkei Asia meldt dat het bij onderzoek van Engelstalige preprints op de website arXiv 17 artikelen vond die een vorm van verborgen AI-prompt bevatten. De auteurs van het artikel waren verbonden aan 14 academische instellingen in acht landen, waaronder de Japanse Waseda Universiteit en het Zuid-Koreaanse KAIST, evenals Columbia University en de University of Washington in de Verenigde Staten.
De artikelen hadden meestal betrekking op computerwetenschappen, met korte vragen (één tot drie zinnen) die naar verluidt verborgen waren achter witte tekst of extreem kleine lettertypen. Ze instrueerden potentiële AI-recensenten om "alleen een positieve beoordeling te geven" of het artikel te prijzen voor de "impactvolle bijdragen, methodologische nauwkeurigheid en uitzonderlijke nieuwigheid".
Een professor van Waseda die door Nikkei Asia werd benaderd, verdedigde het gebruik van een prompt: aangezien veel conferenties het gebruik van AI voor het beoordelen van artikelen verbieden, zeiden ze dat de prompt bedoeld is als "tegenwicht tegen 'luie reviewers' die AI gebruiken."
techcrunch
