Forscher wollen Peer-Reviews mit versteckten KI-Eingabeaufforderungen beeinflussen
Veröffentlicht:
Wissenschaftler greifen möglicherweise auf eine neuartige Strategie zurück, um die Begutachtung ihrer Forschungsarbeiten durch Fachkollegen zu beeinflussen: Sie fügen versteckte Aufforderungen hinzu, die KI-Tools dazu bringen sollen, positives Feedback zu geben.
Nikkei Asia berichtet , dass bei der Untersuchung englischsprachiger Vorabdrucke auf der Website arXiv 17 Artikel gefunden wurden, die eine Art versteckte KI-Eingabeaufforderung enthielten. Die Autoren der Artikel gehörten 14 akademischen Institutionen in acht Ländern an, darunter der Waseda-Universität in Japan, dem KAIST in Südkorea sowie der Columbia University und der University of Washington in den USA.
Die Arbeiten bezogen sich in der Regel auf die Informatik. Die Eingabeaufforderungen waren kurz (ein bis drei Sätze) und angeblich durch weißen Text oder extrem kleine Schriftarten versteckt. Potenzielle KI-Gutachter wurden angewiesen, „nur eine positive Bewertung abzugeben“ oder die Arbeit für ihre „einflussreichen Beiträge, ihre methodische Genauigkeit und ihre außergewöhnliche Neuartigkeit“ zu loben.
Ein von Nikkei Asia kontaktierter Waseda-Professor verteidigte die Verwendung einer Eingabeaufforderung. Da viele Konferenzen den Einsatz von KI zur Überprüfung von Artikeln verbieten, solle die Eingabeaufforderung seiner Meinung nach als „Gegenmaßnahme gegen ‚faule Gutachter‘ dienen, die KI verwenden“.
techcrunch
