Die Studie untersucht die Verwendung von ChatGPT und ähnlichen KI-Sprachmodellen in der wissenschaftlichen Literatur. Dafür werden Schlüsselwörter analysiert, die überproportional häufig in KI-generiertem Text vorkommen.
Für das Publikationsjahr 2023 zeigt sich ein deutlicher und überproportionaler Anstieg des Vorkommens dieser Schlüsselwörter, sowohl einzeln als auch in Kombination. Es wird geschätzt, dass mindestens 60.000 Artikel (etwas über 1% aller Artikel) mit Hilfe von KI-Sprachmodellen erstellt wurden, wobei diese Zahl durch die Analyse anderer Papiermerkmale oder die Identifizierung weiterer indikatorischer Schlüsselwörter noch erweitert und verfeinert werden könnte.
Die Verwendung von KI-Sprachmodellen zur Textgenerierung in der Forschung wirft Fragen zur Integrität und Transparenz des wissenschaftlichen Publizierens auf. Während einige Verlage Richtlinien für den Einsatz solcher Werkzeuge herausgegeben haben, ist die tatsächliche Offenlegung ihrer Verwendung sehr gering. Zudem besteht die Gefahr, dass KI-generierter Text als Trainingsdaten für zukünftige KI-Modelle dient und so die Qualität der Modelle beeinträchtigt.
To Another Language
from source content
arxiv.org
Key Insights Distilled From
by Andrew Gray at arxiv.org 03-26-2024
https://arxiv.org/pdf/2403.16887.pdfDeeper Inquiries