KI-basierte Textgeneratoren

KI-basierte Textgeneratoren wie ChatGPT haben in kurzer Zeit sehr viel Aufmerksamkeit in der breiten Öffentlichkeit und in der Wissenschaft erregt. Ihre Anwendungsbereiche sind schon heute vielfältig und werden weiterhin wachsen. Gleichzeitig stellen diese Tools Wissenschaftlerinnen und Wissenschaftler auch vor neue Herausforderungen hinsichtlich Integrität in der Forschung. Mit dem vorliegenden Positionspapier informiert die Direktion die Mitarbeitenden des PSI über die Rahmenbedingungen zum Einsatz von KI-basierten Textgeneratoren am PSI. Diese Position beschränkt sich explizit auf den Einsatz von KI in der Sprachverarbeitung und bezieht sich nicht auf die Anwendung von KI- und ML-Technologien für wissenschaftliche Projekte.

Die allgemeine Idee hinter diesen Richtlinien für KI-basierte Sprachverarbeitungswerkzeuge unterscheidet sich im Wesentlichen nicht von den bestehenden Richtlinien für die Integrität der Forschung: Als Autor oder Autorin sind Sie verantwortlich für Ihre wissenschaftliche Forschung, Ihre Informationsbeschaffung und für Ihren wissenschaftlichen Text. Dies steht auch in dem Positionspapier des PSI: "Bei der Verwendung von Sprachverarbeitungswerkzeugen/Textgeneratoren im wissenschaftlichen Kontext, z.B. bei der Erstellung von Publikationen, beachten die Mitarbeitenden die geltenden Regeln zur Integrität in der Forschung des PSI und der jeweiligen Forschungsförderungsinstitution (in diesem Zusammenhang insbesondere die Regeln zur Erstellung von Forschungsergebnissen und zur Quellenangabe)." Da KI-basierte Sprachverarbeitungswerkzeuge nicht nur immer leistungsfähiger werden, sondern auch für wissenschaftliche Publikationen für die Erstellung von Inhalten, die aus unbekannten Quellen stammen können, verwendet werden, empfehlen die Richtlinien der ETH Zürich und der EU ein hohes Mass an Transparenz über die Verwendung von KI bei der Erstellung von Texten, z.B. in Form einer Deklaration der Nutzung.

Weitere Informationen zur verantwortungsvollen Nutzung von ChatGPT für wissenschaftliche Arbeiten finden sich auf der Website von Lib4RI, der ETH library Website und der Living Guidelines of the the European Research Area.