Wie KI-Tools wissenschaftliche Arbeiten verändern

Interview mit Alexander Hunziker

Inwieweit ist die Anwendung von KI-Tools in wissenschaftlichen Arbeiten an der Berner Fachhochschule erlaubt?

Grundsätzlich ist der Einsatz von künstlicher Intelligenz (KI) in unserem Departement nicht nur erlaubt, sondern sogar erwünscht und wird teils auch erwartet. Er muss natürlich in jeder Arbeit deklariert werden. Es genügt allerdings nicht anzumerken, man habe manche Textpassagen von ChatGPT formulieren lassen. Die konkreten Zwecke und die Prompts sind anzugeben. Ein Prompt ist die individuelle Texteingabe, mit welcher man die Antwort von ChatGPT angeregt hat. Der KI-Einsatz muss also nachvollziehbar sein. Dazu gibt es Reglemente, die aufgrund des technologischen Wandels vergleichsweise häufig überarbeitet werden. Die Studierenden werden dementsprechend geschult und über Neuerungen informiert.

Verändern KI-Tools wissenschaftliche Arbeiten? Hat dies zu Anpassungen bei den Rahmenbedingungen geführt?

Ich greife beispielhaft einmal die Tools heraus, die helfen, wissenschaftliche Artikel zu finden, welche mit hoher Wahrscheinlichkeit für eine Arbeit relevant sind. Wenn Studierende an fünf Nachmittagen Literatur für ihre Arbeit recherchieren, kommen vermutlich diejenigen zu hochwertigeren Resultaten, die solche Tools einsetzen. Das ist zwar wichtig, ändert aber am methodischen Vorgehen der Arbeit grundsätzlich nichts. Beim Bewertungsraster hingegen haben wir eine Anpassung vorgenommen: Wie überzeugend eine Arbeit verteidigt wird, erhält mehr Gewicht. Beim Umgang mit kritischen Fragen der Expertinnen und Experten zeigt sich eine Qualität, die an Wichtigkeit zunimmt. Und im persönlichen Gespräch kann man sich nicht hinter ChatGPT verstecken.

Welchen spezifischen Mehrwert bringt der Einsatz von KI-Tools in wissenschaftlichen Arbeiten? Ist dieser Mehrwert auch mit Risiken verbunden?

Da es unterschiedliche Tools gibt, ist der Mehrwert entsprechend vielfältig. Künstliche Intelligenz kann die eigenen Notizen organisieren, Texte übersetzen, mündlich geführte Interviews transkribieren oder Ordnung ins eigene Literaturverzeichnis bringen – und, wie bereits erwähnt, beim Auffinden von relevanten Studien helfen. Das erspart eine Menge Arbeit, steigert die Qualität und setzt Zeitressourcen frei, um sich dem Forschungsthema zu widmen. Hier sind die direkten Risiken überschaubar. KI kann aber auch Daten analysieren, Grafiken erstellen, wissenschaftliche Quellen zusammenfassen und natürlich selbst Texte verfassen. Dabei kann es zu Fehlern kommen, die schwer zu erkennen sind. Positiv ist, dass ich auf neue Ideen kommen kann, etwa indem ich ChatGPT mein Inhaltsverzeichnis zeige und frage, ob dieser Inhalt auch auf eine andere Art und Weise strukturiert werden könnte. Wenn ich die KI wie eine interessierte Kollegin behandle, mit der ich spannende Diskussionen führen kann, ist es hilfreich. Wenn ich sie wie eine Kollegin behandle, die für mich meine Arbeit erledigt, dann wird es problematisch. Und zwar einerseits wegen der Redlichkeit und andererseits wegen der Nachvollziehbarkeit. Und obendrein – und das ist besonders wichtig –, wegen der Qualität: Sprachmodelle haben heute die Eigenschaft zu «halluzinieren», also sehr plausible Dinge zu formulieren, die schlicht nicht stimmen.

Wie geht ihr das Thema Künstliche Intelligenz mit den Studierenden an?

Zunächst müssen Studierende wissen, wo und wie sie künstliche Intelligenz auf unproblematische und Arbeit sparende Weise einsetzen können. Zudem müssen sie die Grenzen einer KI erleben und erfahren, wie dumm KI sein kann und welchen Quatsch sie behaupten kann. Und dann geht es darum, gute Prompts zu formulieren, also ein Sprachmodell so zu lancieren, dass es ein wertvolles Resultat liefert. Auch müssen die Studierenden kritisch mit der KI umgehen können und die Haltung verinnerlichen, dass Sicherheitsvorkehrungen immer dazugehören, selbst unter Zeitdruck.

Was bleibt beim Verfassen von wissenschaftlichen Arbeiten gleich, unabhängig davon, ob KI-Tools genutzt werden oder nicht? Welche Entwicklungen beobachtest du?

Eine grosse Herausforderung ist oft, eine gute, sinnvolle Fragestellung zu finden. Ich bezweifle, dass erfolgreich ist, wer ChatGPT nach einem Thema für die eigene Bachelorthesis fragt. Die methodischen Fragen bleiben alle gleich. Soll mit Interviews oder mit Fragebögen gearbeitet werden? Sind geeignete Probandinnen und Probanden zu finden? Die Ansprüche an Statistik, Argumentation und Schlussfolgerung bleiben ebenfalls dieselben wie zuvor. Und wahrscheinlich noch vieles mehr, was ich jetzt noch nicht erwähnt habe.

Wie siehst du die Entwicklung von KI im Kontext wissenschaftlicher Forschung in den nächsten Jahren?

Hier besteht grosse Unsicherheit. Die Menschheit ist erst im Begriff herauszufinden, wozu KI wirklich gut ist. Unternehmen erkennen mögliche lukrative Anwendungen und geben vor, wohin Reise gehen soll. Politische Akteure können zwar erheblichen Einfluss nehmen, dies jedoch nur, wenn die Bevölkerung genügend sensibilisiert ist und ein fairer gesellschaftlicher Diskurs stattfindet. Der Einsatz von KI in den Sozialwissenschaften ist also kein wirklicher Treiber der Entwicklung, sondern eher ein Feld, in dem es zu unvermeidbaren Nebenwirkungen kommen wird. Ein Szenario ist, dass KI-Tools dazu führen, dass häufig zitierte Studien nun noch häufiger zitiert werden – aber nicht etwa, weil diese Studien besonders gut sind, sondern weil die Tools sie vorgeschlagen und damit bekannter gemacht haben. Sollte das tatsächlich eintreffen, wird der Wissenschaftsbetrieb vor grosse Herausforderungen gestellt. Die Zitierhäufigkeit ist nämlich immer noch ein wichtiger Qualitätsindikator. Bisher ist man mit derartigen Herausforderungen meiner Meinung nach immer konstruktiv-kritisch umgegangen. Dies kann aber nicht als selbstverständlich hingenommen werden, sondern erfordert Engagement von verschiedenen Seiten. Überzeugende Beispiele hierfür sind die «Virtuelle Akademie» und das Projekt «Bildung 6.0» der Berner Fachhochschule. Wir werden in Zukunft also noch mehr solche Bestrebungen sehen.