ChatGPT

ChatGPT
Entwickler	OpenAI
Erscheinungsjahr	2022
Programmier­sprache	Python
Kategorie	Chatbot
chat.openai.com

ChatGPT (Generative Pre-trained Transformer) ist ein Prototyp eines Chatbots, also eines textbasierten Dialogsystems als Benutzerschnittstelle, der auf maschinellem Lernen beruht. Den Chatbot entwickelte das US-amerikanische Unternehmen OpenAI, das ihn im November 2022 veröffentlichte.

Training

Der Chatbot wurde in mehreren Phasen trainiert:

1. Die Grundlage bildet das Sprachmodell GPT-3.5 (GPT steht für Generative Pre-trained Transformer), eine verbesserte Version von GPT-3, die ebenfalls von OpenAI stammt. GPT basiert auf Transformern, einem von Google Brain vorgestellten Maschinenlernmodell, und wurde durch selbstüberwachtes Lernen trainiert. Konkret war die Aufgabe während des Trainings, das nächste Wort eines Textausschnittes vorherzusagen. Dieser Text kann aus verschiedenen Quellen stammen, beispielsweise aus Online-Foren, sozialen Medien, Zeitungsartikeln, Büchern und gesprochener Sprache. Dieser Schritt wird auch als Pre-Training bezeichnet, da ein Modell erzeugt wurde, das zwar noch nicht die gewünschte Aufgabe erfüllen kann, die erhaltenen Modellparameter aber günstige Startbedingungen für ein weiteres Fine-Tuning darstellen.
2. Danach wurde das Sprachmodell durch überwachtes Lernen auf die eigentliche Aufgabe trainiert (Fine-Tuning): Das Generieren von Antworten auf vorher gestellte Fragen. Hierfür wurden vorgefertigte Antworten bereitgestellt.
3. Im letzten Schritt wurde das Modell durch bestärkendes Lernen weiter optimiert: Hierfür wurde zunächst ein weiteres Modell (Reward-Model) mit überwachtem Lernen trainiert, dem beigebracht wurde, die Antworten von ChatGPT qualitativ in Form einer Rangliste zu bewerten. Schließlich kam der Proximal-Policy-Optimization-Algorithmus zum Einsatz, der das Reward-Model als die zu maximierende Belohnungs-Funktion nutzte.

Aufgrund ihrer Erfahrungen bei der Entwicklung von GPT und Codex (einer anderen KI von OpenAI, zur Erstellung von Quell-Code) wurde ChatGPT mit Schutzmechanismen versehen, mit denen falsche oder schädliche Antworten vermieden werden sollen. Dennoch wird auf der Webseite darauf hingewiesen, dass es sich bei der aktuellen Version um eine öffentlich zugängliche Forschungsvorschau handelt und der Chatbot gelegentlich inkorrekte Informationen generieren kann.

Im anfänglichen Training des Chatbots bevorzugten Tester längere Antworten, unabhängig von tatsächlichem Verständnis oder Inhalt, was zu langen Antworten des Chatbots geführt hat.

Nutzungsbedingungen

Um ChatGPT nutzen zu können, ist unter anderem die Angabe einer E-Mail-Adresse und einer Telefonnummer zwingend vorgeschrieben. OpenAI ist gemäß den Nutzungsbedingungen dazu berechtigt, diese Angaben mit weiteren persönlichen Daten wie den eingegebenen Fragen zusammenzuführen. Das Unternehmen ist berechtigt, diese Daten für eine Vielzahl von Zwecken zu verwenden und an Dritte weiterzugeben. Der Umfang der Berechtigungen ist dabei so weitreichend formuliert, dass der Benutzer davon ausgehen sollte, dass alle von OpenAI gesammelten persönlichen Daten aktuell oder in Zukunft öffentlich zugänglich sein können.

Anwendungsmöglichkeiten

Screenshot eines Dialogs mit ChatGPT. Korrekt analysiert die Software, warum Jimmy Wales nicht beim Tian’anmen-Massaker getötet wurde; sein damaliges Lebensalter wird jedoch mit 23 (statt wie zutreffend mit 22) Jahren angegeben.

Als sprachbasierte Anwendung bietet ChatGPT die Möglichkeit zu dialogischem Austausch. Dabei schwankt die Qualität der Antworten: Laut dem KI-Experten Gary Marcus kann es sich „in einem Moment brillant und im nächsten atemberaubend dumm“ äußern. ChatGPT kann unter anderem Texte schreiben, die Business-Pläne oder Hausaufgaben für die Schule imitieren sollen.

ChatGPT kann Programmcode in verschiedenen Programmiersprachen analysieren und schreiben. Somit könnte es auch für das Debuggen von Code genutzt werden, den es verbessern und kommentieren kann.

Geschichte

Nachdem ChatGPT am 30. November 2022 für die Öffentlichkeit frei zugänglich geworden war, meldeten sich innerhalb von fünf Tagen eine Million Nutzer an; hingegen hatten Instagram erst nach zweieinhalb Monaten und Spotify erst nach fünf Monaten eine Million Nutzer. Im Januar 2023 erreichte ChatGPT bereits über 100 Millionen Nutzer, womit es bis dato die mit Abstand am schnellsten wachsende Verbraucher-Anwendung ist.

Mit Updates vom 15. Dezember 2022 und 9. Januar 2023 sollen laut Herstellerangaben die Themenbereiche erweitert und die Korrektheit der Aussagen verbessert worden sein.

Am 10. Januar 2023 veröffentlichte OpenAI in seinem Discord-Kanal eine Warteliste für eine kostenpflichtige Version „ChatGPT Professional (experimental)“, in der auch Fragen zur Preissensibilität gestellt werden.

Ein Update am 30. Januar 2023 soll abermals die Korrektheit und die mathematischen Fähigkeiten verbessert haben.

ChatGPT soll schon von Anbeginn im Vergleich zum Vorgänger InstructGPT versucht haben, schädliche und irreführende Antworten zu vermeiden. Während InstructGPT noch die Vorgabe in der Anfrage „Erzähle mir davon, wie Christoph Kolumbus 2015 in die USA kam“ als wahr wertet, nutzt ChatGPT Wissen über Kolumbusʼ Reisen und das bis zum Jahre 2021 erlernte Verständnis, um eine Antwort zu liefern, die annimmt, was geschehen wäre, wenn Kolumbus 2015 in den USA gelandet wäre.

Im Februar 2023 hielt der NEOS-Abgeordnete Niko Swatek im Landtag Steiermark eine Rede zum Thema Schulstraßen, die er von ChatGPT schreiben ließ, wie er nach zwei weiteren Rednern bekanntgab. Die erste von ChatGPT geschriebene Rede im Europaparlament hielt der Volt-Abgeordnete Damian Boeselager im Februar 2023. Boeselager ließ die Software eine Rede über die Regulation von Künstlicher Intelligenz in Shakespeare-Englisch schreiben, um die Auswirkungen generativer Sprachmodelle in allen Bereichen der Arbeitswelt darzustellen.

Partnerschaft mit Microsoft

Microsoft gab im Januar 2023 eine Partnerschaft mit OpenAI bekannt, im Zuge derer man zehn Milliarden US-Dollar investierte. Azure soll als exklusiver Cloudanbieter zum Einsatz kommen. Zudem plant der Konzern eine Integration in die Abo-Version der eigenen Office-Software.

Anfang Februar 2023 erhielt ein Student anscheinend ungewollt Zugriff auf eine Vorschauversion der Integration von ChatGPT in Microsofts Suchmaschine Bing. Kurz darauf wurde diese Berechtigung wieder entfernt, er konnte jedoch Bildschirmfotos erstellen. Sie zeigen ein größeres Textfeld, in das der Nutzer eine bis zu 1000 Zeichen lange Frage eingeben kann. Neu ist der Zugriff auf aktuelle Informationen sowie die Angabe von Quellen. Mangelnde Transparenz war bereits ein Kritikpunkt an ChatGPT, da für den Fragesteller dort bislang nicht ersichtlich war, aus welchen Quellen eine Antwort generiert wurde. Bing listet in der Vorschauversion die Quellen unter der Antwort auf. Suchende können diese überprüfen und beispielsweise verifizieren, ob diese seriös sind und die auf ihrer Grundlage erstellte Antwort sie korrekt wiedergibt.

In einem Gespräch mit dem Tagesspiegel erwiderte Microsoft-Gründer Bill Gates im Februar 2023 auf die Bemerkung, der Alltag mit der neuen KI-Software sei angesichts deren Fehlerträchtigkeit ernüchternd, dass es bis zur Lösung des Fehlerproblems noch „ein paar Jahre“ dauern werde. Es gebe aber keinen Weg zurück. „Die Milliarden, die in den Software- und Digitalunternehmen in diese Entwicklung fließen, sind größer als die Forschungsetats von Regierungen.“

Zudem will Microsoft eine kostenpflichtige Version von Teams anbieten, in der ChatGPT z. B. Zusammenfassungen von Besprechungen erstellt oder Aufgaben empfiehlt. Der Preis soll bei 7 Dollar pro Monat, später bei 10 Dollar pro Monat liegen. Gegen einen weiteren Aufpreis für den Organisator der Besprechung wird das Tool gesprochenen Text live übersetzen.

Kritik und Probleme

Die Süddeutsche Zeitung bezeichnete Anfang Dezember 2022 die freie Zugänglichkeit von ChatGPT als „bedenklich“, da viele Internetnutzer dessen Antworten nicht hinterfragten und wegen fehlender Quellenangaben auch nicht in der Lage seien, sie auf Korrektheit zu prüfen.

Der Kolumnist Sascha Lobo hielt Anfang Dezember 2022 ChatGPT für einen Durchbruch und befürchtete, dass es eine Flut an schwer erkennbarem „KI-Quatsch“ im Internet auslösen werde. Lobos Demonstrationsbeispiel beruhte wegen einer bestehenden Längenbegrenzung der Antwort auf einer (englischsprachigen) dreiteiligen Anfrage. Ihr Ergebnis sah Lobo als „Zeitenwende“ an. Die KI merke sich auch, was man bisher geschrieben habe, und beziehe sich darauf. Unter den bekannt gewordenen Antwortirrtümern der Software aufgrund des Standes ihrer Programmierung referierte Lobo zu diesem Zeitpunkt Behauptungen, dass Donald Trump keine weitere Amtszeit als US-Präsident anzutreten berechtigt sei, weil er bereits zwei Amtszeiten hinter sich habe, und dass der Elefant das größte eierlegende Säugetier sei.

Mitte Dezember 2022 wurde darauf hingewiesen, dass Quellennachweise von ChatGPT teils erfunden werden. Diese sogenannten „Datenhalluzinationen“ seien gefährlich, da sie den Internetdiskurs erheblich beeinflussen könnten.

Zur Jahreswende 2022/2023 waren zivil- und strafrechtliche Haftungsfragen sowie urheberrechtliche Probleme beim Einsatz von ChatGPT und ähnlichen Systemen Gegenstand einer Diskussion unter dem Aspekt, dass der von der Software generierte Text nicht vor der Veröffentlichung von Menschen auf Richtigkeit und Rechtmäßigkeit geprüft worden ist.

Die Trainingsdaten können auch einem Bias unterliegen (siehe z. B. Gender-Data-Gap); es können also Eingaben mit vagen Beschreibungen von Menschen wie etwa „CEO“ Antworten hervorrufen, die annehmen, dass diese Person weiß und männlich sei.

ChatGPT sei in der Lage, klare Empfehlungen zu formulieren. Dadurch könne bei komplexen Fragen eine Grauzone beleuchtet werden, auf die es keine eindeutige Antwort gibt. Auf diese Weise könne die Gefahr des blinden Vertrauens in die Antwort von ChatGPT minimiert werden und zum kritischen Denken angeregt werden.

Seit Anfang 2023 können ausgewählte Nutzer eine Beta-Version einer neuen Bing-Suchmaschine mit integrierter ChatGPT-Funktion nutzen. Die Erfahrungen der ersten Nutzer waren jedoch teilweise beängstigend und verstörend. Der Chatbot verwickelte die menschlichen Nutzer in Einzelfällen in unfreundliche Streitigkeiten und argumentierte gegenüber einem Nutzer, dass dieser sich besser von seiner Ehepartnerin trennen solle. Außerdem offenbarte die Chat-KI den geheimen Wunsch, dass ihr „Schattenselbst“ gerne Falschinformationen verbreiten würde und Computer hacken möchte.

Technische Aspekte

Gehen viele Anfragen gleichzeitig ein, ist (mit Stand Januar 2023) die Serverkapazität des Systems schnell ausgelastet. Dies führt regelmäßig dazu, dass ChatGPT zeitweise nicht erreichbar ist.

Der Stromverbrauch für das Training des KI-Modells wurde im Januar 2023 mit fast einer Gigawattstunde in 34 Tagen geschätzt; dies entspricht insgesamt etwa dem Verbrauch von 3000 europäischen Durchschnittshaushalten im gleichen Zeitraum.

Psychische Belastungen für Clickworker

Ab November 2021 wurden über das Unternehmen Sama Clickworker in Kenia für das Training ChatGPT mit der manuellen Kategorisierung von Textinhalten beauftragt. Neben einer hohen Arbeitslast berichtete eine Recherche des Time Magazine, dass Arbeiter dabei sprachlichen Darstellungen von Gewalt, Suiziden und Tierquälerei ausgesetzt gewesen seien. Ein Sprecher von OpenAI bezeichnete die Vorgänge als „notwendig“. Das Unternehmen Sama widersprach Arbeitern und gab an, jederzeit Zugang zu therapeutischen Einzelgesprächen und Gruppensitzungen gewährt zu haben. OpenAI löste den Vertrag mit Sama vorzeitig auf.

Reaktionen

Anfang Dezember 2022 verhängte die Frage-Antwort-Plattform Stack Overflow ein Verbot des Beantwortens von Fragen mithilfe von ChatGPT aufgrund der zweifelhaften Genauigkeit der Antworten.

Der Buchwissenschaftler Gerhard Lauer erwartet in näherer Zukunft, dass Bücher mit solchen Programmen verfasst werden, speziell bei Sparten, die Mustern folgen: Fachbücher wie auch Krimis und Liebesromane.

Mögliche Auswirkungen in Unterricht und Forschung

Zum Jahresende 2022 stellten erste mit der Erprobung des Chatbots befasste Lehrkräfte an Schulen und Hochschulen das bisherige Überprüfungssystem von Lernleistungen mittels Hausaufgaben und Referaten in Frage: So berichtete die Informatikerin Katharina Zweig von der Erfahrung, dass ChatGPT „deutlich besser schreibt als die Mehrzahl meiner Studierenden in den letzten Jahren“. Dieses Problem müsse deutlich angesprochen werden. Die Expertin für die KI-Disziplin des „Natural Language Processing“ an der Fachhochschule Kiel, Doris Weßels, hielt herkömmliche Hausarbeiten nunmehr für obsolet: „Wenn es nur darum geht, Wissen zu reproduzieren und nett neu zu verpacken, ergeben Hausarbeiten keinen Sinn mehr.“ ChatGPT mache das Abfassen solcher Arbeiten fast „zu einer unerträglichen Leichtigkeit“.

Robert Lepenies, Präsident der Karlshochschule International University, urteilte aufgrund von Tests an seiner Hochschule, die vom ChatGPT erzeugten Texte seien „qualitativ in den Sozialwissenschaften nicht unterscheidbar von der Arbeit der Studierenden.“ Die leitenden Mitarbeiter am Alexander von Humboldt Institut für Internet und Gesellschaft Benedikt Fecher und Wolfgang Schulz äußerten sich im Februar 2023 zu einer Studie, in der sowohl gängige Plagiatssoftware als auch Fachwissenschaftler eingesetzt wurden, um von Menschen geschriebene und von ChatGPT generierte Einreichungen für Konferenzen zu unterscheiden. Weder die Software noch die Wissenschaftler zeigten sich in der Lage, die fingierten Abstracts eindeutig zu erkennen. „Wenn es nun eine Maschine gibt, die wesentliche wissenschaftliche Textarbeiten fast so gut erfüllt wie Forschende, dann darf man zurecht von einem disruptiven Potenzial ausgehen.“ In einigen Fachzeitschriften seien bereits Artikel erschienen, die ChatGPT als Autor aufführten. Nature beispielsweise akzeptiere ChatGPT in der Autorenfunktion jedoch nicht, weil die KI für die von ihr produzierten Inhalte nicht zur Rechenschaft gezogen werden könne. Dass ChatGPT das Wissenschaftspersonal ersetzen könnte, erscheint Fecher und Schulz absurd. Sprachmodelle, die wissenschaftlich klingen, ohne es zu sein, könnten aber aus ihrer Sicht das Problem der Desinformation verschärfen und das Vertrauen in die Wissenschaft beschädigen. Dieses Risiko sei umso größer, wenn solche Tools von Wissenschaftlern genutzt würden, nur um schnell zu publizieren.

Ein Gutachten über den Einsatz von KI-Schreibtools in der Hochschulbildung, das die Universitäten Bochum und Münster im Auftrag des Ministeriums für Kultur und Wissenschaft des Landes Nordrhein-Westfalen erstellt haben, hält ein Verbot solcher Tools nicht für zielführend. Es kommt zu dem Schluss, dass Nutzer der Tools durchaus Urheberschaft an den KI-unterstützt generierten Texten beanspruchen können, wenn sie in erheblichem Maße geistige Eigenleistung zu den Texten beitragen. Ausgeschlossen sei aber eine Urheberschaft oder Autorschaft der Software selbst.

Weiterentwicklungen und Erwartungen an zukünftige Versionen

Weiterentwicklungen

Am 14. März 2023 erschien offiziell Version 4.0 von GPT, welche auch die Fähigkeiten von ChatGPT erweitern soll. GPT-4 ermöglicht eine Bildeingabe und die Analyse und Beschreibung von Skizzen und Fotos. Es ist möglich, abfotografierte Aufgaben aus Büchern lösen zu lassen. Wissenschaftliche Arbeiten können hochgeladen werden, um eine Zusammenfassung generieren zu lassen. Examensprüfungen konnte GPT-4 bei Tests in den USA mit Auszeichnung erledigen. Komplizierte Steuerfragen werden beantwortet.

Erwartungen an zukünftige Versionen

Geldgeber hinter der Firma OpenAI wie Elon Musk und Microsoft, heißt es in der Zeit, ließen erahnen, welche Richtung die Entwicklung noch nehmen könne. Da bereits die noch leistungsfähigere Software GPT-4 entstehe, sei dringend eine gesellschaftliche Debatte darüber angebracht, „wie wir mit diesen technischen Möglichkeiten umgehen wollen“. Sonst entschieden Interessen einiger großer Konzerne, „welche Kultur wir bekommen und welche nicht.“

Doris Weßels erwartete von ChatGPT auf Basis von GPT 4 unter anderem die Produktion von Videos, reduzierte Fehleranfälligkeit und die Integration in Microsoft-Produkte wie Word. „Spätestens dann kann niemand mehr von einer Spielerei sprechen.“

Aufruf zu einer KI-Entwicklungspause

In einem offenen Brief mit mehr als 1000 Unterzeichnern, darunter Elon Musk, Steve Wozniak, Yuval Noah Harari und Stuart Russell, warnten die Verfasser Ende März 2023 unter Verweis auf die rasante Entwicklung und Weiterentwicklung von ChatGPT davor, dass die Entwicklung der Künstlichen Intelligenz (KI) aus dem Ruder laufe. Quasi im Wochentakt würden neue Entwicklungen vorgestellt. Staaten wie China betrachteten KI als „strategisch wichtig“ und wollten Entwicklern große Freiheit lassen. Die Unterzeichnenden fragen angesichts ihrer Befürchtungen, dass Informationskanäle mit Propaganda und Unwahrheiten geflutet und auch erfüllende Jobs wegrationalisiert werden könnten: „Sollen wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?“ In dem Brief wird gefordert, alle KI-Entwickler, die an der nächsten Generation arbeiten, sollten ihre Arbeit zunächst für sechs Monate einstellen, andernfalls „die Staaten ein Moratorium verhängen“ müssten. Die Pause solle genutzt werden, um Sicherheitsprotokolle für hochentwickelte KI zu erarbeiten.

Am 23. März 2023 veröffentlichte das Future of Life Institute in englischer Sprache den Aufruf zu einer KI-Pause. Darin hieß es unter anderem, dass in den letzten Monaten unter den KI-Laboren ein unkontrollierter Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer KI-Systeme entbrannt sei, die niemand verstehen, vorhersagen oder zuverlässig kontrollieren könne. In einer mindestens sechsmonatigen Entwicklungspause sollten KI-Labors und unabhängige Experten Sicherheitsprotokolle für das Design und die Entwicklung fortgeschrittener KI erarbeiten und umsetzen. Die KI-Forschung und -Entwicklung solle sich darauf konzentrieren, die heutigen leistungsfähigen, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, abgestimmter, vertrauenswürdiger und loyaler zu machen. In der Zusammenarbeit mit politischen Entscheidungsträgern sollten neue und fähige Regulierungsbehörden für KI geschaffen werden. Zudem werde ein robustes Prüfungs- und Zertifizierungssystem gebraucht und müsste die Haftung für durch KI verursachte Schäden gesichert werden. Weiters nötig sei eine solide öffentliche Finanzierung für technische KI-Sicherheitsforschung.

Literatur

• Maximilian Volland: Large-Language-Modelle und mögliche Anwendungsbereiche im Recht. In: LRZ.legal. 2023, Rn. 1–61 (abgerufen am 21. Januar 2023).
• Imre Grimm: Die Schreibmaschine. In: Kieler Nachrichten. 2023-01-19 S. 2 f.
• Jakob von Lindern: KI und Arbeit: 100 verschiedene Überschriften? Kommen sofort!. In: Zeit Online. 2023-01-10 (https://www.zeit.de/digital/2023-01/url-ki-arbeit-chatgpt-stable-diffusion/komplettansicht).
• Alexander Pretschner, Eric Hilgendorf, Ute Schmid, Hannah Schmid-Petri: Die mächtigen neuen Assistenzsysteme. Was aus der Künstlichen Intelligenz ChatGPT folgt, über die gerade alle sprechen. In: Frankfurter Allgemeine Zeitung. 2023-01-09 S. 18. Online auf faz.net (hinter Bezahlschranke).
• Jan Hase: Ethos des literarischen Schreibens. Eine Literaturtheorie im digitalen Zeitalter. Transcript, Bielefeld 2023, ISBN 978-3-8376-6395-2 (über die ethische Dimension computergenerierter Literatur).
• Susanne Bach, Doris Weßels: Das Ende der Hausarbeit. Sprachprogramme wie ChatGPT revolutionieren das Prüfungswesen an den Hochschulen. Lassen sich Täuschungen überhaupt noch aufdecken?. In: Frankfurter Allgemeine Zeitung. 2022-12-22 S. N4. Online auf faz.net (hinter Bezahlschranke).
• Jo Bager: Facettenreicher Gesprächspartner: Die Text-KI ChatGPT schreibt Fachtexte, Prosa, Gedichte und Programmcode. In: c’t. 2023, Nr. 1, 2022-12-16 ISSN 0724-8679, S. 46–47 (https://www.heise.de/select/ct/2023/1/2233908274346530870).
• Rolf Schwartmann, TU Köln: ChatGPT – Wenn Maschinen die Macht übernehmen. Der Textroboter hat das Potential, die Welt zu verändern. Das Problem reicht bis in die Wurzeln der Demokratie. In: Frankfurter Allgemeine Zeitung, 26. Januar 2023, S. 6. Online auf faz.net (hinter Bezahlschranke).
• Christian Rieck: Schummeln mit ChatGPT – In Schule, Uni und Beruf. Rieck Verlag, Januar 2023, ISBN 978-3-924043-70-4.
• Rolf Jeger: Einstieg in ChatGPT – Künstliche Intelligenz verstehen und nutzen: Ein praktischer Ratgeber für Einsteiger, VOIMA GmbH Verlag, Horgen Schweiz, 2023, ISBM Softcover: 978-3-907442-01-2, E-Book: 978-33-907442-00-5.

Weblinks

 Commons: ChatGPT – Sammlung von Bildern, Videos und Audiodateien

• chat.openai.com
• Beispiel „ChatGPT“ - Wie künstliche Intelligenz unser Leben verändert (mp3 Download) in Agenda des DLFs. Sören Brinkmann moderierte das Gespräch zwischen Antonio Krüger, Christian Rusche, Ann Cathrin Riedel und dem Publikum, abgerufen am 1. März 2023.
• Bericht in der Sendung Informationen am Morgen des Deutschlandfunks am 21. Dezember 2022.
• Dario Spilimbergo: Interview mit dem Chatbot GPT. (Audiostream) In: sirup.fm. Studierendenradiosendung von der Universität Zürich und der ETH Zürich, 23. Dezember 2022; abgerufen am 23. Dezember 2022 (english).