Xenia Kitaeva

Es ist in aller Munde: Die sogenannte “Künstliche Intelligenz” dominiert aktuell in (fast) allen Lebensbereichen den Diskurs. Fast jede:r hat mittlerweile mit ChatGPT gechattet oder bei Dall-E2 Bilder generiert. Auch wir von digiS beschäftigen uns seit Anfang 2021 verstärkt mit Machine Learning / Künstlicher Intelligenz und welche Auswirkungen diese auf die digitale Praxis in Kulturinstitutionen und deren Gestaltung haben. Wir fragen uns: Was bedeutet Machine Learning / KI für die digitale Verfügbarmachung des Berliner Kulturerbes? 

Das schreibt ChatGPT dazu: 

Danke, ChatGPT. 

Nicht nur wir stellen uns Fragen zu den rechtlichen, gesellschaftlichen, künstlerischen und ethischen Implikationen von “Künstlicher Intelligenz”: 

Das 2019 von Dr. Oonagh Murphy (Goldsmiths, University of London) und Dr. Elena Villaespesa (School of Information, Pratt Institute) gegründete “The Museums + AI Network” etablierte eine Austauschplattform, ein Netzwerk von im angloamerikanischen Raum angesiedelten Museen und Universitäten, um die Herausforderungen, die sich durch die Anwendung von KI für den Museumsbereich stellen, kritisch zu diskutieren. Das aus diesen Gesprächen und Workshops entstandene Toolkit erschien 2022 in deutscher Fassung in Zusammenarbeit mit dem Badischen Landesmuseum. Es bietet neben Praxisbeispielen vor allem zahlreiche Arbeitsblätter in Vorbereitung von KI-Projekten im Museum und bearbeitet die Frage “Welche Einsatzmöglichkeiten und Mehrwerte bieten Verfahren der Künstlichen Intelligenz für Museen?” Beim Badischen Landesmuseum ist auch das zukunftsweisende Projekt “KI und Museum” unter der Leitung von Sonja Thiel angesiedelt. 

Erste prototypische Anwendungsszenarien von Machine Learning in einzelnen, großen Museen wie dem MET zeigten schon 2019 mit Aufsehen erregenden Kooperationsprojekten neue Wege der KI-gestützten Analyse und Darstellung ihrer Sammlungen – und in diesem Fall die Vorteile der Verquickung von offen verfügbaren Kulturdaten und Machine Learning Verfahren. Daran anknüpfend sollte ein digiS-Workshop im März 2022 in erster Linie dabei helfen, den Begriff der “Künstlichen Intelligenz” zu entmystifizieren und Entscheidungshilfen zum Einsatz von Machine Learning Technologien in der (eigenen) Institution zu geben.  

Im November 2022 erfolgte dann der „Urknall“: die Veröffentlichung des Chat-Bot GPT „Generative Pre-training Transformer“ des kalifornischen KI-Forschungslabors OpenAI. Chat GPT-3 entlockte den laut Selbsteinschätzung “hartgesottenen Technik-Versteher(n) in der c’t-Redaktion” beeindruckte Lobesrufe. Schon eine Woche, nachdem Chat GPT-3 der Öffentlichkeit zur Verfügung gestellt wurde, hatte es über eine Million Nutzende, der Chatbot war überall “zu Gast” und zog in den Arbeits- und Kreativ-Alltag ein. 

Im Blogbeitrag von Jörg Lehmann (Stiftung Preußischer Kulturbesitz, SPK) werden verschiedene mögliche Einsatzbereiche des Chatbot-Prototypen ChatGPT im Kulturerbe-Bereich diskutiert: “Anfertigung von Textzusammenfassungen oder Beschreibungen von Kunstwerken, […] Generieren von Metadaten, Schreiben von Computercode für einfache Aufgaben, Unterstützung bei der Sacherschließung oder Hilfe für Nutzer:innen beim Auffinden von Ressourcen auf den Webseiten der Kulturerbeeinrichtungen.” Die SPK erprobt in ihrem Projekt „Mensch.Maschine.Kultur – Künstliche Intelligenz für das Digitale Kulturelle Erbe in der Staatsbibliothek zu Berlin“ verschiedene Einsatzszenarien von KI im Kulturerbe-Bereich; Fragen der Datenkuratierung für KI werden behandelt, ebenso sollen in einem Teilprojekt communitybasierte Richtlinien zu ethisch problematischen Beständen erarbeitet werden. 

Auch Dominik Bönisch (Leiter des Forschungsprojekts “Training the Archive”) lotet den widersprüchlichen Einsatz von KI beispielsweise zur automatisierten Strukturierung von musealen Sammlungsdaten oder bei der Unterstützung der kuratorischen Praxis und künstlerischen Produktion aus. Als einer der Gäste des Zukunftspanels zu KI bei unserer Jahreskonferenz am 24. Mai 2023 diskutieren wir u.A. mit ihm “Künstliche Intelligenz” im Hinblick auf rechtliche, gesellschaftliche, künstlerische und ethische Implikationen (näheres dazu im Veranstaltungs-Padlet).

Im Podcast-Dialog zwischen Sebastian Meineck und Chris Köver (netzpolitik.org) (Januar 2023) versuchen die beiden Journalist:innen sich dem Thema generative KI zu nähern, ohne die Technik zu verteufeln, sondern stattdessen zu verstehen, welche ethischen, rechtlichen und gesellschaftlichen Probleme sie nach sich zieht. Ob der Einsatz von Bildgeneratoren fair gegenüber den Künstler:innen und Kreativen sei, die die Trainingsdaten zur Verfügung stellen, fragt Sebastian Meineck in seinem Blogbeitrag. Er schlägt darin den Bogen zu einem weiteren Referenten unseres Zukunfts-Panels, Dr. Till Kreutzer (iRights Law). Entsteht urheber- oder leistungsschutzrechtlicher Schutz bei KI-generierten Werken? Die Debatte ist kontrovers. Auch im Blog von Wikimedia Deutschland beschäftigt man sich mit rechtlichen und ethischen Fragen und hat eine klare Haltung darin, KI-generierte Texte für die Wikipedia abzulehnen.

Der Deutsche Ethikrat analysierte März 2023 in seiner Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“, die Auswirkungen von KI auf unser menschliches und gesellschaftliches Selbstverständnis und kommt zu dem Schluss: „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen. Das sind grundlegende Regeln für die ethische Bewertung“ (Alena Buyx, Vorsitzende des Deutschen Ethikrates). Es wird unter anderem nachdrücklich empfohlen, eine gemeinwohlorientierte Datennutzung in den Mittelpunkt zu stellen. Nur so könne eine verantwortliche Nutzung von KI-Anwendungen gelingen. Die dritte Referent:in des Zukunftspanels unserer Jahreskonferenz, Judith Faßbender (HIIG, AI & Society Lab), fokussiert sich genau auf dieses Thema. Sie untersucht im Rahmen der Forschungsgruppe „Public Interest AI“, wie ein operationalisierbares Verständnis von gemeinwohlorientierter KI definiert und entwickelt werden kann. 

Mittlerweile ist Chat-GPT 4 da und soll besser, schneller, stärker sein. Helmut Linde von golem.de ist beeindruckt und fasst die extensive Sammlung von Microsoft Research’s Fallbeispielen “Sparks of Artificial General Intelligence: Early experiments with GPT-4” zusammen, die bei Chat-GPT 4 einen „Funken von allgemeiner künstlicher Intelligenz“ erkennen. So hat es ein visuelles Vorstellungsvermögen, kann “Werkzeuge” benutzen (digitale natürlich) und kombinieren – obwohl es nicht explizit dazu trainiert wurde. Es kann programmieren, macht aber auch allzu menschliche (Flüchtigkeits)fehler bei Rechenaufgaben (wie relatable!), hat eine Art Orientierungssinn, und “kalkulierte Intuition” – es kann menschliche Gefühle zumindest einschätzen und/oder vorausahnen.  “Eine mögliche Verbesserung für die Zukunft könnte (…) darin bestehen, das Modell um eine innere Feedback-Schleife zu erweitern, so dass es nicht nur linear eine Antwort erzeugen, sondern seinen eigenen Denkprozess überwachen, beurteilen und lenken kann. Dies würde dazu beitragen, die Leistungsfähigkeit des Sprachmodells weiter zu erhöhen und es noch besser an die menschliche Denkweise anzupassen, wodurch es in der Lage wäre, komplexere Probleme effizienter und präziser zu lösen.” 

Die Diskussion um Chat-GPT geht soweit, dass KI-Forschende (und andere) Ende März 2023 ein “sechsmonatiges Moratorium für die Weiterentwicklung von KI-Systemen forderten, die mächtiger wären als GPT-4.” und Italien als erstes europäisches Land die Nutzung von Chat-GPT unterbunden hat. Zu den Risiken von Chatbots und KI macht sich Tagesspiegel-Redakteurin Manuela Lenzen valide Gedanken und fragt sich: “Kann eine KI die Welt erobern?”

Auch wir machen uns viele Gedanken und experimentieren mit OpenAIs Tools (aber keine Sorge, wir weisen darauf auch hin! Oder…?). Das digiS-Fazit ist: Es bleibt spannend und unübersichtlich, daher stellt dieser Beitrag keinen Anspruch auf Vollständigkeit. Wir beobachten die Entwicklungen mit Argusaugen – einige im digiS-Team haben sich vorsorglich nochmal The Matrix (1999) angesehen und denken über white rabbits nach. 

Vielleicht ist bis zu unserer Jahreskonferenz schon Chat-GPT 5 da und kann menschliche Handlungen noch besser vorhersagen und darauffolgend reproduzieren, vielleicht lernt es, ohne Flüchtigkeitsfehler zu rechnen? Absehbar ist, dass KI-PlugIns viel Umbruch erzeugen werden und uns die Frage nicht loslassen wird, was “Künstliche Intelligenz” und Machine Learning nachhaltig im Alltag, im Arbeits- und im Privatleben verändern werden. Wahrscheinlich können wir uns die Entwicklungen mit unseren allzu menschlichen Gehirnen gar nicht vorstellen: Wer hätte denn den Papst in Balenciaga-Jacke und den Effekt, den das virale KI-Bild hatte, erwartet? Und wer einen KI-generierten Track von Kanye West? Oder die Möglichkeit, mit Toten zu reden? Wir nicht. 

Dieses Bild ist KI-generiert, anhand des Prompt: “In the style of Albrecht Dürer: A white rabbit that asks you to follow it into the matrix.”