Auf der future!publish 2024 in Berlin drehten sich die Vorträge vor allem um ein Thema: Künstliche Intelligenz in der Verlagsbranche.
Auf dem größten Kongress der Buchbranche spricht ein Team von Studierenden der Buch- und Medienproduktion am 01. Februar darüber, wie sie es wagen, in Kooperation mit KI ein wissenschaftliches Buch zu schreiben.
Der Fortschritt von Künstlicher Intelligenz bewegt nicht nur die Gesellschaft, auch die Buchbranche steht Kopf. Die Vorstellung, KI-Sprachmodelle seien in der Lage, ganze Bücher zu produzieren, bereitet der Branche große Sorgen. Ob es sich bei solchen Gedanken um Science Fiction oder doch der Gegenwart handelt, erforschen gerade zwölf Studierende des Studienganges Buch- und Medienproduktion gemeinsam mit Professor Friedrich Figge und einem externen Partner.
Die Erstellung beruht trotz KI auf der Basis menschlicher Inhalte
Nach erster Einweisung in die KI-Tools ist schnell klar: Ein Buch auf Knopfdruck wird dieses Projekt keinesfalls. Sobald die Idee einen Leitfaden zum Schreiben wissenschaftlicher Arbeiten mit KI Sprachmodellen zu verfassen steht, bekommt das Team tatkräftige Unterstützung. Dr. Kirsten Darby, HTWK-Absolventin, derzeit in einer wissenschaftlichen Bibliothek tätig und Autorin wissenschaftlicher Veröffentlichungen, stellt ihre Zeit und Expertise zur Verfügung. Gemeinsam wird eine wissenschaftlich korrekte Gliederung und die Gestaltung der Kapitel erstellt.
Um sogenannte „Hallucinations“, also von KI produzierte überzeugend wirkende Antworten, die jedoch vollständig erfunden und falsch sind, zu vermeiden, muss die Vorarbeit der Autorinnen und Autoren so genau wie möglich sein. Das bedeutet, eine detaillierte, eigenständige Quellenarbeit und Formulierung der Quelleninhalte in Bulletpoints (Stichpunkten) unter Beachtung einer vorher festgelegten sachlich richtigen Reihenfolge muss erstellt werden. Es ist außerdem wichtig, alle nötigen Informationen über Inhalt und Format der Prompts zu kennen, um die Bulletpoints anpassen zu können. Ein Prompt ist eine konstruierte Eingabeaufforderung, um der KI die richtigen Anweisungen zu geben. Je mehr der KI am Anfang geliefert wird, desto besser das Resultat.
Die fertige Sammlung der Bulletpoints von über 50 Seiten gibt dann der externe KI-Ingenieur inklusive des Prompts in deren entwickelten Prototypen. Dieser gibt die Informationen weiter an ChatGPT4.
Der erste Entwurf fällt ernüchternd aus
Nach tagelanger Arbeit der Studierenden enthält der generierte KI-Text falsche Quellenangaben, falsche Zitate, Hallucinations, nicht-wissenschaftliche Formulierungen sowie Grammatik- und Rechtschreibfehler. "Eigentlich heißt es ja, KI könne alles... Plot Twist kann sie tatsächlich nicht. Das bedeutet für uns aktuell mehr Arbeit, als erwartet", meint Teammitglied Marie Gude. Für einen zweiten, besseren Entwurf muss der zuvor angewendete Prompt angepasst werden. Im nächsten Schritt agiert das Team jetzt also als Lektorinnen und Lektoren, um Feedback zu liefern, welches dann durch den KI-Ingenieur integriert wird. Doch auch das darauffolgende Ergebnis enthält Fehler: Die KI produziert trotz Anpassungen des Prompts wieder Hallucinations, fügt beispielsweise einen komplett neuen Absatz mit frei erfundenen Fakten hinzu. Die Anweisungen an die KI müssen erneut konkretisiert werden, es entsteht ein Ping-Pong zwischen Feedback und Prompt - ein wichtiger Prozess, um das Ziel zu erreichen.
Dr. Kirsten Darby zieht auf der future!publish ein Resümee: „KI regt an und regt auf. KI bringt auf den Weg und bringt vom Weg ab.“ Das Semester ist fast vorbei, das geplante Buch noch immer nicht fertig. Für Projektleiter Niklas Metzinger ist klar: „Die KI ist in der Lage, ein Buch zu schreiben. Ohne Vor- und Nacharbeit von Fachleuten ist das Endergebnis jedoch faktisch falsch und somit unbrauchbar. Textgenerierung mit künstlicher Intelligenz steht noch am Anfang.“
„Die Entwicklung braucht Zeit, Expertise, Mut und Geduld“, ist das Fazit der Studierenden. Sie lassen sich davon nicht unterkriegen und werden so lange wie nötig wertvolles Feedback geben, um am Ende ein qualitativ hochwertiges, wissenschaftlich korrektes Buch in den Händen halten zu können.
Text: Magdalena Groh (SHK der zentralen ÖA und stellvertretende Leitung des KI-Buchprojektes)