Mehr als nur Hype
Künstliche Intelligenz im Journalismus

KI ist in Redaktionen längst Teil des Alltags. Doch oft wird die Technologie zu pauschal und oberflächlich behandelt, sagt Christina Elmer. Im Interview spricht sie über blinde Flecken, fehlende Experimentierräume und die Frage, wie Medien glaubwürdig bleiben, wenn Maschinen mitarbeiten.

Von Pauline Tillmann, Konstanz

Welche Erfahrungen aus deiner Zeit in Redaktionen prägen dich heute noch am stärksten, wenn es darum geht, KI im Journalismus zu bewerten?

Ich habe am Newsdesk bei der dpa gearbeitet, auch im Aktuellen beim SPIEGEL – bei SPIEGEL ONLINE damals noch. Und mich hat diese Erfahrung sehr geprägt: morgens zur Arbeit zu kommen und nicht zu wissen, welche Themen einen erwarten, ob man ihnen gerecht werden kann. Man kann es natürlich nie ganz, versucht es aber mit allem, was einem zur Verfügung steht.

Ich glaube, das ist etwas ganz Wichtiges, um die Herausforderungen der KI-Transformation im Journalismus zu verstehen: Wir haben da eine wahnsinnig große Geschwindigkeit, das System muss sich währenddessen immer wieder neu erfinden – und da ist es gar nicht so leicht, eine Innovation einzuführen oder zu sagen, wir machen jetzt alles neu.

Man weiß auch aus der Forschung, dass Systeme mit hoher Dynamik, wie der aktuelle Journalismus, besonders auf verlässliche Strukturen angewiesen sind. Das kenne ich selbst. Und deswegen finde ich die Erforschung dieses Themas so unglaublich spannend – weil am Ende natürlich Menschen in diesem System stecken, die jeden Tag wirklich herausgefordert sind. Das muss man irgendwie zusammenbringen.

Wo setzt du in deiner Forschungsarbeit die Schwerpunkte?

Sehr stark auf das Thema Künstliche Intelligenz – wie Redaktionen damit umgehen, wie das Thema dort ankommt, wie es weitergeführt und kommuniziert wird. Wir haben zum Beispiel ein Projekt, in dem wir uns damit beschäftigen, wie man mit dem Publikum kommunizieren kann, welche KI-Tools bei welchen Arbeitsschritten eingesetzt wurden – und welche Art von Transparenz sinnvoll ist, um das Vertrauen nicht zu verspielen. Denn wir kennen auch diesen Effekt: Menschen wollen wissen, was alles eingesetzt wurde. Aber wenn man alles offenlegt, kann das Vertrauen auch schwinden – weil unklar bleibt, wie mit KI-Systemen gearbeitet wurde und wie die Qualität sichergestellt wurde. Hier müssen wir alle noch dazulernen, in der Forschung, in den Redaktionen und im Publikum. In einem Projekt versuchen wir nun auch, solche Kennzeichnungsmöglichkeiten zu entwickeln.

Wie wird KI aktuell in Redaktionen eingesetzt?

Das Feld ist sehr divers. Es gibt professionelle Player, die schon früh Guidelines hatten, einen Chief Officer für das Thema und eine sehr strategische Herangehensweise. Aber natürlich auch viele Redaktionen, die sich das nicht leisten konnten und noch einen weiteren Weg vor sich haben.

Angekommen ist das Thema überall. Jede Redaktion beschäftigt sich damit – es gibt Fortbildungsmöglichkeiten, KI-Führerscheine, und einige Redaktionen haben eigene technologische Umgebungen, in denen man sicher einen Chatbot nutzen kann, ohne direkt ein Datenschutzrisiko einzugehen. Besonders früh und breit angekommen sind die Themen Transkription und Übersetzung. Früher musste man Interviews stundenlang händisch abtippen – als die ersten Tools dafür kamen, haben alle diese Arbeit gerne abgegeben. Ein schönes Beispiel für eine „Low Hanging Fruit“, die direkt funktioniert hat.

Was aber eigentlich wichtig wäre: das systematische Einbinden von KI in redaktionelle Workflows, der systematische Aufbau von Kompetenzen, ein wirklich neues digitales Wissensmanagement. Da ist noch wahnsinnig viel möglich. Dieses Potenzial wird bislang nirgendwo wirklich ausgeschöpft. Und das sehen wir auch in Befragungen: Die KI-Nutzung in der Arbeitszeit passiert in Redaktionen gar nicht so häufig, wie man denken würde.

Hat dich irgendetwas in der KI-Debatte überrascht?

Ja, ich finde es noch immer erschreckend – und überraschend –, wie undifferenziert an vielen Stellen über KI gesprochen wird. Das passiert sogar auf gut besetzten Panels, in Redaktionen, manchmal sogar in der Berichterstattung selbst: Dieser riesige Technologiebereich, der sehr viele unterschiedliche Ausprägungen hat – von Systemen, die Texte transkribieren, über solche, die Datenanalyse unterstützen, bis hin zu Sprachmodellen mit ganz eigenen Risiken – wird einfach über einen Kamm geschoren. Das fasziniert und besorgt mich jedes Mal aufs Neue, weil wir eigentlich tiefer ins Thema müssen. Wir brauchen alle viel mehr Kompetenz. Da verändert sich gerade etwas ganz Grundlegendes in der technologischen Infrastruktur, in der wir uns im Digitalen bewegen – auch in der, in der wir arbeiten. Damit bewusst umgehen zu können, ist gerade im Journalismus besonders wichtig.

Was würdest du sagen, wie könnte man’s besser machen?

Zum Beispiel, indem man wegkommt von einzelnen Markennamen und stattdessen von Sprachmodellen, generativen Bildmodellen spricht – oder einfach sagt: das KI-System, das Folgendes tut. Dann hat man schon mal benannt, wofür es da ist und welche Funktion damit einhergeht. Und man kann viel schneller ein Verständnis entwickeln: Wie muss ich dieses Werkzeug einsetzen, damit ich die Ergebnisse weiternutzen kann? Dabei bleibt die Verantwortung für die veröffentlichten Inhalte natürlich immer bei den Journalist*innen. Das ist wichtig zu betonen – und dafür brauchen alle eine gewisse Sicherheit. Momentan ist da noch sehr viel Unsicherheit, und die ist spürbar.

Redaktionen sprechen ja gerne vom „Human in the Loop” – also dass immer noch ein Mensch drüberschaut. Siehst du das auch so?

Grundsätzlich schon, vor allem bei Inhalten mit einer gewissen Fallhöhe. Allerdings: Ein „Human in the Loop“ ist nicht immer automatisch ein Vorteil. Qualitätskontrolle ist wichtig – keine Frage. Aber wir müssen uns auch bewusstmachen, dass Menschen nicht nur rational denken, sondern stark emotionsgetrieben sind. Ein simples Beispiel: Unsere Entscheidungsfähigkeit hängt unter anderem davon ab, wie hungrig wir sind. Man sollte also vielleicht nicht kurz vor Feierabend schnell noch ein KI-Ergebnis qualitätssichern.

Dazu kommt: Wenn wir mit automatisierten Entscheidungssystemen arbeiten, neigen wir dazu, deren Ergebnisse einfach zu übernehmen – weil sie so schön rational wirken. Dabei gibt es oft andere wichtige Aspekte, die das System gar nicht kennt, oder das Bauchgefühl spielt doch eine Rolle. Wir müssen uns fragen: Was sind wir eigentlich für eine Prüfinstanz? In welchen Situationen können wir das gut, wann ist es besonders wichtig – und wann vielleicht nicht? Grundsätzlich finde ich es aber natürlich wichtig, im Loop zu bleiben und die redaktionelle Arbeit nicht komplett den Algorithmen zu überlassen. Das ist sicher keine gute Idee.

Du beschäftigst dich viel mit dem Thema Vertrauen. Was würdest du Redaktionen empfehlen, um es nicht zu verspielen?

Aus unseren Fokusgruppen und Umfragen lässt sich schon einiges sagen. Erstens: Den journalistischen Prozess transparent machen und deutlich zeigen, dass in Redaktionen grundsätzlich schon eine sehr starke Qualitätsprüfung stattfindet – und dass diese auch dann greift, wenn KI-Tools zum Einsatz kommen.

Zweitens: Die Menschen in unseren Befragungen haben sich mehrheitlich eine Kennzeichnung gewünscht – aber nur dort, wo KI-Modelle tatsächlich und in wesentlichem Ausmaß an der Erstellung von Inhalten beteiligt waren. Wenn ein Beitrag zum Beispiel von einer synthetischen Stimme vorglesen wird, dann gibt es zwei Ebenen: Die Nutzung der KI-Stimme sollte einerseits kenntlich gemacht werden, aber Menschen wünschen sich auch eine Information dazu, was mit dem inhaltlichen Kern des Beitrags ist – wurde der händisch recherchiert und erstellt? Man sollte nicht überall ein „KI generiert“-Label draufkleben, nur um auf Nummer sicher zu gehen, denn das ergibt keinen Sinn, wenn KI-Systeme nur am Rande beteiligt war.

Drittens: Unsere Studienteilnehmer haben ausdrücklich dafür plädiert, dass sich alle Medien zusammenschließen und ein gemeinsames Label entwickeln – eines, das überall gleich aussieht, so wie das international vergleichbare Stoppschild. Eine schöne, aber auch anspruchsvolle Aufgabe.

Hältst du das für realistisch?

Es gibt durchaus Ansatzpunkte. Zum Beispiel das C2PA-Label, das von Unternehmen wie „Adobe“ vorangetrieben wird – mit dabei sind auch Medienunternehmen wie Bloomberg und WDR. Es zielt vor allem auf Bilder und Bildmetadaten ab und macht nachvollziehbar, woher ein Bild stammt und wie es verändert wurde. Wenn sich das weiter verbreitet und mehr Medienhäuser mitmachen, entsteht schon eine gewisse Einheitlichkeit.

In unserem Projekt versuchen wir ebenfalls, viele Player an einen Tisch zu bringen – aber damit fangen wir gerade erst an. Ich würde mich sehr freuen, wenn uns Ergebnisse gelängen, die den Menschen da draußen wirklich helfen, ihr Vertrauen in den Journalismus anders zu begründen und zu stärken.

Es heißt ja, KI demokratisiere den Journalismus – weil auch kleinere Newsrooms plötzlich Dinge möglich machen können, die sie sich sonst nicht leisten könnten. Siehst du das auch so?

Das würde ich nicht nur auf den Journalismus bezogen sagen. In vielen Bereichen gibt es diese Wirkung – gerade was Sprachen und Barrierefreiheit angeht. Da ist schon viel dran: KI kann helfen, Inhalte für bestimmte Gruppen zugänglicher zu machen. Ich glaube aber, dass das nicht automatisch passiert. Redaktionen sind dabei besonders gefordert, ihre Qualität abzusichern – sei es durch einen „Human in the Loop“ oder durch ein anderes Sicherheitsnetz, etwa technischer Natur oder mithilfe externer Expertise. Denn sobald bestimmte KI-Systeme involviert sind, können bestimmte Fehler passieren. Bei Sprachmodellen finden sich immer wieder fehlerhafte Verkürzungen oder typische Biases – also Verzerrungen, die Diskriminierung zur Folge haben können. Das muss man beachten, auch wenn ein Ergebnis im ersten Moment hochwertig klingt. Man muss sich jedes System einmal genau anschauen: Was kann es leisten, und wo muss man aufpassen?

Einer unserer letzten Artikel drehte sich um feministische KI. Das ist ja auch ein Problem: Trainingsdaten stammen zum Großteil aus den USA und bilden cis-heteronormative Perspektiven ab. Würdest du das bestätigen?

Ja, absolut. Man kann durchaus in eine Richtung prompten, in der auch Minderheiten eine relevante Rolle spielen – aber ein KI-Sprachmodell wird das nicht von alleine tun. Es ist darauf trainiert, immer den wahrscheinlichsten Fall auszugeben. Und das ist häufig ein Stereotyp, der „Normalfall“ sowzusagen – aber eben nicht das, was unsere Gesellschaft so lebenswert macht: die große Vielfalt von Menschen und Lebensentwürfen. Da muss man aktiv gegensteuern. Und man muss sich noch etwas bewusstmachen: Es gibt ganz viel Wissen auf der Welt, das gar nicht in KI-Modelle einfließen konnte, weil es nicht digital oder gar nicht schriftlich verfügbar ist. Das verengt das Weltbild zusätzlich. Für Redaktionen ist das eine fast schon philosophische Frage: Wollen wir solche Systeme in unsere Inhaltegenerierung hineinlassen? Und wenn ja, wie sorgen wir dafür, dass wir unseren breiten gesellschaftlichen Fokus behalten?

Gibt es eine aktuelle Studie, die dich besonders beschäftigt hat?

Ich fand es sehr spannend, mehr über KI-Agenten zu lesen – was sie leisten können und was nicht, und in welchen Feldern man sich wirklich etwas abnehmen lassen kann. Das ist ein großes Thema, das die Entwicklung noch mal stark beschleunigen und die Arbeitswelt erheblich verändern könnte. Wenn ich mir vorstelle, ich hätte in meinem Arbeitsalltag nicht mehr nur mich selbst, sondern mich und zehn KI-Agenten, die ich beaufsichtige und die mit mir recherchieren – dann muss ich plötzlich ganz anders arbeiten. Ich brauche technisches Verständnis, mehr Projektmanagement, muss Ergebnisse überprüfen, kann aber auch viel mehr schaffen. Gleichzeitig mache ich bestimmte Arbeitsschritte, die mir eigentlich gut gefallen – wie das Lesen von Quellen – vielleicht gar nicht mehr selbst. Also muss man sich fragen: Was bedeutet das für das eigene Berufsfeld?

Das erinnert mich an die Anfänge der KI-gesteuerten Robotik, als man dachte, die kommen noch nicht mal den Bordstein hoch. Und dann sehen wir plötzlich tanzende und Kung-Fu-demonstrierende Roboter aus China. Da hat sich wieder etwas weiterentwickelt. Bei KI-Agenten wird es vermutlich ähnlich sein. Interessant ist in dem Zusammenhang auch das Thema RAG-Systeme – Retrieval Augmented Generation – die ein Sprachmodell mit einer Wissensdatenbank verknüpfen. Das senkt die Fehlerwahrscheinlichkeit deutlich, macht KI-Ergebnisse verlässlicher. Das war ein wichtiger Schritt – auch für Redaktionen, die sich jetzt trauen können, mit diesen Systemen im Live-Betrieb zu arbeiten.

Was sind die drei größten Fehler, die Redaktionen im Umgang mit KI noch immer machen?

Wenn ich in Redaktionen hineinhöre – über Umfragen und Gespräche –, dann habe ich oft das Gefühl, dass zwar viel über KI geredet wird, es aber noch zu wenig echte Experimentierräume gibt, in denen man Erfahrungen sammeln und herausfinden kann: Was bringt mir das konkret, in den Aufgaben, die ich täglich mache? Und wie entwickeln sich Rollen und Aufgaben weiter? Auf Ebene der einzelnen Redakteurin, des einzelnen Redakteurs. Da die Kompetenzen zu stärken und Zeit zu investieren – ich weiß, das kostet Geld und man muss intern dafür kämpfen – halte ich für sehr wichtig. Viele sagen uns: „Ich möchte viel mehr Weiterbildung.“ Aber besonders gut lernt man natürlich mit einem eigenen Projekt, im Doing, mit einer klaren Zielvorstellung: Was ist ein gutes Ergebnis? Wenn ich das weiß, kann ich versuchen, dort hinzukommen.

Zweitens: konkreter über spezifische Tools sprechen, nicht immer nur allgemein über „die KI“. Das spüren die Menschen in den Redaktionen auch auf individueller Ebene – sie wünschen sich klare Empfehlungen, wie man mit welchem System sicher und sinnvoll arbeiten kann. Und drittens: Wissensmanagement. Das ist aus meiner Sicht einer der größten ungenutzten Hebel. Viele Redaktionen sitzen auf ihren Archiven, auf dem, was sie schon veröffentlicht haben – und das ist häufig nicht gut digitalisiert und nicht gut zugänglich.

Wenn man es schaffen würde, das täglich erarbeitete Wissen so zu erfassen, dass man es mithilfe von KI-Systemen nutzbar machen kann – für weitere Recherchen, für Hintergrundartikel, fürs Publikum – dann könnte man noch viel mehr sichtbar machen, was erarbeitet wurde, und weniger würde sich quasi im Nirgendwo versenden. KI-Technologien könnten das sehr gut unterstützen.

Es gibt dazu übrigens ein Pilotprojekt vom SÜDKURIER: „Marianne” heißt es und ist benannt nach einer Archivarin. Es sorgt dafür, dass das digitalisierte Archiv der letzten zehn Jahre über eine App zugänglich ist. Ein erster Schritt in diese Richtung.

Ja, genau – erst mal überhaupt digitalisieren, um dann Services darauf aufsetzen zu können. Das ist der entscheidende erste Schritt.