Kurzfassung: KI ist gut zu verwenden, wenn es um schnelle Formulierungsideen geht, aber die genannten Fakten müssen manuell geprüft werden, denn KI lügt einfach um den Text aufzuhübschen.

Rückkopplung: Die KI in der Feedback-Schleife

Der Einsatz von künstlicher Intelligenz mit Hilfe von neuronalen Computerchips verbreitet sich rasant. echonet hat damit auch schon sehr gute Erfahrungen gemacht, wenn wir beispielsweise an unseren Übersetzungsdienst für contentlife denken. Die Qualität von Textübersetzungen mit meteolingo ist tatsächlich besser als das was marktübliche Übersetzungsprogramme und kostenlose Online-Übersetzungsdienste bieten. Beim Übersetzen von Inhalten tritt aber auch das Problem der Rückkopplung nicht so stark auf.

Anders dagegen ist das, wenn künstliche Intelligenz zum Erstellen von Inhalten benutzt wird: Die Systeme sind extrem unkritisch und extrem lobend. Um es genauer zu sagen: Die KI repliziert einfach das, was in der Menge an Textinhalten vorhanden ist. Durch das Replizieren dieser "Meinungen" schreibt die KI selbst auch diese Meinung. Wird der Text dann verwendet, liest die gleiche (oder eine andere KI) diesen Text und bekommt so eine Verstärkung ihrer bestehenden Meinung.

Kritische Texte zu allgemeinen Themen sind kaum machbar!

Wir haben es ausprobiert und beispielsweise die text-generative Intelligenz von Google, die sich "Gemini" nennt, aufgefordert ein paar Texte zu verfassen und zwar über öffentliche Vekehrsmittel und über diverse Städte und Orte. Dabei kommen wir zu Erkenntnissen und die klingen nicht gut:

• Alles ist unglaublich bedeutsam und zentral!
  Die KI scheibt über praktisch jedes Dorf, welch bedeutsames Zentrum es sei und dass es unglaublich viel zu bieten habe - kein kritisches Wort. Warum auch, die Texte und Informationen über Gemeinden und Städte sind typischerweise auf der Webseite der Stadt selbst zu finden oder in deren Tourismus-Portal.
• Hier ist das ultimative Tor zu den Alpen
  Pratkisch jede Frage nach einer südlichen Salzburger, nördlichen Kärntner oder Tiroler Gemeinde - also für einen "allgemeinen Text" erklärt Gemini das jeweilige Dorf oder die Gemeinde in der einen oder anderen Form zum ultimativen Augangspunkt für alles, was mit den Alpen zu tun hat. ("Tor zu den Alpen", "Herzstück der Alpen", "Drehkreuz der Alpen"...)
• Wenn ich etwas nicht weiß, lüge ich einfach (positiv)!
  Unser Wunsch, dass die KI einen Text über den öffentlichen Verkehr in der Stadt Salzburg erstellen soll, beantwortet Gemini mit ein paar Fakten: Die KI behauptet, dass das Busnetz hervorragend ausgebaut sei, dass der Salzburger Verkehrsverbund überhaupt das Herzstück der Landeshauptstadt wäre und dass neben Bussen und Zügen vor allem die Straßenbahnen - wir zitieren "ein charakteristisches Merkmal Salzburgs" seien. Die Straßenbahn in Salzburg würde die Innenstadt mit den Außenbezirken verbinden.

Kurz und gut: Nicht vertrauen, aber verwenden!

Die künstliche Intelligenz und die diversen generativen Text-Systeme sagen oft nicht die Wahrheit. Sie bringen einerseits Schwerpunkte und Meinungsverstärkung zu Tage, die nur aus Werbebotschaften stammen kann. Andererseits erfindet die KI auch gerne einfach mal Inhalte, weil sie davon ausgeht, dass das gefragte Thema wohl Ähnlichkeiten mit anderen Themen hat. 

Da werden sich manche Salzburgerinnen und Salzburger die Augen reiben und sich fragen, wie denn die nicht vorhandene Straßenbahn in Salzburg zum Charakter-Merkmal der Landeshauptstadt werden konnte. Salzburg hat nur Zug, Bus und Oberleitungsbus.

Die Interpretation der KI, dass in Salzburg die Straßenbahn ein besonderes Merkmal sei, obwohl sie ganz einfach nicht existiert, kann nicht einmal auf werbliche Texte der Verkehrsbetriebe, des Tourismusverbandes oder der Stadt selbst zurückzuführen sein. Es kann eigentlich nur ein Rückschluss aus anderen Bezügen sein. Getreu dem Motto: Salzburg ist in Österreich eine Landeshauptstadt, die in der Größe im Bereich von Linz und Innsbruck ist, daher wird es wohl einfach eine Straßenbahn geben.

KI in Feedback-Schleife gefangen

Erschwerend kommt inzwischen dazu, dass auch professionell geführte Online-Medien mit Hilfe von künstlicher Intelligenz arbeiten und teilweise Artikel veröffentlichen, die von der KI auf Basis einer Presseaussendung geschrieben wurden. Das Funktioniert über APIs zu den KI-Systemen, denen man serversetig einfach die Pressemeldung schickt mit der Aufforderung einen Artikel daraus zu machen.

Die Unwahrheiten, die die 1. KI dort dann einbaut, werden aber von der 2. KI bereits als bare Münze aufgefasst und in ihrem Trainingsprogramm lernt die 2. KI die falschen Fakten von der 1. KI - und umgekehrt. So sind die Systeme zur künstlichen Intelligenz in einer Feedback-Schleife gefangen und erzeugen sich gegenseitig Rückkopplung.

Wichtig daher: KI als Textgenerator ist durchaus zu empfehlen, aber nicht um Texte dann unredigiert einfach online zu stellen, sondern sie eignet sich eher dafür einzelne Passagen und Formulierungen bereits zu haben und nicht neu erfinden zu müssen. Ob die dargestellten Fakten überhaupt zutreffen, muss man praktisch immer manuell prüfen.

Wenn Sie Lust auf kritische Texte haben, holen Sie sich unseren echonet-Newsletter! Wir wünschen Ihnen viel Spaß beim Lesen (und allen Salzburgerinnen und Salzburgern eine vergnügliche Fahrt in der Straßenbahn der Stadt Salzburg, ziehen Sie gutes Schuhwerk an, Sie werden viel gehen müssen).