Wie funktionieren Programme, die Texte generieren?

Genau diese Frage stellt Philippe Wampfler in seinem Text „Können Programme gute Texte schreiben? Dieser Titel stellt leitet schon die nächste Frage ein, somit steht fest, dass sich bei dem Thema KI-generierte Texte viele Fragen ergeben. Vielleicht können einige mithilfe dieser kurzen Zusammenfassung des Textes beantwortet werden. 

Eine weitere Frage (dieser Beitrag lässt erkennen, dass immer mehr Fragen entstehen), die mich schon immer beschäftigt hat, ist wie mein Smartphone mir all diese Vorschläge an Worten unterbreitet, wenn ich eine Textnachricht verschicken möchte. Diese Frage kann Wampfler beantworten. Für diese Vorschläge ist der Markow-Algorithmus verantwortlich, dieser berechnet aufgrund der eigenen Sprachverwendung mit welcher Wahrscheinlichkeit ein Wort auf ein anderes folgt. Hier ein Beispiel meines eigenen Smartphones, wenn ich das Wort Morgen eingebe. 

Morgen früh muss er noch einmal zur Schule.

Da stellt sich mir die Frage, wer morgen früh noch zur Schule muss 🤔 Das kann ganz einfach erklärt werden, denn der Markow-Algorithmus weiß nichts über den Kontext, in dem die Nachricht verfasst werden soll und erzeugt eine unendliche Schleife, da er nie einen Punkt setzt und immer neue Wörter vorschlägt, die auf das vorher erzeugte Wort folgen. Somit wird klar, dass dieses Verfahren keine guten Texte erzeugen wird. Aber können dann überhaupt gute KI-generierte Texte entstehen? 

Neuronale Netzwerke und Machine Learning sind die Antwort darauf. Die Netzwerke sind Input gesteuert und erzeugen Output – der Input besteht aus einer Menge an verschiedenen Texten, die auf ihre Muster untersucht werden, denn die Programme haben kein eigenes Wissen über grammatische Regeln oder ähnliches. GPT-3 greift für seine Textproduktion auf alle Texte im Internet zurück, um aus diesen zu lernen. Jedoch ist eine Kohärenz in längeren Texten nur schwer möglich – also einen Zusammenhang in der Oberflächenstruktur eines Textes. 

Wie ist das nun? Können Programme gute Texte verfassen? Die Antwort lautet jein. Erhält das Programm möglichst genaue Vorgaben und kann es auf viele verschiedene Texte zurückgreifen, können die Texte gut werden. Jedoch können solche Programme keine kreativeren, freien Texte erstellen oder längere Handlungsgerüste entwickeln. Also ist es bisher eher weniger möglich Drehbuchautorin für großartige Blockbuster zu werden, ohne selbst Texte schreiben zu müssen. Dann wird es wohl doch bei Deutschlehrerin bleiben… aber vielleicht wird es ja in der Zukunft noch möglich werden. 

KI greift auf den Input zurück
Der Input aller Texte