Leserbrief

Dr. Marduk Buscher: „Bewusstes Füttern der KI mit falschen Aussagen führt zu immer abstruseren Ergebnissen“

KI Dystopie
© Alexandra_Koch – Was passiert, wenn KI mit falschen oder tendenziösen Inhalten gefüttert wird?
Inspiriert von einer fünfteiligen Serie im Ortenau Journal über Chancen und Risiken von KI in Kunst und Musik meldet sich Dr. Marduk Buscher aus Baden-Baden zu Wort. Der Ehrenpräsident des deutsch-französischen Unternehmerverbands CAFA-RSO blickt kritisch auf die Euphorie rund um „Künstliche Intelligenz“. Er warnt vor Redundanzen, Entropie und dem Verlust von Sinn, zeigt aber auch, dass KI durch enorme Rechenleistung überraschende Ergebnisse liefern kann – wenn auch ohne echte Kreativität.
Von Dr. Marduk Buscher

„Künstliche Intelligenz“ (KI) ist bis heute der euphemistische Name einer Technologie, welche auf der statistischen Wahrscheinlichkeit beruht, mit der ein Wort einem anderen folgen kann. KI hat kein Bewusstsein, ist nicht kreativ, nicht „intelligent“, wenn wir menschliche Kategorien zugrunde legen.

Redundanzen manipulieren Statistik

Da KI „selbstlernend“ ist, werden alle Anfragen und Antworten innerhalb des Systems wieder zum Teil der Datenbasis, mit welcher gearbeitet wird, was zu Redundanzen führt, welche die Statistik manipulieren, die dann wieder künftigen Anfragen zugrunde liegt. Auch bewusstes „Füttern“ der KI mit falschen oder tendenziösen Aussagen führt zu immer abstruseren Ergebnissen.

Unwahrscheinlicher Zustand

Wenn man „Sinn“ als die Konzentration von Informationsbestandteilen versteht, so geht dieser zunehmend verloren, wenn die Informationshappen sich zerstreuen. „Konzentration“ ist ein eher unwahrscheinlicher Zustand. Dies gilt um so mehr, wenn man von der KI neue Erkenntnisse erwarten würde. Erkenntnisgewinne setzen immer die Interaktion zwischen Empirie und Hypothese voraus.

Zuführung kreativer Energie

Diese entsteht durch die kreative Weiterentwicklung einer aus der Empirie abgeleiteten Theorie. Um zu einem höheren Erkenntnisstand zu kommen, bedarf es also der Zuführung kreativer  Energie, wie sie entsteht, wenn Informationen aus unterschiedlichen Bereichen von einem intelligenten System zusammengeführt werden.

Dr. Marduk Buscher

Dr. Marduk Buscher warnt vor abstrusen Ergebnissen durch KI. Foto: Christian Fischer

Entropie: Wenn Ordnungen zerfallen

Diesen Vorgang beschreibt sinngemäß auch der zweite Hauptsatz der Thermodynamik, welcher – sehr verkürzt – besagt, dass es stets einer Energiezuführung von außen bedarf, wenn innerhalb eines Systems eine Ordnung (von Teilchen) hergestellt werden soll. Das Gegenteil ist die „Entropie“, welche darin besteht, dass Ordnungen, also „Konzentrationen“, zerfallen, und sich die Bestandteile gleichmäßig, also „unordentlich“, in dem System verteilen:

  • Entropie im geologischen Kontext beschreibt das Abtragen von Gebirgen durch Erosion. Theoretisch wird am Ende eine konturlose Fläche entstanden sein.
  • Entropie in der Badewanne besagt, daß sich warmes Wasser mit der Zeit über das gesamte Volumen verteilt und dadurch abkühlt.
  • Entropie – als universales Naturgesetz verstanden – ist also der wahrscheinlichste Zustand, bezogen auf die Verteilung von Teilchen gleich welcher Art. Gewissermaßen eine ziemlich wahrscheinliche Zukunfts-Dystopie.

Erkenntnisgehalt nimmt ab Beziehen wir diese Erkenntnis auf den Bereich der Informationstheorie, so muss angenommen werden, dass der Informations- oder Erkenntnisgehalt von  inntragenden Teilchen ebenfalls abnimmt, wenn man als Ordnungsprinzip die größtmögliche Wahrscheinlichkeit der Anordnung voraussetzt.

Scheinbar neue Ergebnisse durch KI

Wenn man beispielsweise ein Foto und seine Kopie immer wieder weiter kopiert, entsteht irgendwann eine weiße oder schwarze Fläche. Je nachdem, wie man den Schwärzungsgrad des Kopierers eingestellt hat. Gleichwohl kann die KI vor diesem Hintergrund überraschende, scheinbar neue, und „kreative“ Ergebnisse hervorbringen, wenn ihre Datenbasis wirklich alle Arten menschlich verfügbarer Information zugrunde legt.

Von Entropie bis Mattscheibe

Diesen sich über Zeiten, Kulturen und Wissenschaftsbereiche erstreckenden Datenpool zu berücksichtigen, kann nur die enorme Rechenleistung einer KI ermöglichen. Und durch das Zusammenbringen so unterschiedlicher Sichtweisen der Welt könnte vielleicht auch ein Erkenntnisgewinn entstehen.

Freilich ist das eher unwahrscheinlich, und irgendwann schaut die Menschheit nur noch auf die durch Entropie des Wissens entstandene „Mattscheibe“.

Siehe auch hier:

„Wenn die KI zu flirten beginnt“: Im Buch von Klaus-Ulrich Moeller wird KI-Agent „KILA“ fast menschlich

KI-Dystopie: Ludwig Hillenbrand warnt vor dem Verlust von Kreativität und selbständigem Denken

Kreativer Dialog: Offenburgs OB-Kandidat Uli Albicker über die Rolle von KI in Musik und Kunst

Weitere Beiträge