3 grundlegende Probleme der KI
Aus Wiki1
Im Zusammenhang mit künstlicher Intelligenz (KI) werden allerlei Herausforderungen und Schwierigkeiten diskutiert und öffentlich verhandelt: Datenschutz, Urheberrecht, digitale Macht, Arbeitsplatzverluste, Sicherheit, Gefahr für die Menschheit uvm.
Ich möchte an dieser Stelle drei besondere Herausforderungen hervorheben, die aus meiner Sicht von tiefgreifender Natur für die Beziehung Mensch-Maschine sind und die nicht technisch sondern ausschließlich gesellschaftlich gelöst werden können.
Delegation ersetzt Produktion
KI-Modelle erlauben es, mit wenigen Informationen komplexe intellektuelle Ergebnisse - Filme, Texte, Bilder, Musik - zu generieren. Damit vervollständigt sich eine Entwicklung, die in der Industrialisierung unserer Produktions- und Wertschöpfungsketten schon seit langem vorgezeichnet wurde. Auf allen Ebenen wurde und wird die Produktion von Dingen von deren Entwicklung und Planung getrennt. Die Manager haben eine Idee und delegieren die Ausarbeitung an Andere, die dann die Detaillierung und konkrete Schaffung realisieren.
Dieses System funktioniert sehr effizient - verglichen mit der frühen handwerklichen Tradition, in denen Ideengeber und Produzent oft in einer Person vereinigt waren. Künstler schufen ihre Werke nicht nur als Idee und Projekt, sondern als konkreten Gegenstand, den sie selbst herstellten. Handwerker bauten Dinge so wie man sie nach der Tradition baute, sie waren Architekt und Bauarbeiter in einem.
Durch die Arbeitsteilung entstand eine effizientere Art der Abwicklung - der Architekt entwarf das Haus mit seinem Wissen und Können und die Handwerker setzten es nach seinen Plänen konkret um, mit ihrem Wissen und ihrem Können.
Durch KI wird dieses Konzept auf die intellektuelle Produktion erweitert. Der Nutzer ist jetzt der delegierende Manager, der Architekt, der Kurator, der seine Anweisungen an die KI weitergibt und sich von ihr das Ergebnis produzieren lässt. Wie sich in der industriellen Produktion jedoch immer wieder zeigte, ist das Ergebnis in erheblichem Maße abhängig von der Fähigkeit des Managers, die Aufgabe korrekt und präzise zu formulieren und das Ergebnis hinsichtlich seiner Qualität zu beurteilen. Falsche Vorgaben an die Produktion führen zu fehlerhaften Produkten.
In der industriellen Produktion sind diese Fehler in der Regel unmittelbar ersichtlich. Die Qualität kann mit Messungen und standardisierten Verfahren überprüft werden und geben dem Manager eine unmittelbare Rückmeldung - gleichgültig, ob er die entsprechenden Kompetenzen besitzt oder nicht. Ein produziertes Gerät funktioniert oder es funktioniert nicht. Das kann auch ein kompetenzfreier Manager erkennen.
Bei der Produktion intellektueller Ergebnisse ist diese unmittelbare Rückmeldung nicht gegeben. Wenn ein Nutzer ohne juristisches Hintergrundwissen eine KI bittet, eine juristische Stellungnahme zu generieren, ist er weder in der Lage, einen ausreichend präzisen Prompt zu formulieren, noch ist er in der Lage, das Ergebnis zu prüfen. Ja er ist noch nicht einmal in der Lage, dies zu erkennen und die daraus notwendigen Folgerungen zu ziehen.
Trotzdem wird die KI ein sprachlich beeindruckendes Ergebnis liefern. Der Text ist scheinbar kohärent und plausibel und die Quellenangaben sehen genauso aus, wie der Nutzer sie aus anderen Schriftstücken kennt.
Was die Verlagerung von der Schaffung intellektueller Produkte zur Delegation und Kuratierung an die KI verschleiert, ist der Verlust an Prozessen des Lernens und des Sammelns von Erfahrungen, die im Schaffensprozess inherent enthalten sind. Wer nur noch delegiert ohne etwas selbst getan und geschaffen zu haben, wird nie die Kompetenz aufbauen, die notwendig ist, um das Geschaffene beurteilen und bewerten zu können. Ja er wird nicht einmal in der Lage sein, die richtige Formulierung für die delegierte Aufgabe zu treffen.
Diese Entwicklung verstärkt sich selbst. Wenn Schüler, Studenten und Berufsanfänger vermeintliche Routinearbeiten mit Hilfe einer KI ausführen lassen, bringen sie sich selbst um den Lernprozess, der mit diesen Routinen verbunden ist - der Entwicklung einer wachsenden Vertrautheit mit Formulierungen und Fachbegriffen, gedanklichen Strukturen, Argumentationsketten und was sonst an verborgenen Grundlagen darin verborgen ist.
Die Nutzung von KI ist bequem und verspricht intellektuelle Abkürzungen. Aber sie untergräbt die Bildung jeder Kompetenz und Fähigkeit zur Bewertung ihrer Ergebnisse.
Produktion ist schneller als Prüfung
Eine weitere Schwierigkeit, die sich aus der Nutzung von KI ergibt, ist das extreme Missverhältnis zwischen dem Aufwand zur Schaffung eines intellektuellen Produktes und dem Aufwand für seine Erfassung, Prüfung und Bewertung.
Mit Hilfe generativer KI-Modelle lassen sich Bilder, Texte und Musik im Minutentakt generieren. Die Ergebnisse sind auf den ersten Blick beeindruckend. Aber was dann? Um einen Text tatsächlich zu bewerten und ihn zu nutzen muss er von einem Menschen gelesen und verstanden werden. Und das braucht Zeit. Je komplexer das Thema, je umfangreicher das zu grunde liegende Wissen, umso schwieriger und langwieriger ist die Durchdringung des Textes.
Wir haben bereits durch Digitalisierung und die modernen Produktionsmittel eine Effizienz bei der Produktion von Büchern, Filmen, Musik und Kunst erreicht, die wir intellektuell kaum noch erfassen können. Wir werden überschwemmt mit Bildern, Worten und Tönen. Wir produzieren mehr als wir in unseren kurzen Leben konsumieren und verarbeiten können.
Mit KI wird diese Entwicklung potenziert. Wir werden an unseren intellektuellen Produkten ersticken. Und da erheben sich einige Stimmen, die uns vorschlagen, dieses Problem mit KI zu lösen. KI soll das Alles aggregieren, zusammenfassen und in konumierbare Häppchen aufbereiten. Doch was bedeutet das tatsächlich? KI-Produkte sind bereits aus dem über unendliche Datenmengen erfassten Wissen der Menschheit aggregierte Resultate. Welchen Sinn hat es, diese Resultate nocheinmal durch KI zusammen zu fassen? Was bringt uns die konzentrierte Antwort auf das Leben, das Universum und dem ganzen Rest, wenn sie "42" lautet?
