1) Unbestmmtheit
Es ist die Unbestimmtheit (Indeterminismus), die dem Menschen zu schaffen macht und die ihm seine Grenzen aufzeigt. Das kann man auch in der neuen Enzyklika „Magnifica Humanitas“ (Die großartige Menschheit) von Papst Leo XIV. nachlesen. Wir haben ebenfalls die Absicht, in ein Kernproblem der modernen KI vorzustoßen.
Ein Beispiel:
In der Planung von Arbeitsprozessen wird heute die Sprache BPMN (Business Process Model and Notation) eingesetzt. Für eine Implementierung bedarf die Sprache einer Umsetzung, die Process Engine genannt wird. Es gibt diverse Lösungen und man kann wegen der totalen Durchspezifizierung daran denken, einen KI – Agenten zu befähigen, Planungsaufgaben zu bewältigen. Es gibt Versuche von IBM und Camuda, die wir unkommentiert lassen.
Zur Illustration wählen wir als Beispiel-Prozess die Verarbeitung eines eingehenden Auftrags:
Aus unserem Blogbeitrag „Universalität von Prozessen“ entnehmen wir die folgende Abbildung in BPMN, die von Volker Stiehl stammt
Bild 1: Verarbeitung eines Auftrags als Planung
2) Planung und Vorhersage
Das Wort „vorhersagen“ wird im folgenden Zusammenhang gebraucht „Aus Gegebenem wird Zukünftiges vorhergesagt“. Wissenschaftlich spricht man auch von extrapolieren. In diesem Sinne ist ChatGPT auch ein Vorhersagen. Aus einer riesigen Masse von Rede als Gegebenem wird bei einer Thematisierung (Prompting) etwas Neues, ein neuer Text themengerecht erzeugt. Das Erzeugnis liegt in der Zukunft und kann, wie bei jeder Vorhersage, akzeptiert oder verworfen werden. Es ist eben indeterminiert, unbestimmt, wie beim Wetter.
Planen ist ganz etwas Anderes. Planen ist ein „festlegen“, englisch „to establish“, rückübersetzt etablieren. So kann man z.B. das über ChatGPT Erzeugte festlegen, etablieren. Dazu bedarf es aber einer Planung, z.B. mit BPMN und seiner Process Engine. Aus dieser Planung heraus kann man zu dem Urteil gelangen, dass das ChatGPT- Erzeugte zu verwerfen ist. Es kann aber auch sein, dass man es akzeptiert. Dann wird es festgelegt, es gilt. Nun kommt das Entscheidende: Wer festlegt, der verantwortet, insbesondere, wenn es schiefläuft. Verantwortung ist delegierbar, aber sie muss offen dargelegt werden können. In einer Diskussion mit Volker Stiehl fiel die klare Formulierung: „Wir nutzen eine nicht-deterministische Technologie, die zudem völlig intransparent ist, zur Lösung von Problemen, die ein deterministisches Verhalten verlangen.“ Das sind die Grenzen der KI.
Lieber Herr Wedekind,
Ihr Schlussgedanke hat mich zum Nachdenken gebracht:
„Wir nutzen eine nicht-deterministische Technologie, die zudem völlig intransparent ist, zur Lösung von Problemen, die ein deterministisches Verhalten verlangen.“
Ich würde den Geltungsbereich dieser Aussage etwas einschränken. Dort, wo Sicherheit, Rechtsstaatlichkeit oder technische Korrektheit gefordert sind, stimme ich Ihnen uneingeschränkt zu: Hier benötigen wir deterministische und nachvollziehbare Verfahren.
Viele Zukunftsprobleme sind jedoch selbst nicht deterministisch. Sie entstehen in einer offenen Welt, die sich durch neue Erkenntnisse ständig verändert. Ihre Lösung verlangt daher gerade lernende Verfahren, die sch fortlaufend an neue Situationen anpassen können – etwa im Sinne des „Bestärkungslernens“ (Reinforcement Learning). Mit dieser Technik entwickelte Google vor rund zehn Jahren das KI-System Alpha-Go.
Entscheidend erscheint mir deshalb eine Dreiteilung:
– deterministische Verfahren für stabile und wohldefinierte Aufgaben,
– lernende Verfahren für offene und dynamische Problemlagen,
– und schließlich die menschliche Vernunft, die entscheidet, wann welches Verfahren angemessen ist
Die generative KI ist für mich deshalb – zusammen mit dem menschlichen Verstand – kein Ersatz der Vernunft, sondern ihr Werkzeug, ja gewissermaßen ihre Angestellte.
Herzliche Grüße
Ihr
EO
Generative KI ist dann mit einer Wettervorhersage vergleichbar.
H.Wedekind