11. Deutsch-Brasilianischer Dialog: KI soll menschliche Fähigkeiten stärken und nicht ersetzen

Die Professoren Anderson Rocha von der Bundesstaatlichen Universität Campinas (UNICAMP) und Renata Wassermann von der Universität São Paulo (USP) waren die Keynote Speaker der Abschlussveranstaltung. Moderiert wurde die Diskussionsrunde von Eduardo Zancul, der die Forschungsfördereinrichtung des Bundesstaates São Paulo (FAPESP) repräsentierte. 

Rocha behandelte in seinem Vortrag eine zentrale Frage: Möchten wir eine künstliche Intelligenz, die menschliche Aufgaben erledigt oder eine erweiterte Intelligenz, die mit den Menschen arbeitet? Der Professor erläuterte, dass es in der Geschichte mehrere Beispiele für Versuche der Menschen gab, mechanische Wesen zu erschaffen. Er sieht hier in Bezug auf KI Parallelen zur jetzigen Zeit mit Versprechen, die als „magisch“ angepriesen werden. Er merkte an, dass mit der Verwendung des Begriffs „magisch“ die Annahme einhergeht, diese Technologien seien frei von Kritik. 

„Wenn nicht kritisiert wird, werden keine Veränderungen gefordert – keine Gesetze, Vorschriften oder Verbesserungen. Wenn man in einen Laden geht und ein Paar Schuhe kauft, die ein Loch haben, nimmt man diese nicht mit nach Hause. Aber KI-Anwendungen und Technologien, die nicht funktionieren, werden immer weiter gekauft und es wird einem gesagt, sie seien magisch – sind es aber nicht“, führte er aus. 

Dies gilt auch für autonome Systeme und die Reflexion hinsichtlich einer erweiterten Intelligenz ist in diesem Zusammenhang besonders wichtig. „Wir stellen KI und erweiterte Intelligenz gegenüber: statt eines Ersatzes, anstelle von autonomen Systemen und einer minimalen menschlichen Mitwirkung möchten wir geschärfte menschliche Fähigkeiten. Wir wollen Zusammenarbeit, Zentralität und Menschen in einer Schlüsselrolle in Entwicklungsprozessen. Taschenrechner haben uns zum Beispiel nicht ersetzt. Es gibt sie, um unsere Rechenfähigkeit zu verbessern“, erklärte der Wissenschaftler. 

„Wir glauben heute, im Jahr 2025, dass die industrielle Revolution etwas Großartiges war. Aber das war sie nicht. Es brauchte über 70 Jahre, damit die Menschen, die nicht Maschinenbesitzer waren, vom Nutzen der industriellen Revolution profitieren konnten. Während dieser Jahrzehnte der Anpassung musste viel getan werden. Und genau das Gleiche passiert jetzt wieder, aber der Wandel durch KI und Technologie geht viel rascher vonstatten. Wir haben keine 70 Jahre Zeit, um uns an diese Veränderungen anzupassen. Und deshalb ist es so wichtig, dass wir Gesetze, Vorschriften sowie staatliche und politische Programme einfordern für Umschulungen und Fortbildungen, für ein besseres Verständnis der Anwendungen, für Transparenz und unparteiische Lösungen“, so Rocha. 

Definition von künstlicher Intelligenz 

Professor Wassermann wies darauf hin, dass wir vor einem grundlegenden Problem stehen: Künstliche Intelligenz ist nicht klar definiert. Sind es denk- oder handlungsfähige Plattformen? Oder Maschinen, die menschliches und/oder rationales Verhalten nachahmen? „Es entsteht große Verwirrung, wenn wir uns damit auseinandersetzen, was wir eigentlich mit der Entwicklung von KI-Systemen erreichen möchten. Philosophen und andere Leute beschäftigen sich seit Jahrhunderten und Jahrtausenden mit Fragen wie all diesen moralischen Dilemmas. Was soll ich tun, wenn ich beobachte, dass ein Zug fünf Menschen überfahren wird und ich durch das Betätigen der Notbremse vier von ihnen retten kann? Diese Situation wurde immer philosophisch betrachtet, aber wenn wir jetzt autonome Systeme erschaffen, müssen wir uns mit diesen moralischen Dilemmas befassen“, erklärte sie. 

Sie machte auch darauf aufmerksam, dass künstliche Intelligenz nicht nur auf maschinelles Lernen reduziert werden sollte. Wassermann forscht in einem als „symbolische KI“ bekannten Bereich, in dem Wissen zu einem bestimmten Thema Vorrang vor einer Datenbank hat. Die Wissenschaftlerin zog das öffentliche brasilianische Gesundheitssystem (Sistema Único de Saúde – SUS) als Beispiel heran: „Jedes der computerbasierten Systeme des SUS erfasst Daten auf seine eigene Weise, mit unterschiedlichen Formaten und unterschiedlicher Aussagekraft. Sicher kann man all das durch eine Maschine laufen und den Algorithmus für maschinelles Lernen eine Erläuterung zu diesen Daten generieren lassen. Manchmal jedoch ist uns bekannt, wer diese Daten erstellt hat und wenn wir wüssten, was der Gedanke dabei war, könnten wir diese anders abbilden“. 

Wassermann vertritt die Erstellung von Ontologien, um nicht nur die Daten, mit denen KI-Modelle gespeist werden, besser klassifizieren und verstehen zu können, sondern auch deren Ergebnisse. „Mithilfe dieser [ontologischen] Erläuterungen bekommen die Daten in einer Liste voller Zahlen und Codes eine Bedeutung. Spezialisten wie Mediziner müssen nicht verstehen, wie eine Datenbank funktioniert, um eine Frage zu stellen. Andererseits möchten wir aber auch einem LLM [Large Language Model] keine Fragen stellen, ohne zu wissen, was die Antwort sein wird. Bei so wichtigen Systemen wie in den Bereichen Medizin und Gesundheit müssen wir vor der Anwendung Gewissheit haben“, betonte sie. 

„Natürlich hat der Einsatz von Anwendungen, die beispielsweise auf maschinellem Lernen oder Deep Learning basieren, viele Vorteile. Aber wir können verschiedene Elemente kombinieren. Das Zusammenführen von Expertenwissen mit datengeleiteter KI wäre sozusagen der Heilige Gral, das Nonplusultra. Allerdings ist das nicht so einfach zu bewerkstelligen. Es wird viel daran gearbeitet, Systeme auf unterschiedliche Weise zu kombinieren und das ist ein sehr fruchtbares Forschungsfeld für die Zukunft“, lautete ihre Einschätzung. 

Deutsch-Brasilianischer Dialog 

Der 11. Deutsch-Brasilianische Dialog wurde vom Deutschen Wissenschafts- und Innovationshaus (DWIH) São Paulo und der Forschungsförderagentur des Bundesstaates São Paulo (FAPESP) durchgeführt. Im Rahmen der Veranstaltung diskutierten deutsche und brasilianische Expertinnen und Experten aus Wissenschaft und Industrie das diesjährige Thema „Artificial Intelligence: Promises, Expectations, and Limitations in Science and Society“. 

Insgesamt wurden vier Themenblöcke behandelt: KI in der Medizin und im Gesundheitswesen, künstliche Intelligenz in den exakten und Ingenieurwissenschaften, Regulierung der Auswirkungen von KI und ihr Einsatz in den Geisteswissenschaften. Ziel war es, die Folgen dieser Technologie sowie Möglichkeiten zur Abmilderung der negativen Auswirkungen des Einsatzes von KI interdisziplinär zu erörtern. 

Text: Rafael Targino