11. Deutsch-Brasilianischer Dialog: Diskussion zur Regulierung von KI nimmt weltweit an Fahrt auf; Regierungen nutzen die Technologie bereits im Alltag

Der Themenblock wurde von Professor Indra Spiecker gen. Döhmann von der Universität zu Köln moderiert und beinhaltete Beiträge der Professoren Jeanette Hofmann (Freie Universität Berlin) und Juliano Maranhão (Universität São Paulo) sowie Renata Mielli, Mitglied des brasilianischen Internet-Lenkungsausschusses (CGI.br). 

Die im August 2024 in der Europäischen Union in Kraft getretene KI-Verordnung (Artificial Intelligence Act) diente Hofmann als Ausgangspunkt für ihre Analyse. In ihrem Vortrag legte sie die Entwicklung der Vorschriften dar, die im Fall der EU auf einem risikobasierten Ansatz beruhen. Ihrer Einschätzung nach sind Risikoanalyse und -management etablierte Kriterien, die in der Regel für solche Regelungen herangezogen werden. 

In Bezug auf künstliche Intelligenz besteht jedoch ein zusätzliches Problem: Es gibt keine feststehende Definition von KI. „Die Europäische Kommission war sehr ambitioniert, eine Verordnung zu erlassen, die sämtliche Sektoren, die KI aktuell verwenden oder dies in Zukunft tun könnten, berücksichtigt. Die Definition von künstlicher Intelligenz musste also sehr weitreichend und allgemein sein. Darüber hinaus scheinen die Risikoklassifikationen ein Ergebnis politischer Verhandlungen zu sein. Die formale Unterscheidung zwischen Risikoanalyse und Risikomanagement ist nicht erkennbar“, erklärte sie. 

Dadurch sind Anbieter von KI-Systemen nun in der Verantwortung für das Abschätzen, Abmildern und Definieren der Risikoakzeptanz. „Schon vor der Verabschiedung der KI-Verordnung ist deshalb ein Parallelmarkt entstanden. KI-Anbieter begannen Dienstleistungen von Unternehmen in Anspruch zu nehmen, die sicherstellen, dass Konformität mit den geltenden Vorschriften gegeben ist“, erläuterte die Wissenschaftlerin und erwähnte den Fall eines Unternehmens, das hierfür sogar KI nutzt.  

Brasilien 

Mielli, Vertreterin des CGI.br, gab einen Überblick über das Regulierungsszenario in Brasilien, das sich an der KI-Verordnung der Europäischen Union orientiert, um ein nationales Regelwerk für künstliche Intelligenz zu schaffen. Aus ihrer Sicht ist das Projekt ein „wünschenswertes Vorhaben mit Transformationspotenzial“ und unterscheidet sich in bestimmten Aspekten wesentlich von den europäischen Vorschriften: Verpflichtungen und Prozesse werden anders beschrieben als in der EU und die Risikoklassifikationen nicht isoliert behandelt. 

„Der Ansatz stellt den Mensch in den Mittelpunkt der KI-Anwendungen und gewährleistet eine solide Anzahl von Grundrechten. In Brasilien versuchen wir, [die Regulierung] demokratisch zu gestalten, um so einen soliden Übergang in das digitale Zeitalter zu ermöglichen und gleichzeitig ein Gleichgewicht herzustellen zwischen dem Schutz von Rechten, Vertrauen in die KI-Systeme und einem kollaborativen Vorschriftensystem“, erklärte sie. 

Die Expertin erläuterte, dass das Land derzeit eine nationale Strategie für künstliche Intelligenz anstrebt. „Ein Beispiel dafür ist der Brasilianische KI-Plan, der im Juli letzten Jahres eingeführt wurde. Dieser beinhaltet strategische Richtlinien für die Entwicklung von künstlicher Intelligenz mit Schwerpunkt auf digitale Inklusion und Nachhaltigkeit. Die Initiative trägt den Titel ‚KI für das Allgemeinwohl‘ und setzt die Prioritäten in Forschung, Infrastruktur, Bildung und Unternehmertum.“ 

Einsatz in der Justiz 

Während Regierungen die Folgen, Risiken und Regulierung von künstlicher Intelligenz erörtern, nutzen staatliche Institutionen bereits KI-Anwendungen im Rahmen ihrer Tätigkeiten, wie Professor Maranhão herausstellte. Einige verfügen bereits über Regelwerke, wie zum Beispiel die Zentralbank (in Systemen zur Kreditanalyse) und die Nationale Agentur für Krankenkassen (Agência Nacional de Saúde Suplementar – ANS). Laut Aussage des USP-Dozenten wird KI am meisten vom öffentlichen Sektor in Brasilien genutzt. 

Die Gerichtsbarkeit hat zwar bereits 2020 Regeln für die Nutzung traditioneller Systeme mit künstlicher Intelligenz festgelegt, diese wurden jedoch nach Skandalen wie einem mittels generativer KI erstellten schriftlichen Gerichtsurteil vom Nationalen Justizrat (Conselho Nacional de Justiça – CNJ) überarbeitet. In einer von Maranhão geleiteten Studie wurde erforscht, wie diese Art von KI von Richtern und Justizbeamten genutzt wurde. Befragt wurden etwa 10 % der Richter im Land (ca. 1.600 Personen) und rund 18.000 Justizbeamte. 

„Die Hälfte der Richter nutzte die generative KI für private Zwecke und 30 % davon für ihre beruflichen Tätigkeiten. Viele von ihnen wendeten die KI korrekt an, beispielsweise für Zusammenfassungen von Dokumenten, erste Ausarbeitungen von Urteilen, die im Anschluss überprüft wurden. Die KI-Nutzung als juristische Suchmaschine ohne inhaltliche Überprüfung der generierten Inhalte war allerdings bedenklich. Ohne entsprechende Schulung und Governance besteht ein erhöhtes Risiko für Fehler. Diejenigen, die die Technologie bereits nutzten, hatten wenig Vertrauen in die generierten Inhalte, da der juristische Bereich Fachkompetenz und Präzision erfordert“, führte er aus. 

Die Ergebnisse der Studie waren richtungsweisend für die Regulationsvorschriften in der Justiz. „Es stellten sich hierbei zwei entscheidende Fragen: Sollten die Richter die Nutzung von KI in der Ausarbeitung ihrer Entscheidungen offenlegen? Sollte es den Richtern verboten sein, KI zu nutzen, die nicht von offizieller Seite von den Gerichten zur Verfügung gestellt wird? Im ersten Fall wurde entschieden, dass die Transparenz bezüglich des Einsatzes von KI vollumfänglich für die Justiz gilt und gewährleistet sein muss, dass die Öffentlichkeit darüber informiert wird. Die zweite Frage wurde mit der Lösung beantwortet, dass die Gerichte selbst entscheiden dürfen, welche Anwendungen erlaubt sind“, so Maranhão. 

Deutsch-Brasilianischer Dialog 

Der 11. Deutsch-Brasilianische Dialog wurde vom Deutschen Wissenschafts- und Innovationshaus (DWIH) São Paulo und der Forschungsförderagentur des Bundesstaates São Paulo (FAPESP) durchgeführt. Im Rahmen der Veranstaltung diskutierten deutsche und brasilianische Expertinnen und Experten aus Wissenschaft und Industrie das diesjährige Thema „Artificial Intelligence: Promises, Expectations, and Limitations in Science and Society“. 

Insgesamt wurden vier Themenblöcke behandelt: KI in der Medizin und im Gesundheitswesen, künstliche Intelligenz in den exakten und Ingenieurwissenschaften, Regulierung der Auswirkungen von KI und ihr Einsatz in den Geisteswissenschaften. Ziel war es, die Folgen dieser Technologie sowie Möglichkeiten zur Abmilderung der negativen Auswirkungen des Einsatzes von KI interdisziplinär zu erörtern. 

Text: Rafael Targino