Gestalten Roboter und künstliche Intelligenzen in Zukunft Politik in der EU? Hat der/die klassische Politiker_in in Europa ausgedient? Darüber haben Dr. Sarah Fischer vom Projekt „Ethik der Algorithmen“ bei der Bertelsmann Stiftung und Ralf Klinkenberg von der RapidMiner GmbH und dem Lenkungskreis der Plattform für Lernende Systeme in einem Streitgespräch debattiert. Moderiert wurde das Gespräch von Khesrau Behroz vom iRights.Lab.

Was versteckt sich hinter dem Begriff ‚Künstliche Intelligenz‘ und welche Strategie verfolgt die EU?

Der Begriff ‚Künstliche Intelligenz‘ (KI) meint technologische Systeme, die mit einer gewissen Autonomie Aufgaben selbstständig erledigen. Im kleinen Rahmen kann das ein Online-Übersetzungsdienst sein, im großen Rahmen aber auch ein Abwehrsystem vor Cyberangriffen. Auf politischer Ebene will die EU vor allem eine Modernisierung des digitalen Binnenmarktes durch neue KI-Technologien erreichen. Zudem soll auch der umfangreiche Datenbestand in Industrie, Forschung und öffentlichem Sektor, der in KI-Systeme eingespeist werden kann, intelligent genutzt werden. Weiterführende Informationen und eine Einschätzung der Europäischen Kommission zu den Chancen der Nutzung Künstlicher Intelligenzen auf europäischer Ebene finden Sie hier.

Erstes Publikumsvoting und Streitgespräch

„Künstliche Intelligenz erlaubt es, bessere politische Entscheidungen in der EU zu treffen.“ Die beiden Disputant_innen sollten Pro und Contra dieser provokanten These diskutieren. Vorangehend wurde jedoch ein Stimmungsbild im Publikum eingefangen: Die Mehrheit widersprach der These und sah den Einsatz künstlicher Intelligenzen in der europäischen Politik kritisch.

Während Dr. Sarah Fischer im Streitgespräch die Pro-Position einnahm und zur Vorsicht mahnte, betonte Ralf Klinkenberg in seiner Contra-Position vor allem die Möglichkeiten und Chancen, die KI-Systeme der europäischen Politik bieten können.

Dr. Fischer sah vor allem ethische Probleme: Die Gefahr, dass Menschen die Kontrolle über die Intelligenzen verlieren, sei eines; dass Regierungen die Massen an Daten zweckentfremden, ein anderes. Damit bestimmte KIs funktionieren, benötige es personenbezogene Daten, welche in falschen Händen großen Schaden anrichten könnten. Es gehe also vor allem um Fragen des Datenschutzes, so Fischer. Wie schwer ein Vorankommen in diesem Bereich sein kann, habe die europäische Gesetzgebung zur Datenschutz-Grundverordnung (DS-GVO) in diesem Jahr gezeigt. Auch stehe die Frage im Raum, wie gut KIs überhaupt funktionieren. Auch KIs machen Fehler; wie groß und wirkungsträchtig diese sind, kann im Vorhinein nicht immer genau bestimmt werden. „Man sollte nicht nur Richtlinien schaffen, sondern auch auf die Selbstverpflichtung der Programmierer_innen setzen.“, sagte Fischer. Denn wie beim Arztgeheimnis muss ein Schutz der Privatsphäre auch durch die Entwickler_innen selbst gegeben sein – insbesondere wenn Daten Informationen über das Leben einzelner Individuen preisgeben.

Dem gegenüber stellte Herr Klinkenberg, dass Programmierer_innen „kein blindes Vertrauen“ in ihre Software legen. Es werden durchaus viele Tests vorgenommen, die die KI-Systeme zuerst einmal bestehen müssen. Erst dann werden sie auch zur Praxis zugelassen. Dennoch gestand Herr Klinkenberg ein, dass auch eine sehr gute KI keine hundertprozentige Sicherheit für ihre Entscheidungen gewährleisten kann. Aber das müsse sie auch gar nicht, da es darum gehe, die Masse an Fehlern soweit es geht zu minimieren bzw. bessere Leistungen als Menschen selbst zu erzielen. Ethische Fragen würde man schon vor der Produktion der Systeme berücksichtigen. Nicht jede Projektidee werde umgesetzt und auch die Variablen, die eine Software nutze, werden nicht beliebig ausgesucht. Es sei ein Abwägen des Nutzens und des Sinns jeder Variable, insbesondere wenn es sich um datenschutzrelevante Daten handelt. Der Einsatz von KIs in der Medizin zeige erste Erfolge der neuen Technologie, die die Grenzen des Menschenmöglichen bereits überschreiten. Die Umsetzung in der Politik wäre gerade auf EU-Ebene wünschenswert, da jedoch Unstimmigkeiten zwischen den Mitgliedsstaaten und weitere institutionelle Reibungspunkte den Prozess verzögern, schlug Herr Klinkenberg vor, durchaus auch nationale Initiativen zu unterstützen. Auf die auf nationaler Ebene gewonnenen Erfahrungen könnte bei europaweiten Vorschlägen zurückgegriffen werden.

Diskussion und abschließendes Publikumsvoting

Im Dialog mit dem Publikum zeigte sich weiterhin ein Misstrauen in den Einsatz von KIs. „Die Maschine hat keine Gefühle.“, so eine Teilnehmerin. Es bräuchte die Einfühlsamkeit eines Menschen, wenn wichtige Entscheidungen getroffen werden, die etliche Bürger_innen betreffen. Gerade das Zweckentfremden von Millionen Daten bereitete Grund zur Sorge. Ein weiterer Teilnehmer nannte das in der Volksrepublik China betriebene Sozialkredit-System als Beispiel. In diesem Extremfall werden schon heute große Datenbanken über Unternehmen, Personen und Organisationen staatlich angelegt, um ihre jeweilige Reputation zu ermitteln und die Gesellschaft in ihrem sozialen Verhalten zu ‚erziehen‘. Kann sich ein solches System auch im demokratischen Europa durchsetzen? Natürlich sei dies fragwürdig, aber die Entwicklung der neuen Technologien biete durchaus eine Grundlage dafür.

Bei der anschließenden zweiten Publikumsabstimmung zeigte sich ein nicht mehr ganz so eindeutiges Meinungsbild, wie zu Beginn der Veranstaltung. Mehr Teilnehmende sahen nach dem Streitgespräch einen Mehrwert im Einsatz künstlicher Intelligenzen auf politischer Ebene in der EU.

Zum Abschluss des Abends wurde beim Imbiss in lockerer Atmosphäre über die gesammelten Erfahrungen des Abends gesprochen und die verschiedenen Eindrücke der Veranstaltung ausgetauscht.

Die Veranstaltung fand im Rahmen der Europa-Projektwochen 2018 unter dem Titel „Digit(at)lokratie? eu.demokratie.digitalisierung“ statt. Sie wurde vom Europe Direct Dortmund in Kooperation mit der Auslandsgesellschaft.de e.V., der Stadt Dortmund und dem DGB Dortmund-Hellweg organisiert und von der Bundeszentrale für politische Bildung (bpb) gefördert.

Text: Junes Katilah, Auslandsgesellschaft.de e.V.
Fotos: © Joschka Müllers, Auslandsgesellschaft.de e.V.