Recht und Demokratie im Zeitalter der künstlichen Intelligenz: Der Beitrag der Europäischen Union. Mit Paul Nemitz

Recht und Demokratie im Zeitalter der künstlichen Intelligenz: Der Beitrag der Europäischen Union. Mit Paul Nemitz
  • Datum & Zeit
    23/01/2018, 18:00
  • Veranstaltungsort
    Konferenzraum der Schwarzkopf-Stiftung
  • Zu Gast
    Paul Nemitz, Hauptberater in der Generaldirektion Justiz und Verbraucher der Europäischen Kommission
  • Kooperation
    Gemeinnützige Hertie-Stiftung

Die Welt wird komplizierter, die Anzahl von Informationen steigt, ihre Verbreitung nimmt rasant zu, auch jenseits bekannter und relevanter Kanäle. Internetplattformen verbreiten Informationen, werden quasi zu Medien, gesteuert durch künstliche Intelligenz. Doch welche Daten steuern die Logarithmen, die meine Newsfeeds füllen? Gemeinsam mit dem Hertie-Innovationskolleg der Gemeinnützigen Hertie-Stiftung diskutierten wir mit Paul Nemitz, Hauptberater in der Generaldirektion Justiz und Verbraucher der Europäischen Kommission zu der Reihe „Demokratie und Medien“.

_________________

Folgenden Bericht zu der Veranstaltung verfasste Frau Kristin Vorbeck, Doktorandin an der Westfälischen Wilhelms-Universität Münster und tätig bei der internationalen Rechtsanwaltssozietät Freshfields Bruckhaus Deringer in Berlin:

Nemitz, dessen beruflicher Schwerpunkt zuletzt im Datenschutzrecht lag, erörtere am 23. Januar 2017 den Einfluss von künstlicher Intelligenz auf den öffentlichen Meinungsbildungsprozess.

Er begann seinen Vortrag mit einem Kurzabriss zur Demokratie in Europa. Hierbei war ihm wichtig, mit dem Vorurteil aufzuräumen, dass die Geschichte der EU eine Geschichte der Entdemokratisierung und nicht der Demokratisierung sei. Zugleich betonte er, dass er in der öffentlichen Kritik an der EU vermisse, dass die EU auf Rechtsstaatlichkeit beruhe und ihre Beziehungen zu anderen Staaten auf das Recht und nicht – wie wohl weltpolitisch immer noch vorherrschend – auf Ausübung von Macht stütze. Die aktuell zu erlebende Diskreditierung der Integration der EU durch Änderungen der Rechtsordnungen in  in Polen und Ungarn, insbesondere mit Blick auf das Verfassungsgericht, Wahlen und Finanzierung der Zivilgesellschaft, fuße aus seiner Sicht auf dem Mangel an Integration, nicht auf einem Überfluss derselben. Diese zeige sich  z.B. im Einstimmigkeitserfordernis des Art. 7 Absatz 2 EUVund darin, dass die Entscheidung über die Einhaltung der Prinzipien der Rechtsstaatlichkeit und der Demokratie im Vertrag einem politischen Gremium, nämlich dem Europäischen Rat, übertragen sei, anstatt, wie sonst für Rechtsfragen üblich, dem Europäischen Gerichtshof.

Er fuhr dann mit einigen Schlaglichtern auf die künstliche Intelligenz fort. Das Neue an der künstlichen Intelligenz, die sie von der bekannten Automatisierung durch Roboter unterscheide, liege darin, dass die KI-Maschine autonom sei. Sie habe die Fähigkeit zu selbstlernender Weiterentwicklung. Deshalb würden sich die nun– aktuell vor allem in Bezug auf selbstfahrende Autos – diskutierten Grundfragen der Verantwortlichkeit stellen. Man müsse bei Künstlicher Intelligenz (KI) die (bekannten) Arten der speziellen KI (kann eine Sache besonders gut) und der generellen KI (kann alle Sachen so gut wie der beste Mensch) unterscheiden. Der generellen KI sei ein Risiko inhärent, das der schwedische Philosoph Nick Bostrom in einem Satz zusammengefasst hatte: „KI wird unsere letzte Erfindung sein“. Was das politische Agieren schwierig mache sei die Tatsache, dass niemand wisse, wie weit wir von dem Erreichen der generellen KI entfernt seien. Denn ein Großteil der Forschung finde hinter den verschlossenen Türen der fünf amerikanischen Digitalriesen (Apple, Google, Facebook, Amazon, Microsoft) und der vier chinesischen Firmen (Ali Baba, Baidoo, Tencent und SenseTime/Face++) statt. Evgeny Morozov, Publizist im Bereich der Digitalisierung und Kenner der Szene, schätze, dass in jedem der Unternehmen 2000-3000 Ingenieure mit Budgets von bis zu 12 Milliarden USD an AI arbeiten. Selbst die jeweiligen ehemaligen Doktorväter, Professoren an renommierten US-Unis, wüssten über das aktuelle Treiben ihrer Schüler nicht Bescheid. Viele von ihnen rechnen damit, dass die Entwicklung noch bis zu 40 Jahre dauern würde. Nemitz berichtete jedoch von Schätzungen, die ihn bei seinem jüngsten Besuch am MIT mitgeteilt wurden, wonach in spätestens fünf bis zehn Jahren KIs in der Lage sein werden, alle Spiele zu gewinnen. Dabei dürfe man nicht an Schach denken – Spiele seien für die Informatiker vielmehr alle komplexen, regelbasierten, aber auch Unsicherheiten enthaltenden Spiele – und die beliebtesten davon seien der Aktienmarkt sowie Wahlen.

Mit dem Zusammenhang zwischen KI und Demokratie in der sog. automated public sphere kam Nemitz zu seinem Kernanliegen, dem Schutz der Demokratie im Zeitalter der KI. „Automated public sphere“ entstehe durch die von KI gesteuerten Medien, die zur Grundlage der Demokratie gemacht werden. Eines der populärsten Beispiele hierfür war die von dem Unternehmen Cambridge Analytics behauptete Erfolgskampagne für Trump, die anhand der Auswertung von Daten aus sozialen Netzwerken u.a. besonders im eigentlich pro-demokratischen „rust belt“ durch wahlkreisgenaue Beeinflussung den Sieg Trumps erreicht habe. Ähnliches sei auch von der Kampagne von Mitt Romney bekannt, in der eine App benutzt wurde, um in bestimmten Gebieten die Menschen anhand von Hochrechnungen am Wahltag zum Wählen zu animieren – ein höchst erfolgreiches Unterfangen, das letztlich lediglich an einem Absturz der App scheiterte. Im Wahlkampf wurden über 1 Milliarde USD allein für diese Profilbildung ausgegeben. Hieran sei die hohe Relevanz der Digitalisierung für die Wahlen erkennbar. Eine derartige Beeinflussung, so die kategorische und nachdrückliche Aussage Nemitz‘, wäre in Deutschland bzw. der EU nicht möglich. Denn die von den Kampagnenhelfern genutzten Daten, aus den ein politisches Profil erstellt würde, fielen als persönliche Daten über politische Orientierung seit langem unter einen besonders strengen Datenschutz, der in der DS-GVO jetzt noch ausgebaut wurde. Der Hintergrund für dieses hohe Schutzniveau liege schlicht darin, dass Datenschutz in Europa zum Grundrechtekatalog gehöre, während es in den USA der politischen Opportunität ausgesetzt sei. Obama sei zweimal damit am Kongress gescheitert, ein neues Datenschutzrecht in den USA einzuführen. Die Neuerungen der Datenschutz-GVO, nämlich die Sanktionierung von Verstößen mit Zahlungen von bis zu  4% des Weltumsatzes sowie die Einführung/Vertiefung eines allgemeinen Auskunfts- und Löschungsrecht für jedermann bzgl. seiner Daten, zeitige bereits im Vorfeld Wirkung und werde deshalb den beschriebenen jetzigen Zustand, dass eine interessenbasierte Profilbildung und darauf basierende Wählerbeeinflussung wie in den USA ausgeschlossen bleibe, absichern. Datenschutz sei aus Sicht von Nemitz insofern nicht nur ein Individualgrundrecht, sondern konstitutiv für die Demokratie. Es müsse verhindert werden, dass derjenige die Wahlen gewinne, der lediglich das bessere (technische) Programm bzw. die umfassenderen Datensätze über die Bürger habe, mit dem er bzw. aufgrund derer er dann Wähler ausgehend von ihren Vorlieben und Interessen jeweils anders beeinflussen könne. Das zentrale Problem der KI liege darin, dass es dann an einer gemeinsamen Gesprächsgrundlage für einen öffentlichen Diskurs fehle, wenn politische Werbung mittels KI jeweils speziell auf die persönlichen Profile der Empfänger zugeschnitten und damit sehr unterschiedlich und intransparent werde. Es gehe deshalb nicht nur um die Transparenz in der Entwicklung von KI, sondern auch um Transparenz in der Anwendung. Es sei notwendig zu wissen, was die Parteien den Bürgern im Vorfeld von Wahlen sagen. Jeder Bürger erfahre potentiell etwas anderes; man wisse nicht mehr, wie der Nachbar überzeugt wurde, zu wählen. In Amerika werde deshalb überlegt, alle digitalen Aussendungen von Parteien im Wahlkampf in ein Register aufzunehmen und so öffentlich zu machen, damit die Presse und die Öffentlichkeit den Wahlkampf überhaupt noch vollständig und kritisch begleiten können.

Nemitz betrachtete anschließend die Auswirkungen der Digitalisierung auf die Presse, verstanden als vierte Gewalt in der Demokratie. Die Presse habe die Aufgabe, staatliche oder wirtschaftliche Macht zu kontrollieren. Die Presse befinde sich zum einen in einer ökonomischen Krise, denn 80% der neuen relevanten Werbeeinnahmen, die früher vor allem an die gedruckte Presse gingen, gehen nun an Facebook und Google. Die Presse sei zum anderen aber auch einer Reichweitenkrise gegenüber dem Internet (v.a. Facebook und Google) ausgesetzt, wie die jährliche Rangliste des Grimme-Instituts über Quellen der politischen Information zeige. In der Gruppe der unter 30-Jährigen lägen Facebook und Google als Informationsquellen auf den ersten drei Plätzen. Nemitz zufolge sei das Internet jedoch – zumindest in den Ländern der westlichen Welt mit entwickelter Presse – nicht in der Lage, die Presse als Vierte Gewalt zu ersetzen. Das Internet schaffe u.a. keine organisierten und nachforschenden Gegenstimmen und Gegenwichte und gewähre keine Transparenz in der Art, wie es der Journalismus als vierte Gewalt im Staate leiste.

Als abschließend Handlungsrichtlinie im Umgang mit KI verwies Nemitz auf den Philosophen Hans Jonas und dessen im 1979 erschienen Buch „Prinzip Verantwortung“ entwickelten Imperativ langfristiger Technologiefolgenbewertung. „Handle so, dass die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden.“ Dies bedeute auch, dass es, wenn es eine Technologie gebe, die langfristige Wirkungen haben könne und bei der man nicht ausschließen könne, dass sie Schlechtes für die Menschen mit sich bringen könne, bereits heute die notwendigen Schritte getroffen werden müssen, um diese negativen Auswirkungen, auch wenn sie sehr weit in der Zukunft liegen, zu vermeiden. An dieses Vorsorgeprinzip appellierte Nemitz auch in Bezug auf den Umgang mit KI.

In der anschließenden Diskussion legte Nemitz u.a. dar, warum die Digitalriesen aus den USA und China eine nie dagewesene Stellung innehaben. Sie vereinten (i) einen enormen Börsenwert, also Geld, mit der Tatsache, dass sie (ii) den öffentlichen Diskussionsraum in der Hand hätten und (iii) über Datenprofile von jedem (auch von anderen Personen als ihren Nutzern!) verfügten, mit (iv) einer hohen Innovationsdichte, von der die Politik nur entfernt eine Ahnung habe. Es sei zu überlegen, ob es eines neuen Sherman Acts zur Zerschlagung der Digitalriesen bedürfe. In Deutschland sei zumindest die erfreuliche Entwicklung eingetreten, dass das Internet-Institut mit öffentlichen Forschungsgeldern und nicht mit Geldern der Digitalriesen gefördert werde. Auf eine Frage, ob er nach seiner Konzentration auf den Datenschutz diesen allein als bislang ausreichend erachte oder weitere Regulierung nötig sei, um dem Vorsorgeprinzip Genüge zu tun, antwortete Nemitz, dass die europäische Rechtsordnung gut aufgestellt sei: „Wir brauchen viel weniger neues Recht als die Amerikaner“. Die Datenschutz-GVO genüge wahrscheinlich  ebenso wie die zivilrechtlichen Haftungsregeln, hierüber gäbe es aber unterschiedliche Meinungen. Als Arbeitsthese stellte er folgenden Vorschlag in den Raum: Um den demokratischen Diskurs in seiner jetzigen Form aufrecht zu erhalten, bedürfe es einer verbindlichen Kennzeichnungspflicht, wenn eine KI-Maschine etwas sage. Im weiteren Verlauf trat er vehement weiteren klassischen Argumentationsmustern gegen Regulierung im Internet entgegen. Die 1999 auf dem World Economic Forum von John Perry Barlow propagierte „Independence of the Internet“ existiere nicht. Technik sei vom Sicherheitsgurt im Auto über das Atomkraft Gesetz, Pharmazeutikaregulierung bis zu Regeln für den Umgang mit Chemikalien immer schon reguliert worden. Der Schnelligkeit der technologischen Entwicklung, der die in der Demokratie und im Rechtsstaat nach Nemitz zwingende Langsamkeit gegenüberstehe, sei durch technikneutrale Regulierung zu lösen. Auch Durchsetzungsprobleme seien kein Argument gegen eine Regulierung,  seit den 10 Geboten seien Morde begangen worden und die Nützlichkeit der 10 Gebote ziehe deshalb auch niemand in Zweifel. Die Diskussion schloss er mit einer Forderung nach einem Metadialog zwischen Ingenieuren und Juristen, so wie er seit neuestem am MIT und den Rechtsfakultäten von Harvard und Georgetown praktiziert werde. Ingenieure und Juristen  würden in einem Kurs gemeinsam unterrichtet: „Ingenieure lernen so Demokratie, Rechtsstaatlichkeit und Grundrechte, die sie ja ggf. in die Programmierung schreiben sollen; Juristen lernen die technische Seite.“

Anmeldung

Die Online-Anmeldung für diese Veranstaltung ist bereits geschlossen. Sie können sich weiterhin per E-Mail an anmeldung@schwarzkopf-stiftung.de anmelden.