StartseiteThemenDigitaler WandelKünstliche Intelligenz: Europäische Kommission stellt Ethikleitlinien und Umsetzungsplan vor

Künstliche Intelligenz: Europäische Kommission stellt Ethikleitlinien und Umsetzungsplan vor

Berichterstattung weltweit

Die im Juni 2018 von der Europäischen Kommission eingerichtete Gruppe unabhängiger Experten für Künstliche Intelligenz (KI) hat am 8. April ihre Ethik-Leitlinien für eine vertrauenswürdige KI vorgestellt. Nun wurden die weiteren Schritte zu deren Umsetzung bekanntgegeben.

Zur Umsetzung der kürzlich vorgestellten Ethik-Leitlinien für eine vertrauenswürdige KI verfolgt die Europäische Kommission einen dreiteiligen Ansatz: Zunächst erfolgt die Festlegung von Kernanforderungen an eine vertrauenswürdige KI. Mit der  Einleitung einer groß angelegten Pilotphase, um Rückmeldungen von den Interessenträgern einzuholen, sollen diese auf ihre Anwendungstauglichkeit in der Praxis überprüft werden. Zudem soll an einem internationalen Konsens über den Aufbau einer menschenzentrierten KI gearbeitet werden.

Sieben Voraussetzungen für eine vertrauenswürdige KI

Eine vertrauenswürdige KI muss alle geltenden Gesetze und Vorschriften einhalten und eine Reihe von Anforderungen erfüllen. Spezifische Bewertungslisten sollen dazu beitragen, die Erfüllung der einzelnen Kernanforderungen zu überprüfen:

  • Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
  • Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
  • Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.
  • Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden.
  • Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.
  • Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
  • Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.

Großpilotprojekt mit Partnern

Im Sommer 2019 wird die Kommission eine Pilotphase unter Beteiligung eines breiten Spektrums von Interessenträgern einleiten. Unternehmen, öffentliche Verwaltungen und Organisationen können schon jetzt der Europäischen KI-Allianz beitreten. Sie werden dann benachrichtigt, wenn das Pilotprojekt beginnt. Die Kommission fordert in diesem Zusammenhang Industrie, Forschungseinrichtungen und Behörden auf, die von der hochrangigen Expertengruppe erstellte detaillierte Bewertungsliste zu testen.

Ein internationaler Konsens über eine menschenzentrierte KI

Die Kommission möchte ihren Ansatz im Bereich der KI-Ethik auch weltweit zur Geltung bringen, denn Technologien, Daten und Algorithmen kennen keine Grenzen. Zu diesem Zweck wird die Kommission die Zusammenarbeit mit gleich gesinnten Partnern (z. B. Japan, Kanada oder Singapur) intensivieren und weiterhin eine aktive Rolle bei internationalen Diskussionen und Initiativen wie der G7 und G20 spielen. An der Pilotphase werden sich auch Unternehmen aus anderen Ländern und internationale Organisationen beteiligen.

Weitere Schritte

Um die ethisch vertretbare Entwicklung der KI zu gewährleisten, wird die Kommission darüber hinaus bis Herbst 2019 Folgendes tun: Einrichtung mehrerer Netze von KI-Spitzenforschungszentren; Beginn der Einrichtung von Netzen digitaler Innovationszentren; Einstieg in Gespräche mit den Mitgliedstaaten und Interessenträgern, um ein Modell für eine gemeinsame Datennutzung und die bestmögliche Verwendung gemeinsamer Datenräume zu entwickeln und umzusetzen.

Zum Nachlesen

Redaktion: von Tim Mörsch Länder / Organisationen: EU Themen: Ethik, Recht, Gesellschaft Information u. Kommunikation Strategie und Rahmenbedingungen

Weitere Informationen

Eine Initiative vom

Projektträger