KI: Bundesregierung setzt Empfehlungen von Datenethikkommission nicht ausreichend um

27. Oktober 2021

  • Zweite Jahresbilanz zeigt Handlungsbedarf der künftigen Bundesregierung auf.
     
  • Scheidende Bundesregierung und EU-Kommission bleiben hinter DEK-Empfehlungen zurück.
     
  • Größter Nachholbedarf: Kaum Transparenz und Nachvollziehbarkeit von KI-Systemen für betroffene Verbraucher.
     
  • »vzbv«: Künftige Bundesregierung muss sich im Koalitionsvertrag zum Schutz vor Diskriminierung durch KI-Systeme bekennen.

#Künstliche #Intelligenz (»#KI«) und #Algorithmen beeinflussen unseren Alltag immer stärker. Versicherungen berechnen damit ihre Prämien, Unternehmen bestimmen damit, welchen Zugang #Verbraucher zu Angeboten bekommen, zum Beispiel bei Vermittlungsplattformen. Die von der Bundesregierung eingesetzte »Datenethikkommission« (»#DEK«) hat deshalb vor zwei Jahren Handlungsempfehlungen zu den Themen »Künstliche Intelligenz« (»KI«), algorithmische Systeme und Datenpolitik vorgestellt. Diese sollen den Umgang mit Daten gestalten und Verbraucher:innen besser vor Fehlentscheidungen und Diskriminierung schützen. In den aktuellen Vorhaben der #Bundesregierung und #EU-Kommission fehlen aus Verbrauchersicht weiterhin zentrale Aspekte.

»In der Gesamtschau bleiben Bundesregierung und EU-Kommission mit ihren aktuellen Vorhaben weiter hinter den Empfehlungen der DEK zurück. Vieles ist zu unkonkret und unverbindlich«, sagt Klaus Müller, Vorstand des »#Verbraucherzentrale #Bundesverbands« (»#vzbv«). »Die künftige Bundesregierung muss sich zum Schutz der #Nutzer vor Diskriminierung durch KI-Systeme bekennen. Sie muss sich für Nachvollziehbarkeit und unabhängige Kontrollen von KI-Systemen einsetzen und dies mit Nachdruck auch auf europäischer Ebene vertreten. Nur so können das Vertrauen und die Akzeptanz für den Einsatz dieser Technologien bei den Verbraucherinnen und Verbrauchern gestärkt werden.«

Transparenz und Nachvollziehbarkeit fehlt

Der »vzbv« untersucht regelmäßig, ob und wie Bundesregierung und EU-Kommission die Empfehlungen der DEK umsetzen. Im Oktober 2020 erschien die erste, ernüchternde Jahresbilanz. Auch ein Jahr später fällt das Urteil kritisch aus.

Größte Baustelle sind aus »vzbv«-Sicht die Themen »#Transparenz« und »#Risikofolgenabschätzung« von KI-Systemen. Es braucht unabhängige Kontrollen von kritischen KI-Systemen, die zum Beispiel zur Profilbildung und für #Scoring genutzt werden. Ein Kompetenzzentrum Algorithmische Systeme kann dabei helfen, bestehende Aufsichtsbehörden durch technischen Sachverstand bei der Kontrolle algorithmischer Systeme zu unterstützen.

Der »vzbv« hat die aktuelle Evaluierung der Umsetzung der Empfehlungen der Datenethikkommission in einem interaktiven »Politiktracker-Webtool« sowie als PDF-Datei zusammengestellt.