__S.2__
Aszodi: Die KI-Verordnung ist die erste Gesetzgebung weltweit, die darauf abzielt, KI in allen Lebensbereichen zu regulieren. Die rechtlichen Vorschriften richten sich danach, wie hoch oder niedrig das Risiko fur die Gesundheit, Sicherheit und Grundrechte von Menschen bewertet wird: KI-Systeme mit inakzeptablen Risiken sind verboten. Fur Systeme mit hohem Risiko gelten die meisten Vorschriften des Gesetzes. Fur KI-Systeme mit begrenztem Risiko gelten bestimmte Transparenzpflichten. Und Systeme mit geringen oder minimalen Risiken sind nicht reguliert.
Dein SPIEGEL: Fangen wir mal mit den KI-Systemen an, die ein nicht akzeptierbares Risiko darstellen. Was kann man sich darunter vorstellen?
Aszodi: Dazu zahlt zum Beispiel der dauerhafte Einsatz von Kameras mit Gesichtserkennungs-Software an offentlichen Platzen. Solche KI-Anwendungen sollen verboten werden. Es gibt allerdings Schlupflocher in diesem Gesetzentwurf.
Dein SPIEGEL: Welche denn?
Aszodi: KI-Systeme, die fur militarische Zwecke genutzt werden, sind von den Regeln ausgenommen. Und wenn die >>nationale Sicherheit<>nationale Sicherheit<< berufen und damit eine Massenuberwachung uber Gesichtserkennungs-Systemen rechtfertigen. Wir fordern, dass an dieser Stelle nachgescharft wird.
Bei kunstlicher Intelligenz (KI) denken viele an Science-Fiction. Dabei umgibt uns diese Technologie bereits im Alltag. KI-Systeme helfen Arztinnen bei der Diagnose, messen Bewegungsdaten von Fussballspielern oder bestimmen uber das nachstgezeigte TikTok-Video. In der aktuellen Titelgeschichte des Kinder-Nachrichten-Magazins >>Dein SPIEGEL<< erzahlt ein Forscher, wie solche Systeme entwickelt werden. Und eine Ethikerin erlautert deren Risiken. Das Heft gibt es am Kiosk. Das Heft gibt es im Kiosk oder online:
Dein SPIEGEL: Sie sprachen eben schon von der zweiten Kategorie, den sogenannten Hochrisiko-KI-Systemen. Was ist damit gemeint?
Aszodi: Gemeint sind Systeme, die zum Beispiel in den Bereichen Grenzkontrolle, Strafverfolgung, Bildung oder Arbeitsplatz verwendet werden – zum Beispiel eine Software, die mit Hilfe von KI den richtigen Kandidaten fur eine Stelle auswahlt. Oder ein KI-System, das vorhersagt, wo und wann ein Verbrechen wahrscheinlich geschehen wird. Bevor ein System in einem dieser Bereiche eingesetzt wird, muss der Anbieter sicherstellen, dass sein System die im Gesetz festgelegten Verpflichtungen erfullt. Aber der Anbieter hat ja ein Interesse daran, sein System zu verkaufen. Wir wollen, dass Systeme, die wahrscheinlich Auswirkungen auf den Einzelnen und die Gesellschaft haben, einer angemessenen Kontrolle durch unabhangige Expertinnen und Experten unterliegen. Ausserdem fehlt es an Transparenz gegenuber den von risikoreichen KI-Systemen betroffenen Menschen. Burgerinnen und Burger sollen daruber informiert werden, wenn sie einem Hochrisiko-KI-System ausgesetzt sind. Wenn ein KI-System zum Beispiel eine Bewerbung um einen Arbeitsplatz ablehnt, muss die Bewerberinnen und Bewerber erfahren konnen, wie diese Entscheidung zustande kam. Und man muss dagegen vorgehen konnen. Auch an diesem Punkt musste in dem Gesetzentwurf noch nachgebessert werden.
Dein SPIEGEL: Wen betrifft die KI-Verordnung?
Aszodi: Alle Burgerinnen und Burger in der EU und Firmen, die von ihnen entwickelte KI-Systeme in der EU verkaufen wollen. So wie das Gesetz aktuell formuliert ist, werden eher die Unternehmen gestarkt. Aus unserer Sicht sollten aber ganz klar die Rechte der Menschen im Vordergrund stehen.
Dein SPIEGEL: Gibt es noch weitere Kritikpunkte?
Aszodi: Die Verordnung verpflichtet die Anbieter, ein KI-System mit hohem Risiko aus Grunden der Transparenz in einer EU-Datenbank zu registrieren. Das ist erstmal gut. Man wusste jedoch nicht, in welchen Zusammenhangen – wann, wo und von wem – diese Systeme tatsachlich genutzt werden. Ausserdem lasst die KI-Verordnung die okologischen Auswirkungen von KI-Systemen ausser Acht. Hier musste ebenfalls Transparenz geschaffen werden, und dieser Aspekt sollte bei der Risikobewertung auch eine Rolle spielen.
__S.67__
Aszodi: Ursprunglich sollte die Plenarversammlung im EU-Parlament im November 2022 stattfinden. Es ist jedoch damit zu rechnen, dass sich dieser Prozess verzogern und bis Anfang 2023 hinziehen wird. Der EU-Rat will im Dezember 2022 eine Einigung erzielen. Wenn beide Institutionen intern zu einer Ubereinstimmung gelangt sind, fangen die Trilog-Verhandlungen an, bei denen sich die Kommission, Parlament und Rat abschliessend einigen mussen, voraussichtlich 2023.
Liebe Eltern,
Kinder wollen die Welt verstehen. Sie interessieren sich fur Natur, Menschen und Technik. Sie stellen Fragen. Und sie geben sich nicht mit den erstbesten Antworten zufrieden. Darum gibt der SPIEGEL fur junge Leserinnen und Leser ab acht Jahren ein eigenes Nachrichtenmagazin heraus.
>>Dein SPIEGEL<< erscheint jeden Monat neu und bietet spannende, verstandlich geschriebene Geschichten aus aller Welt, Interviews und News aus Politik und Gesellschaft. Fur noch mehr Spass sorgen Comics, Ratsel und kreative Ideen zum Mitmachen.
Informationen und Angebote
