Während das Europäische Parlament, der Rat und die Kommission über das EU Artifical Intelligence Act (EU-Gesetz über Künstliche Intelligenz, KI-Gesetz) verhandeln, fordern zivilgesellschaftliche Organisationen ein Gesetz, das unkontrollierte Formen der diskriminierenden und massenhaften Überwachung verhindert.
In einer Erklärung wird auf die besonderen Gefahren für die Versammlungsfreiheit, die Freiheit, das Recht auf Asyl, die Privatsphäre und den Datenschutz, das Recht auf sozialen Schutz und die Nichtdiskriminierung hingewiesen, wenn solche Technologien von Strafverfolgungs-, Migrationskontroll- und nationalen Sicherheitsbehörden eingesetzt werden.
Um die Menschenrechte zu wahren und Schaden durch den Einsatz von KI bei der Polizeiarbeit, der Migrationskontrolle und der nationalen Sicherheit zu verhindern, muss das EU KI-Gesetz:
- Aufnahme rechtlicher Beschränkungen, die den Einsatz von KI für Anwendungen verbieten, die ein unannehmbares Risiko für die Grundrechte darstellen. Dazu gehört ein gesetzliches Verbot verschiedener Formen der biometrischen Überwachung, der vorausschauenden Polizeiarbeit und des schädlichen Einsatzes von KI im Migrationskontext.
- Öffentliche Transparenz und Aufsicht, wenn Polizei, Migrationsbehörden und nationale Sicherheitsbehörden "risikoreiche" KI einsetzen, indem die gleiche Pflicht dieser Behörden aufrechterhalten wird, risikoreiche Anwendungen in der EU-KI-Datenbank zu registrieren.
- Sicherstellen, dass das KI-Gesetz den Einsatz von KI in der Polizeiarbeit, der Migration und der nationalen Sicherheit, der ein Risiko für die Menschenrechte darstellt, ordnungsgemäß regelt, insbesondere die vollständige Liste der KI in der Migrationskontrolle, und sicherstellen, dass die nationale Sicherheit nicht vom Anwendungsbereich ausgeschlossen wird.
Die Erklärung wird begleitet von Empfehlungen, wie das KI-Gesetz in diesen Bereichen geändert werden muss.