Die Europäische Union hat mit dem EU AI Act ein umfassendes Regelwerk zur Regulierung von Künstlicher Intelligenz (KI) auf den Weg gebracht.
Dieses Gesetz hat weitreichende Auswirkungen, insbesondere Banken und Versicherungen sind betroffen. In unserem Blog-Beitrag fassen wir die wichtigsten Punkte zusammen und erklären, was Banken und Versicherungen tun müssen, um rechtssicher zu bleiben.
Ein risikobasierter Ansatz zur Regulierung
Der EU AI Act klassifiziert KI-Systeme nach dem Risiko, das sie für die Rechte und Freiheiten von Personen darstellen. Es lassen sich drei Hauptkategorien unterscheiden:
- Unzulässige Risiken: KI-Systeme, die ein unannehmbares Risiko darstellen, wie sozialer Scoring durch Behörden, sind verboten.
- Hohes Risiko: Systeme, die in kritischen Bereichen wie Infrastruktur, Bildung, Arbeitsmarkt, Finanzdienstleistungen und Verwaltung eingesetzt werden, unterliegen strengen Anforderungen.
- Geringes Risiko: Für Systeme mit geringem Risiko gibt es Transparenzpflichten, aber weniger strenge Anforderungen. Freiwillig die Regelungen für Hochrisiko-KI-Systeme einzuhalten, ist dennoch sinnvoll.
Anforderungen des EU AI Act für Hochrisiko-KI-Systeme
Für Hochrisiko-KI-Systeme müssen Banken und Versicherungen spezifische Anforderungen erfüllen:
- Risikomanagement: Es gilt, Systeme zur Identifizierung, Bewertung und Minderung von Risiken zu implementieren.
- Datenverarbeitung: Für das Training der KI-Systeme sind hochwertige, relevante und repräsentative Daten zu nutzen.
- Dokumentation und Aufzeichnung: Es besteht die Pflicht, Funktionsweise und Design der KI-Systeme detailliert zu dokumentieren.
- Transparenz und Information: User müssen über Funktionsweise und Risiken der KI-Systeme informiert werden.
- Überwachung und menschliche Aufsicht: Hierbei ist es essenziell, eine angemessene menschliche Aufsicht über die KI-Systeme sicherzustellen.
- Genauigkeit, Robustheit und Cybersicherheit: Unternehmen haben die Pflicht, exakte, robuste sowie sichere Ergebnisse zu gewährleisten.
Wie kann man erkennen, ob ein KI-System dem AI Act entspricht?
Bevor Hochrisiko-KI-Systeme in Verkehr gebracht werden, ist es unumgänglich, dass sie eine Konformitätsbewertung durchlaufen. Die Bewertung stellt sicher, dass diese den Anforderungen des AI Act entsprechen. Erfolgreiche Systeme erhalten eine CE-Kennzeichnung als Konformitätsnachweis.
Wie werden Verstöße gegen den AI Act geahndet?
Es können erhebliche Geldstrafen verhängt werden – in Höhe von bis zu 6 Prozent des weltweiten Jahresumsatzes eines Unternehmens. Dies hebt die Bedeutung der neuen Vorschriften hervor.
Warum ist der EU AI Act für Banken und Versicherungen besonders relevant?
Für Banken und Versicherungen ist der EU AI Act von großer Bedeutung, da viele ihrer KI-Systeme als Hochrisiko eingestuft sind. Dazu gehören Systeme zu Kreditbewertung, Betrugserkennung, Risikomanagement und automatisierten Entscheidungsprozessen. Die Institutionen müssen sicherstellen, dass ihre KI-Modelle den Anforderungen des AI Act entsprechen, insbesondere in Bezug auf Transparenz, Fairness und Genauigkeit.
Wie sieht es mit dem Verbraucherschutz aus?
Der EU AI Act stärkt den Schutz der Verbraucherrechte für Banken und Versicherungen. Denn diese Institutionen arbeiten mit sensiblen Daten und haben direkten Einfluss auf finanzielle Kundenentscheidungen. Ein starkes Verbrauchervertrauen in die eingesetzten KI-Systeme ist daher essenziell.
Welche aktuellen Entwicklungen zum EU AI Act gibt es?
Seit August 2024 ist der AI Act in Kraft.
Die Umsetzung in allen EU-Staaten gestaltet sich jedoch schwierig, da einige Regelungen noch unklar sind. In Deutschland haben sich bisher erst rund ein Viertel der Unternehmen mit dem neuen Regulierungsrahmen beschäftigt. Es besteht also erheblicher Aufklärungsbedarf.
Ein weiterer wichtiger Punkt stellt die Balance zwischen Innovation und Risikoschutz dar. Die Bundesregierung betont, dass klare Regeln das Vertrauen in KI-Technologien stärken und gleichzeitig Raum für Innovationen lassen. Der AI Act verfolgt hier einen risikobasierten Ansatz, bei dem die Anforderungen je nach Risikostufe der KI-Anwendung variieren.
Was hat es mit der Transparenz von KI-Systemen auf sich?
Das Whitepaper des Bundesamts für Sicherheit in der Informationstechnik (BSI) hebt die Bedeutung der Transparenz von KI-Systemen hervor. Transparenz umfasst die Bereitstellung von Informationen über den gesamten Lebenszyklus eines KI-Systems sowie über dessen Ökosystem. Sie fördert, dass Systeme nachvollziehbar und erklärbar sind, damit diese wiederum vertrauenswürdig bleiben.
Faktoren für Transparenz
- KI-System: Es geht um Definition und Funktionsweise des Systems, einschließlich der verwendeten Technologien wie maschinelles Lernen und neuronale Netze
- Ökosystem: Damit meint man den Kontext, in dem das KI-System entwickelt, bereitgestellt und betrieben wird, einschließlich der Informationen über den Anbieter und die Lieferkette.
- Informationen: Hierbei stehen relevante und angemessene Daten im Mittelpunkt, die offengelegt werden müssen, um eine fundierte Einschätzung des Systems zu ermöglichen.
- Lebenszyklus: Tatsächliche Transparenz muss in allen Phasen vorhanden sein – von der Planung über die Entwicklung bis hin zur Inbetriebnahme und Stilllegung.
Chancen und Gefahren durch Transparenz
Transparenz kann dafür sorgen, dass Entscheidungen nachvollziehbar bleiben. Sie kann Missbrauch verhindern und ermöglicht es zudem, potenzielle Risiken frühzeitig zu erkennen und angemessen zu reagieren.
Allerdings besteht durch die Offenlegung von Informationen auch die Gefahr, dass neue Bedrohungsvektoren hinzukommen, die Angreifer ausnutzen könnten. Aus diesem Grund ist ein ausgewogenes Maß an Transparenz erforderlich, das sowohl die Sicherheit als auch die Informationsbedürfnisse der Interessenträger berücksichtigt.
Fazit
Die Einhaltung des EU AI Act verlangt von Banken und Versicherungen Anpassungen ihrer IT-Systeme und interner Prozesse. Als IT-Beratung unterstützt X1F diese Institutionen dabei, Risikomanagementsysteme zu implementieren, die Einhaltung der regulatorischen Anforderungen sicherzustellen und Transparenz- und Sicherheitsstandards zu erfüllen.
Kontaktiere uns und entdecke, wie KI-Systeme auf den neuesten Stand gebracht sowie die Anforderungen des EU AI Act sicher erfüllt werden können. matrix technology als Teil der X1F Gruppe steht als kompetenter Partner zur Seite, um die Herausforderungen des EU AI Act erfolgreich zu meistern.
