Aug 1 / Doctorflix Team

AI Act - Was bedeutet er für das Gesundheitswesen?

Illustration einer modernen digitalen medizinischen Bibliothek mit Bücherregalen voller medizinischer Fachliteratur und Tischen, auf denen Tablets oder Laptops stehen, die Online-Kurse anzeigen. Das Design ist sauber und professionell, in einem vertrauenswürdigen Blau-Weiß-Farbschema gehalten.

Der AI Act der Europäischen Union: Auswirkungen auf das deutsche Gesundheitswesen

Dass die Nutzung Künstlicher Intelligenz (KI) einen umfassenden rechtlichen Rahmen braucht, wurde in den letzten Monaten zunehmend deutlich. Denn nicht nur die Neuartigkeit der KI, sondern auch die Unsicherheit im Umgang mit dieser haben Nutzer, Betreiber und Gerichte vor einige Probleme und Fragen gestellt. Der AI Act ist der weltweit erste umfassende Rechtsrahmen für Künstliche Intelligenz und wurde von der Europäischen Union (EU) entwickelt, um Vertrauen zu schaffen, die Grundrechte zu sichern sowie die Sicherheit und ethischen Grundsätze im Umgang mit KI zu gewährleisten.

Warum brauchen wir den AI Act?

Der AI Act zielt darauf ab, KI-Systeme sicherer und transparenter zu machen, indem strenge Anforderungen an deren Entwicklung und Nutzung gestellt werden. Für das Gesundheitswesen bedeutet dies, dass KI-basierte Anwendungen wie Diagnosetools oder Behandlungsalgorithmen hohen Sicherheits- und Qualitätsanforderungen entsprechen müssen. Dies soll sicherstellen, dass diese Systeme zuverlässig sind und keine Risiken für Patienten darstellen.

Kategorisierung nach Risiko

Der AI Act teilt KI-Systeme in verschieden Risikokategorien ein:

1) Unannehmbares Risiko:
Hierunter fallen KI-Systeme, die als inakzeptabel gefährlich angesehen werden, wie soziale Bewertungssysteme, biometrische oder manipulative KI.

2) Hohes Risiko:
KI-Systeme in dieser Kategorie haben ein hohes Risiko und müssen strengen Anforderungen entsprechen. Beispiele sind KI-Anwendungen in der robotergeschützten Chirurgie oder die automatisierte Prüfung von Asyl- und Visumanträgen.

3) Geringes Risiko:
In diese Kategorie fallen KI-Systeme, für die Transparenzpflicht eingeführt werden müssen. Dazu gehört die Kennzeichnung von KI-generierten Inhalten und die Interaktion mit KI.

4) Minimales Risiko:
Diese Kategorie umfasst die Mehrheit der KI-Systeme in der EU, wie KI-fähige Videospiele oder Spamfilter.

Auswirkungen des AI Act auf das Gesundheitswesen

Medizinische Dienstleistungen und KI-Systeme im Gesundheitswesen fallen in die Kategorie der Hochrisiko-Systeme (2). Dies betrifft insbesondere:
  • Bewertung der Anspruchsberechtigung auf wesentliche öffentliche Unterstützungsleistungen und Gesundheitsdienstleistungen.
  • Risikobewertung und Preisgestaltung in Bezug auf Lebens- und Krankenversicherungen.
  • Notruf- und Triage-Systeme zur Priorisierung und Klassifizierung von Notfallpatienten.
Für diese Anwendungen bedeutet der AI Act, dass hohe Standards an die Sicherheit, Genauigkeit und Robustheit der KI-Systeme gestellt werden. Es müssen detaillierte Risikobewertungen durchgeführt und die Datensätze sorgfältig überprüft werden. Transparenz und eine angemessene menschliche Aufsicht sind Pflicht, um die Risiken zu minimieren.

Mit der Implementierung des AI Acts geht jedoch auch ein Mehraufwand einher. Medizinprodukte, die sich KI zunutze machen, werden, wie bereits erwähnt als Hochrisiko-Systeme (2) eingestuft. In dieser Kategorie ist es erforderlich, die Konformität von Produkten/Dienstleistungen mit den geltenden europäischen Normen und Vorschriften von einer Benannten Stelle überprüfen zu lassen. Demzufolge werden Anforderungen an Datenqualität, Risikomanagement und Dokumentation strenger beachtet werden müssen. Zudem ist der Prozess zur Zertifizierung komplex und verlangt detaillierte Dokumentation und kontinuierliche Überwachung.

Zukunftsaussichten

Der AI Act stellt sicher, dass KI-Systeme durch kontinuierliches Qualitäts- und Risikomanagement zukunftssicher bleiben. Dies ist besonders im Gesundheitswesen von großer Bedeutung, da hier die Zuverlässigkeit und Sicherheit der Systeme lebenswichtige Bedeutung haben. Die Hersteller von KI-basierten Medizinprodukten sind aufgefordert, diese hohen Standards zu erfüllen und fortlaufend zu überprüfen.

Zusammenfassend schafft der AI Act einen notwendigen rechtlichen Rahmen, um den sicheren und ethischen Einsatz von KI im Gesundheitswesen zu gewährleisten. Dies trägt nicht nur zur Sicherheit der Patienten bei, sondern fördert auch das Vertrauen in die fortschrittlichen Technologien, die die medizinische Versorgung der Zukunft prägen werden.

Literatur

Artificial Intelligence Act. (n.d.). Überblick. Retrieved August 1, 2024, from https://artificialintelligenceact.eu/de/