KI: EU-Vorgaben und was Sie wissen sollten

Die im August 2024 in Kraft getretene Europäische KI-Verordnung betrifft daher nicht nur Herstellerfirmen von Medizintechnik, sondern hat auch weitreichende Auswirkungen auf Sie als Ärztin bzw. Arzt.

Was Sie über die Verordnung zur Künstlichen Intelligenz wissen sollten:

• Sicherheits- und Qualitätsstandards:
  Medizinische Anwendungen, bei denen KI zum Einsatz kommt, müssen strenge Auflagen erfüllen, darunter Transparenz und Datenqualität. Darüber hinaus ist die menschliche Kontrolle von großer Bedeutung. Der Mensch muss in der Lage sein, die Empfehlungen oder Diagnosen der KI zu überprüfen, zu validieren und, wenn nötig, zu korrigieren, um das Risiko von Fehlern und unerwünschten Folgen zu minimieren.

• Verantwortung in der klinischen Anwendung:
  Trotz des technischen Fortschritts bleibt die Verantwortung für klinische Entscheidungen bei der Ärztin bzw. bei dem Arzt. Die Verordnung legt großen Wert auf die Nachvollziehbarkeit der Entscheidungen von KI-Systemen, was bedeutet, dass Nutzende, einschließlich medizinischer Fachkräfte, in der Lage sein müssen, die Ergebnisse der Systeme zu verstehen und kritisch zu hinterfragen.

• Datenschutz und Patientenrechte:
  KI-Systeme, die Patientendaten nutzen, unterliegen strengen Datenschutzvorschriften. Daher ist es wichtig, die Einhaltung dieser Vorschriften beim Einsatz solcher Technologien zu überprüfen, um die Rechte der Patientinnen und Patienten zu wahren.

• Fortbildung und Schulung:
  Der Einsatz von KI setzt ein Verständnis der Funktionsweise dieser Systeme voraus. Daher sollten Schulungen und Weiterbildungen verstärkt genutzt werden, um sich mit den Möglichkeiten und Grenzen von KI-Technologien vertraut zu machen.

Die Europäische KI-Verordnung stellt somit sicher, dass Sie in Zukunft mit Werkzeugen arbeiten, die vertrauenswürdig und sicher sind. Gleichzeitig bleibt die kritische Reflexion der durch KI vorgeschlagenen Diagnosen oder Therapieansätze ein zentraler Bestandteil der medizinischen Arbeit.

Weitere Informationen finden Sie beispielsweise in Fachpublikationen, wie denen des VDE oder des Fraunhofer-Instituts. Ein lesenswerter Artikel zum Thema ist "Generative AI: Eine Revolution für das Gesundheitswesen?“.