Dynamik in der Digitalisierung erfordert Kontrolle

Digitale Plattformen strukturieren zunehmend die Informationsumgebung, in der Menschen Wahrnehmung, Aufmerksamkeit und Meinungsbildung entwickeln. Algorithmische Empfehlungssysteme sind dabei häufig darauf ausgerichtet, Aufmerksamkeit möglichst lange zu binden und Nutzerverhalten vorherzusagen. Dr. Victoria Witt und Prof. Doreen Richardt haben deshalb auf dem Deutsche Ärztetag einen Antrag gestellt, der auf eine stärkere Verpflichtung digitaler Plattformen abzielt. 

Stärkere Kontrolle gefordert
Mit dem Beschluss fordert der Ärztetag 2026 die Bundesregierung sowie die zuständigen europäischen und nationalen Regulierungsbehörden auf, die Transparenz und Kontrolle algorithmischer Empfehlungssysteme digitaler Plattformen deutlich zu stärken. Insbesondere sollen Betreiber digitaler Plattformen verpflichtet werden,

•  die Funktionsweise und Optimierungsziele ihrer Empfehlungssysteme offenzulegen,
• unabhängige wissenschaftliche Forschung zu den Auswirkungen algorithmischer Aufmerksamkeitssteuerung auf kognitive Prozesse, Meinungsbildung und psychische Gesundheit zu ermöglichen,
•  regulatorische Maßnahmen zu prüfen, die eine übermäßige Konzentration von Aufmerksamkeitssteuerung durch private Plattformanbieter begrenzen.

Die Antragstellerinnen gaben zu bedenken, dass aus neurologischer und psychiatrischer Perspektive Aufmerksamkeit eine zentrale Grundlage von Kognition, Entscheidungsfähigkeit und emotionaler Regulation ist. Systeme, die gezielt Aufmerksamkeit lenken und verstärken, könnten daher erhebliche Auswirkungen auf Informationsverarbeitung, Präferenzbildung und gesellschaftliche Diskurse haben.

Besondere Relevanz für Kinder und Jugendliche
Besondere Relevanz sehen Witt und Richardt bei diesem Thema für Kinder und Jugendliche, deren neurokognitive Entwicklung noch nicht abgeschlossen ist. Im Antrag heißt es: „Zugleich betrifft die algorithmische Strukturierung von Aufmerksamkeit grundsätzlich alle Altersgruppen und kann auch die gesellschaftliche Meinungsbildung beeinflussen. Eine verantwortungsvolle Regulierung sollte daher nicht primär Nutzergruppen adressieren, sondern die strukturellen Mechanismen der Aufmerksamkeitssteuerung selbst in den Blick nehmen. Transparenz über Funktionsweise und Zielparameter algorithmischer Systeme sowie unabhängige wissenschaftliche Forschung sind Voraussetzungen für eine evidenzbasierte gesundheitspolitische Bewertung und Regulierung."

Digitale KI-Agenten in der Versorgung
Auch andere Anträge zeigen, dass die Ärzteschaft in Zeiten von Digitalisierung und Künstlicher Intelligenz (KI) ein genaues Hinschauen erwartet. Forderungen gingen u.a. an das Bundesgesundheitsministerium, die gematik, den Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) und das Bundesamt für Sicherheit in der Informationstechnik (BSI), von denen der Ärztetag eine detaillierte Darstellung über zu ergreifende Maßnahmen erwartet, bevor digitale KI-Agenten in der ärztlichen Patientenversorgung eingesetzt werden. 
Zur Begründung verwiesen die Antragsteller auf wissenschaftliche Veröffentlichungen zu Ereignissen, bei denen selbstständig handelnde Programme sich unerwartet über die ausdrücklichen Vorgaben ihrer menschlichen Auftraggeber hinweggesetzt hatten.