Künstliche Intelligenz in der Medizin: WHO veröffentlicht Regulierungsdokument

In Anerkennung der wachsenden Bedeutung von KI-Tools im Gesundheitswesen veröffentlichte die Weltgesundheitsorganisation am 19. Oktober ein Dokument, in dem die regulatorischen Überlegungen aufgeführt sind, die nach Ansicht der Organisation entscheidende Punkte für die Sicherheit, Wirksamkeit und Verfügbarkeit dieser Tools sind.

Für den Generaldirektor der WHO, Dr. Tedros Adhanom, „hat KI ein großes Potenzial für die Gesundheit, steht aber auch vor ernsthaften Herausforderungen, darunter unethische Datenerfassung, Bedrohungen der Cybersicherheit und die Verstärkung von Voreingenommenheit oder Fehlinformationen.“

Die Veröffentlichung unterteilt ihre regulatorischen Überlegungen in sechs verschiedene Bereiche

Dokumentation und Transparenz

Um das Vertrauen und die Zuverlässigkeit von Anwendungen zu erhöhen, die KI nutzen, unabhängig davon, ob sie auf maschinellem Lernen, logischen oder statistischen Analysen basieren, hält die WHO es für wichtig, die Entwicklung und Nutzung des Tools klar zu dokumentieren und offenzulegen.

Risikomanagement und Werkzeuglebenszyklus

Die Weltgesundheitsorganisation ist der Ansicht, dass Probleme, die bei der Verwendung der Tools auftreten können, umfassend angegangen werden sollten und dabei den gesamten Lebenszyklus des Produkts und alle damit verbundenen Verfahren berücksichtigen sollten. Dazu gehört die Berücksichtigung von Cybersicherheitsproblemen, Systemschwachstellen, der Fähigkeit zum kontinuierlichen Lernen und der Notwendigkeit, das Tool bei der Risikobewertung auf das für seine Bedienung erforderliche Maß an menschlichem Eingreifen umzuschulen.

Verwendungszweck und Validierung

Genauigkeit und Klarheit bei der Beschreibung der beabsichtigten Verwendung des Instruments in Verbindung mit der Möglichkeit einer externen klinischen oder analytischen Überprüfung gewährleisten die Sicherheit und erleichtern die Verwendung der Instrumente.

Datenqualität

Im WHO-Dokument heißt es, dass „Daten von guter Qualität“ ein vager Begriff seien und anfällig für Interpretationsfehler seien und dass es wirklich notwendig sei, den verwendeten Datensatz gut zu verstehen, damit man die Qualität der Daten in KI-Systemen bewerten könne .

Privatsphäre und Datenschutz

Cybersicherheits- und Datenschutzaspekte müssen bei der Entwicklung und Nutzung von KI stets berücksichtigt werden, insbesondere beim Umgang mit Gesundheitsinformationen, die stets sensibel sind. Dies ist eines der Themen, die erstmals durch gesetzgeberische Maßnahmen angegangen werden. Europa hat es zum Beispiel Datenschutz-Grundverordnung (DSGVO), Vereinigte Staaten Gesetz über die Portabilität und Rechenschaftspflicht von Krankenversicherungen (HIPAA) und Brasiliens Allgemeines Datenschutzgesetz (LGPD).

Zusammenarbeit

Die Weltgesundheitsorganisation nennt außerdem die Notwendigkeit einer Zusammenarbeit zwischen allen an den Prozessen der Erstellung, Entwicklung und Nutzung von KI-Tools beteiligten Parteien, von öffentlichen Stellen über private Unternehmen und Unternehmen bis hin zu Patienten. Nur durch Zusammenarbeit kann sichergestellt werden, dass Produkte und Dienstleistungen gemäß den vereinbarten Regeln und zum Nutzen der gesamten Bevölkerung genutzt werden.

Auf das vollständige Dokument kann hier zugegriffen werden Verbindung.