Die Weltgesundheitsorganisation betont, dass KI die Pflege revolutionieren könnte, warnt jedoch vor den Risiken

In einem heute veröffentlichten Dokument analysiert die Weltgesundheitsorganisation die Risiken und Vorteile des Einsatzes großer multimodaler Modelle (LMM) im Gesundheitswesen – laut Lusa eine schnell wachsende Art generativer KI-Technologie.

LMM-Maschinen wie GPT-4, erstellt von OpenAI, oder Bard, entwickelt von Google, können verschiedene Arten von Daten verwenden, darunter Text, Audio, Bilder und Videos, und Ergebnisse generieren, die nicht auf die in die eingespeisten Daten beschränkt sind Algorithmus.

„Wir gehen davon aus, dass LMM im Gesundheitswesen, in der wissenschaftlichen Forschung, im öffentlichen Gesundheitswesen und in der Arzneimittelentwicklung umfassend eingesetzt und angewendet wird“, betont die WHO in dem heute veröffentlichten Leitfaden, der neue ethische Richtlinien zur Förderung und Gewährleistung einer sicheren Verwendung in diesem Gesundheitssektor enthält. Amnesty International.

Als einen der Hauptvorteile von LMM im Gesundheitswesen hebt die Weltgesundheitsorganisation die Beschleunigung der Diagnose und der klinischen Versorgung hervor, insbesondere durch die automatische Beantwortung von Patientenfragen; Erledigung administrativer Aufgaben, wie z. B. die Dokumentation von Patientenbesuchen beim Arzt in elektronischen Aufzeichnungen; Lehre, beispielsweise die Bereitstellung simulierter Patientenbegegnungen für medizinische oder pflegerische Auszubildende, sowie wissenschaftliche Forschung und Arzneimittelentwicklung, einschließlich der Identifizierung neuer Substanzen.

Die Weltgesundheitsorganisation warnt davor, dass LMM trotz seines großen Potenzials zu falschen, ungenauen, voreingenommenen oder unvollständigen Ergebnissen führen kann, die schädliche Folgen für Menschen haben können, und betont, dass die Gefährdung dieser Technologie durch Cybersicherheitsrisiken dazu führen kann, dass Patienteninformationen gefährdet werden. kurz gesagt, die Zuverlässigkeit der Gesundheitsversorgung.

„Generative KI-Technologien haben das Potenzial, die Gesundheitsversorgung zu verbessern, aber nur, wenn diejenigen, die diese Technologien entwickeln, regulieren und nutzen, die damit verbundenen Risiken erkennen und vollständig berücksichtigen“, sagte Jeremy Farrar, Chefwissenschaftler der Weltgesundheitsorganisation.

Laut Farrar sind „transparente Informationen und Richtlinien erforderlich, um das Design, die Entwicklung und den Einsatz von LMM zu steuern, um bessere Gesundheitsergebnisse zu erzielen und anhaltende gesundheitliche Ungleichheiten zu überwinden.“

In dem heute veröffentlichten Dokument empfiehlt die UN-Agentur den Regierungen, die Regulierungsbehörden mit der Genehmigung des Einsatzes von LMM im Gesundheitswesen zu beauftragen, und fordert Audits, um die Auswirkungen dieser Technologie zu bewerten.

Nach Angaben der Weltgesundheitsorganisation sind „Haftungsregeln“ erforderlich, damit „von LMM betroffene Nutzer angemessen entschädigt werden“.

Die WHO fordert die Einbeziehung von Regierungen, Unternehmen, Gesundheitsdienstleistern, Patienten und der Zivilgesellschaft in allen Phasen der Entwicklung und Anwendung generativer KI-Technologien, einschließlich ihrer Aufsicht und Regulierung.