Intelligente Systeme und gesundheitliche Chancengleichheit
In ihrem Vortrag „Smart Healthcare Systems and Social In/Justice“ gingen Cordula Kropp und Karolin Tampe-Mai der Frage nach, wie sich die digitale Transformation im Gesundheitswesen in Bezug auf Fairness, Gerechtigkeit und Ungleichheit der Gesundheitsversorgung auswirken kann. Ungleichheit äußert sich bislang in einem schlechteren Zugang zu medizinischer Versorgung, einer geringeren Inanspruchnahme gesundheitsbezogener Leistungen und einer schlechteren Qualität von in Anspruch genommenen Leistungen. Wird die digitale Transformation hier Abhilfe schaffen oder die Risiken vertiefen? Neben horizontalen Diversitätsmerkmalen wie möglichen Diskriminierungen und datenbasierter Verzerrung sind diesbezüglich Probleme ungleicher Repräsentation, fehlender Zugänge, Explizierbarkeit und Validierung KI-basierter Entscheidungsfindung relevant.
In der medialen Wahrnehmung der Chancen und Risiken von KI in der Medizin (Medienartikel 2019/2020) werden algorithmenbasierte Anwendungen in Bezug auf Daten- und Persönlichkeitsschutz diskutiert und mit dem Versprechen auf Effizienzgewinne und neue Medizinprodukte verknüpft. Demgegenüber werden in der Fachdebatte zwei Leitfragen diskutiert, nämlich a) die Bedeutung erwartbarer Verschiebungen zentraler Unterscheidungen durch die digitale Transformation (Gesundheit-Krankheit, Prävention-Therapie, Arzt/Ärztin–Medizininformatiker*in, Gesundheitsversorgung-Gesundheitsmarkt) und b) mögliche Folgen der aufwendigen Erfassung, Erschließung und Aufbereitung von Gesundheitsdaten für maschinelles Lernen in Bezug auf Verzerrungen, riskante Klassifikationen und ungleiche Scores etwa zu sozial unterschiedlichen, verhaltensbezogenen Risikomerkmalen und Schwellenwerten.
Die identifizierten Herausforderungen diskutierten Kropp und Tampe-Mai in Bezug auf das Ziel gesundheitlicher Chancengleichheit auf Basis punktuell verfügbarer Evidenzen, bspw. zur Exklusion sensibler Teilgruppen aufgrund nicht-genutzter digitaler Gesundheitskarten/ Gesundheits-Apps, zur Bedeutung sozial verzerrter Metadaten (Compliance, Prävention) und zur algorithmischen Zirkularität bzw. Feedbackproblematik (fehlendes Lernen aus false negatives).
Im Vortrag wurden erste Konturen notwendiger Debatten über soziale Ungleichheit und KI-Medizin skizziert.