Multiperspektive Case Studie über die Anwendung von Sturzsensoren
Für die Entwicklung von KI-Anwendungen werden reale Daten benötigt. Für sogenannte vulnerable Zielgruppen, etwa im Langzeitpflegebereich, werden diese teilweise durch Simulation künstlich erzeugt, da es noch wenig reales Datenmaterial zum Alter(n) gibt.
Das Kompetenzzentrum Gerontologie und Gesundheitsforschung an der Karl Landsteiner Privatuniversität (KL) beschreibt in einer aktuellen Publikation zu KI-basierten Sturzsensoren, warum die synthetische Generierung von Daten mehr zum Ausschluss als zur echten Integration führt.
Der Beitrag zeigt auf, dass Inklusion politisch eingefordert werden muss und unterstreicht die Notwendigkeit einer multiperspektivischen Einbindung bei der Entwicklung neuer KI-Technologien. Das Algocare Projekt, welches den Rahmen der Publikation darstellt, wurde vom Wiener Wissenschafts- Forschungs- und Technologiefonds (WWTF) gefördert. Die Publikation ist Dank der Open Access Finanzierung der KL frei zugänglich in der Fachzeitschrift „Socius" erschienen.
In den letzten Jahren werden zunehmend algorithmische Entscheidungssysteme und (große) Dateninfrastrukturen, sogenannte Künstliche Intelligenz (KI), für Bevölkerungsgruppen entwickelt, die als vulnerabel wahrgenommen werden. Ein Beispiel dafür ist die Gerontechnologie, die sich mit der Entwicklung von Technologien zur Unterstützung älterer Erwachsener befasst. Ass.-Prof.in Dr.in Vera Gallistl und Katrin Lehner, BA, MA vom Kompetenzzentrum für Gerontologie und Gesundheitsforschung an der Karl Landsteiner Privatuniversität für Gesundheitswissenschaften, sind zwei der Autor:innen der aktuellen Publikation, die sich mit der Entwicklung, Anwendung und Nutzung von Sturzsensoren beschäftigt. „Das Besondere an Algocare ist die multiperspektivische Forschungsmöglichkeit. Wir konnten in qualitativen Interviews nicht nur das Personal in Langzeitpflegeeinrichtungen befragen, sondern auch ältere Heimbewohner:innen sowie die Entwickler:innen der Technologien. Daraus wurde für uns klar ersichtlich, dass Vulnerabilität nicht nur ein menschliches Phänomen ist, was Anlass war den Artikel ‚Vulnerability Assemblages: Situating Vulnerability in the Political Economy of Artificial Intelligence‘ zu verfassen."
Die Ergebnisse der empirischen Arbeit zu KI-Sturzerkennungs- und Präventionssystemen decken drei Dimensionen von Vulnerabilität auf.
Daten-Vulnerabilität: Künstliche Intelligenz muss lernen. Dafür wiederum braucht sie Daten und Erfahrungswerte. Im Kontext des Alters fehlen diese aber sehr oft, was auch in der Studie deutlich wurde. „Schlussfolgernd mussten diese synthetisch hergestellt werden“, erzählt Katrin Lehner. „Dafür haben Technologie-Entwickler:innen Daten zu Stürzen selbst hergestellt. Daher waren diese Daten sehr ‚sauber‘, was jedoch gefehlt hat, war die Komplexität der realen Welt. Diese synthetische Datenerzeugung macht letztlich auch das KI-System selbst vulnerabel, was insbesondere durch Fehlalarme deutlich wurde. Diese gab es beispielsweise dann, wenn sich jemand die Schuhe angezogen und sich dabei gebückt hat.“
User-Vulnerabilität: „In dieser ‚Vulnerabilitäts Assemblage‘ hat sich gezeigt, dass älteren Menschen als einziges Vulnerabilität zugeschrieben wird. Wir haben jedoch festgestellt, dass diese Zielgruppe autonom, interessiert und selbstbestimmt über die eingesetzten Technologien verfügen will. Da die älteren Bewohner:innen aber als vulnerabel und desinteressiert angesehen wurden, wurde nicht in Betracht gezogen, sie in die Technikimplementierung oder gar -entwicklung miteinzubeziehen“.
More than human-Vulnerability: Während also die Vulnerabilität der Technologien in der Praxis nicht wahrgenommen wurde, wurden ältere Heimbewohner:innen ganz selbstverständlich als vulnerabel verstanden. „Tatsächlich konnten wir jedoch sehen, dass Vulnerabilität aus einem komplexen Zusammenspiel von älteren Menschen, ihrer (Wohn-) Umgebung und den technischen Systemen besteht, welches sich an profitorientierten Strukturen der KI-Technikentwicklung orientiert.“
Repräsentation versus Realität
Einer der wichtigsten Aspekte der Vulnerabilität älterer Erwachsener in der analysierten „Vulnerabilitäts Assemblage“ betraf die Frage der Repräsentation des Alltags älterer Erwachsener in den Trainingsdaten, die wiederum zum Trainieren von KI-Modellen verwendet werden. Dies steht im Einklang mit den jüngsten Fortschritten in der soziogerontologischen Forschung zu KI, die Bedenken hinsichtlich Altersverzerrung und Altersdiskriminierung in der KI ausdrücken. „Auch wir haben in unserer Studie festgestellt, wie Praktiken der synthetischen Datenerstellung den Altersbias, also die stereotypische und vorurteilsbehaftete Wahrnehmung bestehender Datensätze, weiter verstärken“, so die Studiencoautorin. Eine der Schlussfolgerungen sei demnach die Stärkung der aktiven Rolle älterer Erwachsener bei der Technologieentwicklung sowie bei ihrer Implementierung. „Auf der anderen Seite unterstreicht unser Beitrag die Notwendigkeit, die Mensch-Technik-Beziehungen nicht im Sinne von Interventionen, sondern im Sinne einer gemeinsamen Verwundbarkeit weiterzudenken. Die Fokussierung auf diese Fälle geteilter Vulnerabilität bietet neue Möglichkeiten, Mensch-Technik-Beziehungen zu konzeptualisieren, die über das Sehen von Technologie hinausgehen.“
