SciArt Work: The Box

Künstlerin | Fiona Smith (UK)

Kunstform | Interaktive SciArt-Installation

Motivation | Die potenziellen Vorteile des Einsatzes von KI-Technologie im Gesundheitswesen sind enorm, doch gibt es wichtige praktische, technologische, ethische und rechtliche Implikationen, die zum Schutz der Patienten berücksichtigt werden müssen. The BOX ist eine interaktive Installation, die den "Black Box"-Aspekt der KI-Technologie untersucht und die Frage stellt: "Wenn wir die KI mit unvollständigen oder verzerrten Daten füttern - können wir dann erwarten, dass sie vernünftige Behandlungspläne vorschlägt?”

Methodik & Umsetzung | Die Besucher der Ausstellung werden auf eine interaktive Reise durch eine alternative Krankenhausklinik mitgenommen. In ihrer Rolle als Patienten werden sie gescannt und dann mit ihren Testergebnissen an The BOX weitergeleitet. Über eine dynamische Lichtanzeige teilt The BOX dann den Behandlungsplan mit, den sie für jeden Patienten beschlossen hat. Nach der Bearbeitung haben die Besucher die Möglichkeit, die Wissensbasis abzufragen, die The BOX für ihre Entscheidung verwendet hat.

Wissenschaftlicher Hintergrund | Die STEAM Imaging V Creator Residency brachte die Künstlerin Fiona Smith, Wissenschaftler von Fraunhofer MEVIS und Schüler der International Fraunhofer Talent School Bremen und des Schulzentrums Walle zusammen, um die wichtigen ethischen, rechtlichen und praktischen Implikationen der Implementierung von KI-Technologie im Gesundheitswesen zu diskutieren. Die Entwicklung von KI-Modellen, die genaue Vorhersagen für Patienten treffen, erfordert vielfältige Trainingsdatensätze, die für die Testpopulation repräsentativ sind.In einigen Fällen könnte es möglich sein, das Modell kontinuierlich mit neuen Trainingsdaten zu aktualisieren, sobald diese verfügbar sind, aber wie reguliert man ein Modell, dessen Leistung sich ständig ändert? Wie erkennt man, wenn sich die Genauigkeit der Vorhersagen eines eingesetzten Modells ändert oder die Leistung bei verschiedenen Patientengruppen unterschiedlich ist? Diese und weitere Fragen werden in The BOX erforscht, das in Zusammenarbeit mit dem Institute for Design Informatics, Edinburgh, entstanden ist und im Rahmen des Edinburgh Science Festival 2024 in der Inspace Gallery seine Eröffnung feiert.

Credits | Die BOX ist das Ergebnis der Creator Residency 'STEAM Imaging V - Holding the 'Digital' in Medicine to Account', veranstaltet vom Fraunhofer-Institut für Digitale Medizin MEVIS (DE), in Zusammenarbeit mit dem Institute for Design Informatics (UK), der International Fraunhofer Talent School Bremen und dem Schulzentrum Walle (DE), unterstützt von Ars Electronica (AT). Das Projekt wurde durch die großzügige Hilfe von Bianka Hofmann, Miriam Walsh, Mark Kobine, Peter Bentley, Malcolm Cruickshank, Paul Charlton, Hans Meine, Matthias Günther, Rieke Alpers, Anna Rörich, Valentin Kraft, Susanne Diekmann, Roxanne Wong und Nicola Osborne ermöglicht.