Algorithmus trifft Aquarell

-

Kunst kreiert Krebs

Inzwischen sind KI-Chatbots für viele aus dem Alltag nicht mehr wegzudenken. Wir lassen sie als Assistenten für uns arbeiten, teilen Gefühle und Sorgen mit ihnen. Die Medizin erhofft sich vom Einsatz der KI-Modelle vor allem, Krankheiten auf die Spur zu kommen und Leiden früher zu erkennen oder womöglich zu heilen.

Schnell gerät in Vergessenheit, dass die Systeme eigentlich nur Vorhersagen auf Basis von Daten treffen und dabei zwar Diagnosen liefern, aber Fehler machen und zuweilen sogar fantasieren. Und auch wenn die KI keine Antwort hat, gibt sie in der Regel dennoch eine.

Das Künstler-Duo Kennedy+Swan hat ein KI-Modell einmal herausgefordert und einem Experiment unterzogen. Dieses Modell war spezialisiert darauf, Lungenkrebs in Gewebe-Scans zu erkennen. Die beiden Künstler imitierten die Bilder des kranken Lungengewebes allerdings so täuschend echt, dass dieses Mal der KI-Algorithmus darauf hereingefallen ist.

Dabei griffen Bianca Kennedy und Felix Kraus, der Initiator von Swan Collective, auf ursprüngliche künstlerische Techniken zurück. Sie malten bunte Aquarelle auf Glas mit etwas Wasserfarbe und Tinte sowie ein paar Chemikalien – und die Täuschung war perfekt. Weil ihre Werke wie mikroskopische Präparate daherkamen, tricksten sie die KI einfach aus.

Mit ihrem Experiment wollten die beiden zum einen zeigen, dass die Datenbasis solcher medizinischer KI-Systeme nicht neutral ist. Und zum anderen, dass solche Modelle »blinde Flecken« haben. Wie viel Vertrauen schenken wir also einer Technologie, die sich zunehmend auch auf unsere körperliche Existenz auswirkt? Auch stellt sich angesichts des Experiments die Frage, ob medizinische KI-Systeme überhaupt mit artfremden Inhalten trainiert werden sollten, um später reale Daten von Fake-Daten unterscheiden zu können.

In ihrer Zusammenarbeit erforscht das Künstler-Duo die Zukunft nicht menschlicher Intelligenz und deren Auswirkung auf Pflanzen, Tiere, Maschinen und Menschen. Zu ihrer Ausstellungseröffnung »The Neverending Cure« in der TU Berlin hatten das Berlin Institute for the Foundations of Learning and Data (BIFOLD) und die Schering Stiftung eingeladen.