Was passiert, wenn Algorithmen Menschenleben gefährden? Videokünstlerin Helen Knowles beschäftigt sich in ihrer Arbeit mit der Verantwortung von künstlichen Intelligenzen.

Während sich in den letzten Jahren in zahlreichen Medien ethische Diskussionen über sogenannte künstliche Intelligenzen, technische Singularität und Humanoide entsponnen haben, in denen mal mehr und mal weniger apokalyptisch über verschiedene Zukunftsmodelle sinniert wird, implementieren börsennotierte wie mittelständische Unternehmen weltweit bereits die lernfähigen Programme: ob bei Kreditanträgen, Marketinganalysen oder mittels der viel bescholtenen Twitter- und sonstiger Social-Media-Bots.

Das Beratungsunternehmen PricewaterhouseCoopers (PwC) sieht dank Künstlicher Intelligenz (KI)-Techniken das deutsche Bruttoinlandsprodukt bis 2030 um 11,3% steigen, und die amerikanische Society for Human Resource Management berichtete im letzten Jahr bereits davon, dass sich Anwaltskanzleien größerer Unternehmen, die Bewerbungs- und Mitarbeiterbeurteilungsverfahren zunehmend der KI überlassen, schon auf Sammelklagen diesbezüglich vorbereiten.

Während sich erst im letzten Jahr eine EU-Experten-Kommission mit der Frage beschäftigte, wie genau ethisches Handeln einer künstlichen Intelligenz auszusehen habe, zeigt die britische Künstlerin Helen Knowles in ihrer Videoarbeit „The Trial of Superdebthunterbot“ (2016), welche konkreten Problemstellungen sich auftun könnten. Der gut 45-minütige Film basiert auf einer Performance, die die Künstlerin im Rahmen einer Ausstellungseröffnung in der Oriel Sycarth Gallery in Wrexham, UK inszeniert hatte. Ausgangspunkt der Arbeit: Die KI „Superdebthunterbot“ muss sich in einem Gerichtsprozess gegenüber dem Vorwurf des Totschlags verantworten.

Helen Knowles, The Trial of Superdebthunterbot, 2015, Court drawing by Helen Knowles and Liza Brett from a 2015 performance at Oriel Sycarth Gallery, courtesy the artists
Helen Knowles, The Trial of Superdebthunterbot, Film Still © Helen Knowles 2016

THE TRIAL OF SUPERDEBTHUNTERBOT

Teaser zu Helen Knowles‘ Videoarbeit

Im Auftrag eines Unternehmens, das dem britischen Staat fällige Studentenkredite abgekauft hatte, fand der Computer überaus zweifelhafte Jobangebote für die Schuldner , um bei ihnen abzukassieren. Zwei der Schuldner vermittelte die KI an eine medizinische Studie, an deren Nebenwirkungen die Probanden verstarben. Hat sich der „Supedebthunterbot“ nun des Totschlags schuldig gemacht, hätte er die medizinische Studie auf Seriosität prüfen müssen? Die Künstlerin ließ die Juristen Oana Labontu Radu und Lauries Elks Plädoyers verfassen und vor dem Publikum vortragen, das anschließend als Jury das Urteil zu sprechen hatte.

Drei Kame­ras, eine Drohne und eine um den Kopf geschnallte GoPro kamen zum Einsatz

Helen Knwoles, die in der Londoner arebyte Gallery mit ihrer umfassenden Multimedia-Installation „Trickle Down, A New Vertical Sovereignty“ gerade die Verteilungsprinzipien der Finanzwirtschaft in Augenschein nimmt, produzierte 2016 eine Videoversion der Performance: im Londoner Gerichtshof in Southwark wurde die Arbeit wiederaufgeführt.  Drei Kameras, eine Drohne und eine um den Kopf geschnallte GoPro kamen bei dem Dreh zum Einsatz.  Eine Gerichtsmitarbeiterin schiebt zu bedrohlich anmutenden Streicherklängen einen unscheinbar aussehenden Computer im Glasgehäuse einen langen Gang hin zum Gerichtssaal.

Helen Knowles, The Trial of Superdebthunterbot, 2015, Court drawing by Helen Knowles and Liza Brett from a 2015 performance at Oriel Sycarth Gallery, courtesy the artists
Helen Knowles, The Trial of Superdebthunterbot, 2015, Court drawing by Helen Knowles and Liza Brett from a 2015 performance at Oriel Sycarth Gallery, courtesy the artists

Die Geschworenen werden von einem anderen Angestellten aufgeklärt, wie genau sie sich im Gerichtssaal zu verhalten haben. Bevor Anklage und Verteidigung ihr Plädoyer halten, fasst zunächst der Richter (Schauspieler Mark Frost) noch einmal die Beweisführung zusammen und macht deutlich, dass die KI und nicht der Programmierer angeklagt seien. Anschließend begleitet die Kamera die Jury beim Beraten über das Urteil – die Diskussion hangelt sich entlang einiger Fragen, die ihnen das Gericht ausgehändigt hat: Kann man der KI Schuld zusprechen, handelt sie bewusst? Hat sie eine Sorgfaltspflicht für die Schuldner? Die Geschworenen sind sich uneins: Eine Frau möchte die KI allein deshalb schuldig sprechen, um ein Signal an Unternehmen, die selbstlernende Computer einsetzen, zu senden.

Kann eine Maschine denn wollen, was sie will?

Andere sprechen der KI Handlungsfreiheit und somit Schuldfähigkeit per se ab. Man spürt, wie die Fragen des fiktionalen Falles samt deren Implikationen unsere gelebte Realität betreffen: Wie sieht ein angemessener Umgang mit Maschinen aus, die als digitale Broker direkten Einfluss auf die Weltwirtschaft haben, oder aber in Unternehmen bei der Mitarbeiter-Evaluation für die Entlassung von Angestellten sorgen können? Hat die KI vielleicht ähnliche Probleme wie ihr Schöpfer, der Mensch, der laut Schopenhauer nicht wollen kann, was er will?

Helen Knowles, The Trial of Superdebthunterbot, 2015, Court drawing by Helen Knowles and Liza Brett from a 2015 performance at Oriel Sycarth Gallery, courtesy the artists

Ähnliche Fragestellungen können einem auch bei Spike Jonzes Film „Her“ (2013) in den Sinn schießen, den Helen Knowles als weiteren Film im Double Feature zeigen wird. Der Film lässt sich vielleicht am besten als eine Art SciFi-Romanze beschreiben. Theodore Twombly (Joaquin Phoenix) arbeitet in einer nahen Zukunft für einen Dienstleister, der Briefe jeglicher Art – Glückwunschkarten und Dankesbriefe, Liebes- oder Kondolenzbriefe – für Klienten aufsetzt, die selbst nicht die richtigen Worte finden.

Zwischen Theo­dore und der KI Saman­tha bahnt sich eine Liebes­be­zie­hung an

In seinem in warmes Licht getauchten Großraumbüro diktiert Towmbly seinem Computer tagein tagaus anrührende Mitteilungen, während sein eigenes Privatleben in Scherben liegt: die langjährige Ehe ist in die Brüche gegangen, vereinsamt und desillusioniert kann er sich nicht dazu motivieren, die Scheidungsunterlagen zu unterzeichnen. Als schließlich das neue, ausschließlich sprachgesteuerte Betriebssystem OS 1 eingeführt wird, bahnt sich zwischen Theodore und der KI Samantha (Scarlett Johansson) langsam eine Liebesbeziehung an.

Spike Jonze, Her (Filmstill), 2013, Image via taz.de

Spike Jonzes Film schert sich wenig um die großen technischen oder gesamtgesellschaftlichen Fragen, die mit der Erschaffung einer KI einhergehen. Vielmehr bleibt er beim Individuum, dessen Einsamkeit und Sehnsucht nach Liebe unter veränderten Vorzeichen in den Fokus gerückt wird. Theodore Twombly staunt über das, was ihn da ausschließlich auf verbaler Ebene entzückt und sein Leben bereichert, hat aber keine Möglichkeit, sein Objekt der Begierde auch nur ansatzweise zu erfassen.

Alle ande­ren Sinne verlie­ren zuneh­mend ihre Bedeu­tung

Das körperliche Empfinden einer Liebesbeziehung wird derweil so nah ans Gehirn geschoben, wie nur denkbar: ausschließlich durch das Ohr – das der menschlichen Schaltzentrale nächste Organ – ist die Partnerin erfahrbar, alle anderen Sinne verlieren zunehmend ihre Bedeutung. Die künstliche Intelligenz bei Helen Knowles löst dieses Problem auf ganz andere Weise: ihre Körperlosigkeit macht sie durch die ihr zugesprochene Verantwortungsgewalt wett, von der sie womöglich selbst keinen Begriff hat.

Double Feature mit Helen Knowles

Mitt­woch, 26. Februar 2020, 19.30 Uhr

Mehr Infos