Die ETHIKA Prinzipien - Ethik für die User eXperience (UX) von KI-Systemen


Die ETHIKA-Prinzipien - Der Einsatz von künstlicher Intelligenz erfordert die Rückbesinnung auf User Experience

Eine Gruppe von Experten aus dem Bereich UX traf sich im Mai 2018 zum Future UX Retreat auf Mallorca, um sich gemeinsam Gedanken zu den aktuellen Herausforderungen des Berufsstandes User Experience zu machen.

Motivation

Thema war das Zusammenspiel von UX und KI, denn in den letzten Jahren können wir den Beginn eines durchdringenden Wandels in unserer Gesellschaft verfolgen. Digitalisierung wird als große Chance, aber auch als Risiko für den Menschen betrachtet. Menschen und Maschinen sind immer mehr miteinander vernetzt und sich teilweise so fremd wie nie.
Gerade künstliche Intelligenz wird zum jetzigen Zeitpunkt von allen Seiten diskutiert. Wir wollen keineswegs vor dem Einsatz künstlicher Intelligenz (KI) warnen. Im Gegenteil, wir sprechen uns sehr dafür aus. Wir halten es für essentiell, dass KI in den Alltag des Menschen unterstützend eingebunden wird.
Wir gehen davon aus, dass der Einsatz von KI eine immer größere Rolle spielen und in absehbarer Zeit nicht mehr wegzudenken sein wird. Gleichzeitig bringt der Einsatz eine Vielzahl neuer Gestaltungsmöglichkeiten mit sich, aber auch Risiken zum Missbrauch.
Daher sehen wir die Rolle des UX-Designers ganz neuen Herausforderungen gegenübergestellt und sehen ihn als die Schnittstelle zwischen Mensch und KI; jemand der die Zusammenarbeit zwischen den beiden unterstützen muss.

Dazu wurden folgende Thesen erarbeitet:
  1. UX muss sich verändern, wenn sie weiter ernst genommen werden will, denn der UXler als Designer und Sketch-Bediener wird nicht reichen. 
  2. Die Themen Digitalisierung und KI geben UX die Chance, eine ganzheitliche, sehr persönliche Erfahrung zu formen, die weit über die typischen, auf visuelle User Interfaces beschränkten Ansätze hinausgeht. 
  3. Das Thema UX nimmt damit eine zentrale Stellung bei der Lösung komplexer Projekte ein und ist ein strategischer Faktor in der intelligenten Digitalisierung. 
  4. Die Herangehensweise ist dabei Menschen- statt Technikorientiert. Für eine ganzheitliche Gestaltung von Beziehungen zwischen Menschen und Maschinen sind Aspekte wie Empathie, Persönlichkeit und Verständnis für die Bedürfnisse der Nutzer wichtiger denn je. Eine KI muss den Nutzer als Teil eines neu entstehenden Systems aus Menschen und KI in seiner Gesamtheit „verstehen”, um ein gutes Erlebnis zu erlauben.
Die Verantwortung für die Gestaltung kann dabei nicht sich selbst überlassen werden. Deshalb müssen dabei neben konzeptionellen auch ethische Grundsätze berücksichtigt werden. Dazu müssen neue Gestaltungsprinzipien entstehen, für die wir die folgenden Prinzipien als Denkanstöße formulieren: 

Die ETHIKA-Prinzipien 

Emotion (Beziehungen) 

Ein KI-basiertes System muss die Emotionen des Nutzers berücksichtigen und dabei insbesondere Rücksicht darauf nehmen, dass Menschen unweigerlich eine Beziehung zu einer KI aufbauen werden. Dies soll ihm nicht schaden sondern ihn auch emotional positiv berühren.

Transparenz 

Der Nutzer muss immer wissen, ob ihm eine echte oder künstliche Intelligenz gegenübersteht. Wir halten es für falsch, wenn sprachbasierte intelligente Systeme sich nicht als solche zu erkennen geben und den menschlichen Nutzer im Glauben lassen, mit einem menschlichen Gegenüber zu sprechen. Nur mit dieser Transparenz lässt sich das nötige Vertrauen schaffen.

Humanität 

Beim Zusammenspiel von KI mit menschlicher Intelligenz ist zu berücksichtigen, dass wir analog zu den bekannten ergonomischen Regeln die unsere Wahrnehmung und unsere Informationsverarbeitung berücksichtigen, nun auch mehr die kognitiven [und emotionalen] Grenzen und Besonderheiten des Menschen berücksichtigen müssen. Eine KI die uns zu viel, zur falschen Zeit oder aber die falschen Dinge abnimmt, kann unsere eigene Intelligenz einschränken oder dauerhaft unsere Gesundheit gefährden.

Intelligenzsparsamkeit 

Analog zur Datensparsamkeit sollte beim Einsatz von KI-Komponenten auch immer zuerst überlegt werden, welche Mehrwerte sich für den Nutzer ergeben statt zu einem Selbstzweck zu werden. Gerade bei moralischen Entscheidungen sollten wir uns vorher schon überlegen, welche Entscheidungen wir einem System übergeben wollen.

Kontrolle und Steuerung 

Wenn KI eingesetzt wird, dann muss Sie durch die Nutzer immer beherrschbar sein. Wir halten es für wichtig, dass wir ggf. auf eigene Gefahr KI übersteuern können oder zumindest den Einsatz vermeiden können, wenn wir uns der Konsequenzen bewusst sind. Es mag später Szenarien geben, in denen ein menschlicher Eingriff zu Lasten einer KI nicht mehr erlaubt ist, doch dann sollten wir dies vorher schon wissen, berücksichtigen und den Nutzer darauf aufmerksam machen können. 

Aufmerksamkeit und Einbindung des Nutzers 

Für UX-Experten wird es gerade bei Systemen mit KI-Anteilen eine wesentliche Aufgabe sein, die Aufmerksamkeit der Nutzer durch ihre Einbindung zu planen und entsprechend seines zu erwartenden Handlungsanteils aufrecht zu erhalten.. Der Bereich der sogenannten “Vigilanz” ist seit Jahrzehnten Forschungsgegenstand und muss hier besonders berücksichtigt werden.
 Allgemein gilt: Je stärker das typische Interface in den Hintergrund tritt, desto wichtiger und verantwortungsvoller wird die Gestaltung des Gesamtsystems.

Die Autoren und Teilnehmer des FUX 18

  • David Jacken Fiducia & GAD IT AG
  • Frank Termer BITKOM
  • Jens Heuer IBM iX
  • Kai Strieder damdr
  • Kathrin Scherlebeck untrouble GmbH
  • Lukas Rein RHaug GmbH 
  • Maren Mäuselein Bundesdruckerei GmbH
  • Nadine van den Berg Fiducia & GAD IT AG
  • Patrick Huber Coaching
  • Philipp Grewer innogy.C3
  • Ronald Hartwig RHaug GmbH 
  • Thomas Biedermann
  • Thomas Freudenreich Palma-Web
  • Tim Nixdorff Bejond
  • Yin Chen DB Netz

Und 2019?

Auch 2019 gibt es wieder ein FUX. Bei Interesse nehmen Sie Kontakt mit uns auf und wir schauen, was wir da gemeinsam erreichen können. 




Kommentare

Beliebte Posts aus diesem Blog

Rückblick zum Kongress Mensch und Technik in Dortmund 2017

RuhrWUD 2016 - Rückblick zum World Usability Day 2016 in Dortmund

Einladung zum BITKOM-Workshop "Enterprise UX" am 20.6.18 in Frankfurt