Welche Rolle spielen Designer bei der Entwicklung künstlicher Intelligenz?

Designern kommt bei der Gestaltung künstlicher Intelligenz eine größere Rolle zu als bloßes Interface Design. Mit ihrem geschulten Blick für die Bedürfnisse des Users und ihrem Methodenwissen in Human-Centered Design und Design Thinking können sie für eine menschen­freund­liche Entwicklung von KI sorgen. Wir spra­chen mit Karel Golta, Geschäftsführer und Inhaber von Indeed, über die Chancen und die Verantwortung, die sich daraus für De­­signer ergeben.

Wie definieren Sie künstliche Intelligenz?
Karel Golta: Bei dem Begriff wird gerade viel miteinander vermischt. Virtual- und Augmented Rea­lity, Drohnen, Roboter, au­tonom fahrende Autos, KI – alles landet in einem Topf. Daraus entsteht eine Bouil­la­baisse der technischen Begriffe des 21. Jahr­hunderts. Das ist schade, weil es sowohl das Potenzial als auch die Risiken von KI verschleiert. Wenn ich von KI spreche, mei­ne ich vor allem Deep Learning – also künstliche neuronale Netzwerke, die lernen und sich selbstständig weiterentwickeln können. Diese grenzen sich klar von »normalen« Algorithmen ab, die auf be­stimmte Faktoren mit vorprogrammier­ten Schritten reagieren. KI in diesem Sinne ist nicht statisch, sondern verändert sich und wird smarter. Das ist die Ursache für viele Ängste – und eine große Chance zugleich.

Was bedeutet das für Designer? Wie können sie die Entwicklung von KI beeinflussen?
Golta: Designer gestalten heutzutage nicht mehr nur Produkte und Oberflächen, sondern eben zunehmend Prozesse. Sie arbei­ten an wichtigen Themen wie Armutsbekämpfung oder Gemeindeplanung mit und tragen wesentlich zu Lösungen bei. Auch bei der Gestaltung von und mit KI können und müssen sie eine tragende Rolle einnehmen. Damit geht dann allerdings eine besondere Verantwortung einher, denn die Technologie ist so neu und umfassend, dass wir kaum absehen können, welchen Impact sie auf unser Leben haben wird.

»Wir beeinflussen schon jetzt das Verhalten zukünf­ti­­ger Generationen«

Das war bisher anders?
Golta: Wenn man heute eine Website, einen Flyer oder einen Wasserkocher gestaltet, weiß man ziemlich genau, welche Aus­wirkungen damit verbunden sind. Die ein­­zelnen Bestandteile wie Farben, Papier und Rohstoffe sind gut kontrollierbar. Diese Ge­wissheit war bisher Teil unserer DNA: Wir konnten den Impact unserer Arbeit kurz-, mittel- und langfristig relativ gut einschät­zen. Beim Thema KI können wir hingegen maximal kurzfristig sehen, was wir er­reichen. Was es langfristig mit uns macht, wis­sen wir nicht. Wie beeinflusst es etwa die Ent­wicklung unserer Kin­der, wenn sie mit Sprach­­as­sistenten wie Alexa aufwachsen? Bei Voice Interfaces und in vielen anderen Berei­chen fliegen wir quasi blind. Hier müsste viel mehr geforscht wer­den. Stattdessen wird oft erstmal gemacht.

Das ist das Mindset der Tech-Firmen: Move fast and break things.
Golta: Gerade bei KI ist das ein gefährli­ches Spiel. Noch steht die Technologie in den Anfängen und katastrophale Auswirkungen wie autonome Killer-Roboter sind Science-Fiction. Dennoch beeinflussen wir schon jetzt das Verhalten zukünftiger Generationen. Dessen müssen sich alle Disziplinen, die an der Entwicklung von KI be­teiligt sind, bewusst sein.

Zum Download des PAGE Connect eDossiers »Künstliche Intelligenz und die Zukunft von Design bei INDEED« geht’s hier:

Können Methoden wie Speculative Design dabei helfen, solche Effekte mithilfe von explorativen Projekten und Prototypen zu erforschen?
Golta: Nur bis zu einem gewissen Grad, denn Prototypen können keine Langzeitstudien ersetzen. Sie fördern vielmehr die Denke: Wenn der erste Prototyp funktioniert, bauen wir darauf auf. Vom Minimum Viable Product geht es dann Schritt für Schritt zum fertigen Produkt – ohne dass jemand über die Konsequenzen nach­denkt. Wirklich experimentelle Designfor­schung mit KI, die weiter in die Zukunft blickt, gibt es bisher leider kaum.

Welche Rolle sollten Designer im Entwicklungsprozess einnehmen?
Golta: Je früher Designer in ein Projekt ein­bezogen werden, desto mehr Einfluss haben sie auf das Ergebnis. Schon heute be­gleiten sie in Unternehmen viele Prozes­se von Anfang bis Ende – in anderen Ländern noch mehr als in Deutschland. Dazu hat die Popularität von Design Thinking und User-Centered Design wesentlich beigetragen. Die Frage ist aber: Welcher Verant­wor­tung sind sie sich bewusst und welche Führungsrolle sind sie bereit zu übernehmen? Hier hinken Designer in Deutsch­land hinterher, weil sie lange nicht mit am Tisch sitzen durften. Sie müssen noch lernen, Führungsrollen zu übernehmen.

Hier geht’s zur PAGE-Webinar-Aufzeichnung: »Die Zukunft von Design im Zeitalter von Künstlicher Intelligenz«:

Die Weiterentwicklung von KI führt dazu, dass wir uns mehr damit beschäftigen müssen, was uns als Menschen ausmacht. Gehört dazu Ihrer Meinung nach die Kreativität?
Golta: Das ist eine spannende Diskussion! Manche meinen Nein, weil Computer auch Bilder malen und Musik machen können. Aber das sind nur Zufallsgeneratoren, die verschiedene Sachen zusammenmischen. Mei­nes Erachtens braucht es ein eigenes Bewusstsein, um wirklich kreativ zu sein. Neues kann man nur dann erschaffen, wenn man Dinge infrage stellt – inklusive der eigenen Existenz.

Ich kann mir aber durchaus vorstellen, dass KI uns als Inspiration dienen und unsere Kreativität unterstützen kann. Das hat Technik im Grunde schon immer getan: Als Adobe in den 1980ern Filter bei Pho­toshop einführte, übernahmen schlech­te De­signer die Vorlagen eins zu eins – die gu­ten unter ihnen haben sie als Inspiration genutzt, die Vorlagen lediglich zum Teil übernommen und dann etwas ganz Neues daraus gemacht. So wird es auch mit KI-gestützten Designtools sein. Wahre Krea­ti­vi­tät beruht auf der Fähigkeit zur Selbstreflexion – und die wird meiner Meinung nach KI nie entwickeln.

Rein handwerkliche Designtätigkeiten werden dagegen zunehmend automatisiert. Bewegt sich das Berufsfeld des Designers insgesamt mehr in Richtung User Experience und Interaction Design?
Golta: Die Gestaltungsgrundlagen müssen Designer nach wie vor beherrschen. Wer be­urteilt denn sonst gutes Design, wenn wir es selbst nicht mehr entwickeln können? Auch ein Kurator muss sich mit den Grundlagen auskennen. Jedoch hat sich unser Tätigkeitsschwer­punkt ver­­scho­­ben: Gemeinsam mit an­de­ren Diszipli­nen gestalten wir heute Nut­­zungskon­zep­te. Wir kümmern uns vornehmlich um die Schnittstelle zwischen Mensch und Maschine und sorgen dafür, dass die Menschheit keinen Schaden nimmt. Je unabsehbarer die Folgen di­gi­ta­ler An­wen­­dun­gen und Ser­vices sind, des­to mehr Ver­­ant­wortung trägt der Desig­ner. Ein wich­ti­ges Thema in diesem Zusammenhang ist zum Beispiel Bias, also eine Verzerrung der Schätzfunktion in der Statistik. Mit welchen Daten eine KI trainiert wird, kann enor­me Auswirkun­gen da­rauf haben, wel­­che Ergeb­­nisse sie liefert. Desi­­gner könn­ten hier die Rolle eines Da­ten­­qualitäts­managers übernehmen.

Wie gut müssen Designer die Technik hinter KI verstehen, um damit arbeiten und die Auswirkungen abschätzen zu können?
Golta: Als Designer muss ich nicht alles können, wohl aber ein grundlegendes Ver­ständnis davon haben – so wie ein Autodesigner nicht wissen muss, wie ein Motor funktioniert, aber ein Verständnis von Dynamik haben muss. Nur so kann er ein sinnvolles und relevantes Produkt entwer­fen. Gleiches gilt für den Bereich Künstli­che Intelligenz: Ich muss kein neurona­les Netz programmieren können, aber ich soll­te wissen, wie es in etwa funktioniert und was es leisten kann.

Google, Microsoft, das Future of Life Institute: Viele Unternehmen und Forschungsinstitute stellen derzeit »AI Principles« auf. Braucht es solche Prinzipien auch für Designer?
Golta: Designer unterwerfen sich ungern Regeln, aber ja: Ich glaube, es braucht ein Framework. Die Prinzipien, die bisher von verschiedenen Seiten aufgestellt wurden, sind zum Teil zu oberflächlich und/oder zu technisch. Es ist wichtig, dass Designer hier mitreden können – und nicht nur Informatiker. Ich würde mir zum Beispiel wünschen, dass es auch verbindliche Regeln für Chiphersteller gibt. So wäre von vornherein die Manipulation der Hardware zu bösen Zwecken ausgeschlossen – also Se­curity by Design and by Default. Mit künstlicher Intelligenz ist es ähnlich wie mit Atomkraft: Ist sie einmal da, kannst du sie nicht einfach ausschalten. Genau deshalb braucht es einige möglichst simple ethische Regeln im Umgang mit KI.

»Wahre Kreativität beruht auf der Fähigkeit zur Selbstreflexion – und die wird KI meiner Meinung nach nie entwickeln«

Sie haben vier eigene Regeln formuliert. Wie lauten sie?
Golta: Erstens müssen wir immer die Aus­wirkungen im Blick behalten, die eine KI-Anwendung auf menschliche Fähigkeiten haben kann – das heißt gute wie schlechte. Dazu braucht es eine Art Fehleranalyse wie bei den Ingenieuren, bei der alle Eventualitäten samt ihrer Eintrittswahrscheinlichkeit betrachtet werden. Ich sehe zum Beispiel den Trend zur Vereinfachung sehr kritisch. Wenn uns immer mehr abgenom­men wird, dann verkümmern zwangsläufig unsere Fähigkeiten in bestimmten Bereichen. Wir werden schleichend unserer Einschätzungsfähigkeit und des eigenen Selbstwertgefühls beraubt, wenn wir immer mehr Entscheidungen an Computer abgeben. Dabei macht es uns Menschen aus, dass wir Verantwortung tragen – im Guten wie im Schlechten.

Die zweite Regel knüpft daran an: Wir sollten KI dafür nutzen, menschliche Eigenschaften zu verbessern. Zum Beispiel Empathie: Künstliche Intelligenz kann uns dabei unterstützen, andere Blickwinkel ein­zunehmen, um etwa andere Kulturen besser zu verstehen. Oder man bringt einer KI bei, immer zwei Optionen anzuzeigen, sodass die mensch­liche Position im Entscheidungsprozess wieder gestärkt wird.

Zum Download des PAGE Connect eDossiers »Künstliche Intelligenz und die Zukunft von Design bei INDEED« geht’s hier:

Die dritte Regel: Wir sollten keine Verantwortung an eine unsichtbare Instanz ab­geben, also an künstliche neurona­le Net­ze. An einigen US-amerikanischen Gerich­ten werden bereits Entscheidun­gen über Bewährungsstrafen von KI getroffen. Mit solchen Systemen lagern wir Verantwortung aus – wie an eine Bad Bank. Dies beruht auf einem übersteigerten Vertrauen in KI, nach dem Motto: Die Entscheidung be­ruht auf Daten, muss also stimmen. Aber auch KI ist nicht unfehlbar. Sie spuckt le­dig­lich höchst­mögliche Wahr­schein­lich­kei­ten aus – keine absoluten Wahr­­heiten. Verstehen Sie mich bitte nicht falsch: Es ist richtig und wichtig, dass Richter und Ärz­te künstliche Intelligenz zu Hilfe neh­men – aber die letzte Entscheidung, und damit die Ver­antwortung, sollte beim Men­schen bleiben. Schon allein deshalb, weil niemand genau weiß, was beim Deep Lear­­­ning eigentlich genau passiert.

Und schließlich die vierte Regel: Wer KI-Systeme gestaltet, sollte dabei nicht nur das Wohl des Individuums im Blick haben, sondern das Wohl der ganzen Gesellschaft. Der Einfluss solcher Systeme reicht meist über die ursprüngliche Zielgruppe hinaus. Also sollten wir sie von vornherein so entwickeln, dass mehr Menschen davon einen Nutzen haben. Idealerweise machen wir es besser als bei der industriellen Revolution, bei der einige Wenige die Gewinne ein­­fuh­ren und dafür Hunderttausende aus­gebeu­tet wur­den. Deshalb ist es so wichtig, dass wir möglichst viele Leute parti­zi­pativ und kokreativ am Entwicklungspro­zess teilhaben lassen.

Natürlich wird es Gesetze brauchen, die wesentlich umfangreicher und komplexer sind. Aber diese Grundregeln sind ein guter Standard, unter dem viele Aspekte sub­sum­miert werden können.

4 goldene Regeln fürs KI-Design

1) Behalten Sie stets die Auswir­kun­gen im Blick, die eine KI-An­wendung auf menschliche Fähigkeiten haben kann – sowohl die guten als auch die schlechten.

2) Nutzen Sie KI, um menschliche Eigenschaften zu verbessern.

3) Geben Sie keine Verantwortung an unsichtbare Instanzen ab.

4) Gestalten Sie KI-Systeme stets so, dass sie nicht nur dem einzelnen Indivi­duum, sondern der ganzen Gesellschaft zugute kommen.

Alle weitere PAGE-Connect-Artikel zum Thema KI Design finden Sie hier.

Zum Download des PAGE Connect eDossiers »Künstliche Intelligenz und die Zukunft von Design bei INDEED« geht’s hier.

KIDesignCCCIndeed18 [6268]