Was ist eigentlich Künstliche Intelligenz – und was haben Designer mit ihr zu tun?

Dass künstliche Intelligenz weder allwis­sendes Superhirn noch menschenverach­tender Roboter ist, hat sich inzwischen herumgesprochen – auch bei Science-Fiction-Fans. Wie allgegenwärtig KI bereits heute ist, allerdings nicht. Ob Bilderkennung in Foto-Apps, Chatbots, Voice-Assis­tants wie Siri, Alexa und Cortana, Empfeh­lungssysteme von Netflix und Spotify oder neueste Smartphones: Schon heute leben wir mit vielen Services, die auf KI beruhen. Googles Android 9 Pie lernt die Ver­hal­tens­wei­sen seines Users und reagiert darauf, et­wa indem es bestimmte Apps vorab lädt. Und der digitale Assistent Google Duplex könnte bald unsere Restaurant- und Friseurtermine buchen, wie der Konzern auf seiner Entwicklerkonferenz I/O im Mai 2018 eindrucksvoll bewies. Auch autonome Au­tos sind von einer kaum vorstellbaren zu einer handfesten Vision geworden.

Verwirrenderweise tragen viele Anwen­­dungen derzeit das Label KI, obwohl es sich um »normale« Automatisierung handelt –etwa simple Wenn-A-dann-B-Chatbots. Und es entstehen relativ nutzlose Produk­te – etwa im Bereich Internet of Things – oder auch ethisch und moralisch zweifelhafte, wie autonome Waffen oder simu­lier­te Freunde. Zeit also, zu fragen: Was wollen wir? Wie kann künstliche Intelligenz unser Leben verbessern? Und was sollten wir un­bedingt verhindern? Während Ent­wick­ler gerne dem Charme des Machbaren erliegen, haben Designer von Berufs wegen die (bewussten wie unbe­wuss­ten) Bedürfnis­se der Menschen im Blick. Daher kön­nen und müssen sie die Zukunft von KI mit­gestal­ten. Ihr Tätigkeitsfeld wird sich dadurch verändern, und neue Aufgaben und Chancen entstehen. Um die Entwicklung aktiv be­einflussen zu können, müssen sie über Grund­wissen darin verfügen, wie die Tech­nik hinter KI funktioniert – und wissen, welche Probleme man damit lösen kann.

Die Basics

Unter »künstlicher Intelligenz« wird heute hauptsächlich das maschinelle Lernen ver­­standen. Hierbei handelt es sich um Programme, bei denen Entwickler nicht mehr explizit definieren, auf welche Aktionen wel­che Reaktionen folgen. Das Programm lernt vielmehr, welche Ergebnisse von ihm erwartet werden. Dafür trainiert man es mit Daten. Beliebtes Beispiel: Füttert man ein KI-Sys­tem mit genug Katzenbildern, er­kennt es Katzen auch auf Bildern, die es vor­her nicht kannte. Das klingt simpel, ist aber eine ziemliche Leistung. Noch span­nen­der wird es, wenn das Sys­tem eine Men­ge an Bil­dern, Texten oder Audiodateien erhält, ohne dass ihm gesagt wird, was es damit tun soll. Bei diesem sogenannten Unsu­per­vised Learning erkennt der KI-Al­go­rith­­mus eigenständig Muster in den Da­ten – auch sol­che, die menschliche Be­trach­ter noch nicht gesehen haben oder nie se­hen könn­ten, schlicht weil die Datenmenge zu groß ist. Möglich machen dies künst­li­che neuronale Netze, die Daten Schicht für Schicht analysieren. Sind diese besonders kompli­ziert und umfangreich, spricht man von Deep Learning, einer Unterart des Ma­­chine Lear­ning. Ihr ist eigen, dass niemand mit Sicherheit sa­gen kann, was genau im System passiert und wie der Algorithmus zu seinen Ergebnissen kommt – das sogenannte Black-Box-Problem.

Schon heute leben wir mit vielen Services, die auf KI beruhen. Zeit also, zu fragen: Was wollen wir?

Die Mechanismen oder die Algorithmen hin­ter KI waren schon in den 1950er Jahren bekannt – doch die Voraussetzun­gen für ih­­ren Einsatz haben sich erst durch extrem performante Rechner und Big Data ergeben. Sie er­möglichen die drei großen Anwendungsfelder von KI heute: Bilder­ken­nung, Sprach­­erkennung und Sprach­ver­arbeitung, die Designern viele span­nen­de Möglichkei­ten eröffnen, wie die Per­so­na­lisierung von Services und Produk­ten, das Erkennen von Regelhaftigkeiten und Anomalien in Daten, neue Interak­tions­for­men sowie Empfehlungs- und Automa­­tisierungs­mechaniken.

Zum Download des PAGE Connect eDossiers »Künstliche Intelligenz und die Zukunft von Design bei INDEED« geht’s hier:

Wenig überraschend ist, dass die gro­ßen Tech-Unternehmen den Markt bereits besetzt haben. Googles KI-Forschungsab­tei­lung Brain existiert seit 2011, seit 2016 gilt im Konzern der Leitspruch »AI First«. Mi­cro­­soft, Facebook, Apple und Amazon zogen mit ihren Labs nach, und IBMs KI-Sys­tem Watson erleichtert schon seit Jahren viele Business- und Forschungspro­zes­se – derzeit unterstützt es den Astronau­ten Alexander Gerst mit dem kleinen runden Assistentenroboter CIMON auf der ISS. Dank On-Device-KI, die in der Cloud trainiert und auf unseren Smartphones wei­ter­lernt, tragen wir KI früher oder später alle mit uns herum. Abseits von Alltagsan­wen­dun­gen im Kleinen hat die Techno­lo­gie auch Auswirkungen auf größere gesell­schaft­li­che Kontexte – vor allem, wenn sie im Gesundheits-, Finanz-, Transport- und Perso­nalwesen sowie bei der Polizeiarbeit und Rechtsprechung eingesetzt wird, erge­ben sich ethische und moralische Fragen.

Die Probleme

Ein akutes KI-Problem ist die Ver­zerrung statisti­scher Schät­zun­gen. Statis­ti­ker nen­nen dieses Phänomen Bias. Beispiel: Eine Bilderkennungssoftware er­kennt dun­kel­häutige Gesichter nicht, weil sie mit Fo­tos von Hellhäutigen trainiert hat. Der Grund für die Verzerrung liegt hier in der Auswahl der Trainings­daten, denn eine KI ist nur so gut wie die Daten, aus denen sie lernt.

»Algorithmen sind in Code eingebet­­te­­te Meinungen, sie sind nicht objektiv«, erklärt die Mathematikerin Cathy O’Neil in ihrem vielbeachteten Buch »Weapons of Math Destruction«. Besonders gefährlich wird Bias bei Anwendungen wie COMPAS, einer umstrittenen Software, die US-amerikanische Ge­rich­te dabei unterstützt, die Rückfall­wahr­scheinlichkeit von Krimi­nel­len zu schätzen. Schwarze Straftäter beurteilt sie härter als weiße – unabhängig vom Vorstra­fenregister. Ein weiteres Beispiel ist Re­cruiting-Software, die weibliche Kan­di­da­ten nicht für Führungspositionen in Erwägung zieht, weil schlicht entsprechen­de Vorbil­der in den Daten fehlen. Schlimms­ten­falls bildet KI nicht nur unsere bewuss­ten und unbewussten Vorurteile ab, sondern verstärkt und zementiert sie noch.

Designer verfügen über das nötige Instrumentarium, um KI menschlich zu gestalten – von User Research über Prototyping bis hin zu Usability Tests.

Ein weiteres Problem sind Fakes. Mit Adobes KI-Software Sensei erreicht nicht nur die Manipu­lation von Bildern und Videos ein neues Level, sondern auch die Be­arbeitung von Audiodateien. So kann man heute je­den etwas sagen lassen, das er so nie gesagt hat, was der Konzern 2016 auf der Adobe Max Conference zeigte. Anfang 2018 sorgte das Programm Deep­fakes – veröffentlicht auf Reddit – für viel Aufmerksamkeit (und Sorgen): Mit ihm lassen sich Gesichter erstaunlich nahtlos in beste­hen­­des Bewegt­bild einfügen. Einige nutzten das Open-Source-Tool zunächst, um Gesichter berühmter Schauspielerinnen in Pornos ein­zubinden – aber natürlich sind noch schlimmere Anwendungen mög­lich. Egal ob Foto, Video oder Audio: Es wird im­mer schwerer werden, manipulierten Con­tent von echtem zu unterscheiden – und ­je besser die Aufdeckung von Fakes wird, desto besser werden die Fakes.

Die genannten Beispiele deuten auf ein weiteres Problem: zu starkes Vertrauen in KI. Nur weil die Ergebnisse auf einem gro­ßen Datensatz beruhen, heißt das nicht, dass sie fehlerfrei sind. Vielmehr ist es ein Fehler, Algorithmen blind zu vertrauen – besonders, wenn man weder deren Aufbau noch die Daten kennt, mit denen sie trainiert wurden. Skepsis gegenüber KI ist also angebracht – Angst dagegen nicht.

Die Regeln

Es gibt viele weitere Themen, die im Zusammenhang mit KI kritisch diskutiert werden, etwa die Entwicklung des Ar­beits­­markts, die Gefahren staatlicher Überwachung, das Monopol der Tech-Big-Player oder der Ein­satz von KI beim Militär. Als Reaktion darauf haben einige Unternehmen und Institutionen Prinzipien oder Re­geln aufgestellt, sei es, um ihr eigenes Han­deln anzuleiten oder um eine Gesprächsgrundlage für öffentliche Diskussionen zu schaffen. Die Regeln von Microsoft und Google sind beinahe deckungsgleich und entwerfen das Leitbild einer transparen­ten und verantwortungsvollen KI, die Privatsphäre und Men­­schenwürde achtet und für das Allgemeinwohl eingesetzt wird. So weit, so unverbindlich.

Zum Download des PAGE Connect eDossiers »Künstliche Intelligenz und die Zukunft von Design bei INDEED« geht’s hier:

2017 veröffentlichte das Future of Life Institute, ein Zusammenschluss internationaler KI-Forscher, 23 Prinzipien, die un­ter anderem zum Ziel haben, ein Wettrüs­ten bei autonomen Waffen zu verhindern, Wohlstand gerechter zu verteilen und die Sicherheit von KI-Systemen vor Manipulation und Missbrauch zu gewährleisten. Das Problem dieser wohlgemeinten und durchaus berechtigten Regeln und Prinzi­pien liegt darin, dass keine Instanz ihre Einhaltung kontrolliert und keine Exekutive etwaige Verstöße ahndet.

Von Staatsseite tut sich in Deutschland noch relativ wenig. Die Bundesregierung will bis Ende November 2018 eine KI-Strategie erarbeiten und stellte im Juli ers­te Eck­­punk­te vor. Darin geht es unter anderem um die Förderung von Wirt­schaft und For­schung, um die Öffnung von Datenbestän­den, um Rechts­sicher­heit und die Einhaltung deut­scher und europäischer Werte wie Persön­lichkeitsrechte, Menschen­wür­­­de und Schutz der Privatsphäre. Deutschland und Europa müssen in Sachen KI mit star­ker Kon­kur­renz rechnen: Offiziell erklärtes Ziel Chinas ist es, bis 2030 KI-Welt­marktführer zu sein, und auch die USA investieren ordentlich. Sowohl die Bundes­re­gierung als auch das Eu­ropäi­sche Parlament sehen sich vor der ­He­r­aus­for­derung, eine Balance zwischen Stand­ortförderung und ethisch korrek­tem Vorgehen zu finden.

Die Designer

Wie schon erwähnt, liegt eine der wichtigs­ten Stärken von Designern darin, den Men­schen und seine Bedürfnisse ins Zentrum zu stel­len. Sie können menschliches Ver­hal­­ten beschreiben, einordnen, antizipieren und bestenfalls positiv beeinflussen. Das hilft ihnen, Szenarien und Visio­nen zu kreieren und auch langfris­tige gesell­schaft­­liche Auswirkungen vorauszuah­nen. Sie besitzen das Ins­trumen­tarium, um KI menschlich zu machen, von User Research über Prototyping bis zu Usability Tests.

Mit Speculative Design können Desig­ner ausloten, welche Anwendungen denkbar und sinnvoll sind und wie Menschen auf sie reagieren. Unter dem Titel »Hyper Human« stellte die Designagentur Ideo sieben Prototypen vor, die zeigen, wie KI mensch­li­che Fähigkei­ten er­wei­tern könn­te. Darunter der »Purpose Compass«, der Usern verdeutlicht, welche Aspekte ihres Jobs bald von KI erledigt werden und wie sie sich fortbilden sollten, um nicht arbeitslos zu werden. Leichther­ziger geht Google mit seinen »AI Ex­pe­ri­ments« an das Thema he­ran. Ziel von Games wie »Quick, draw!« – einem KI-Sys­tem, das errät, was der Nutzer zeichnen möch­te – ist, die Technik zu de­mystifizie­ren und Berührungsängste zu lindern. Aber auch so finstere Experimen­te wie der KI-Psychopath »Norman« des MIT Media Lab hel­fen, die Technik hinter KI besser zu verstehen und Fehlentwick­lun­gen vorauszuahnen. Norman beschreibt Rorschachbil­der auf – nun ja – eher morbide Weise: Wo Menschen einen Regenbo­gen sehen, er­­kennt er die Überreste ei­nes über­fah­re­nen Mannes. »Schuld« sind die Daten, mit denen Norman trainiert wurde: Texte ei­nes grenzwertigen Reddit-Threads, der der Beschreibung der »verstörenden Realität des Todes« gewidmet ist.

Das Thema KI ist zu umfangreich und komplex, als dass eine Disziplin ihr allein gerecht werden könnte. Hier ist die Schnittstellen- und Vermittlungs-kompetenz von Designern gefragt.

Jenseits experimenteller Anwendun­gen arbeiten Designer längst an konkreten Pro­dukten und Services mit. UX Designer loten aus, wie KI uns begegnen muss, damit wir sie akzeptieren, und gestalten die Persönlichkeit von Chatbots und Voice Assis­tants mit. Kommunikationsdesigner entwickeln mit Developern KI-Tools, die ihre Arbeit erleichtern, indem sie händische Aufgaben automatisieren oder eine Fül­le an generativen Entwürfen erstellen, auf denen Gestalter weiterarbeiten können.

Eine Bedingung für erfolgreiche KI-Projekte ist, dass Designer auf Augenhöhe mit Ingenieuren und Entwicklern arbei­ten. Das Thema KI ist zu groß und kom­plex, als dass eine Disziplin ihr allein gerecht würde. Hier ist die Schnittstellen- und Ver­mitt­lungs­kompetenz von Designern ge­fragt, etwa wenn KI-Wissen in die Öffentlichkeit getragen werden soll. Denn nur wer weiß, worum es geht, kann aktiv mitdiskutieren.

Für all diese Aufgaben müssen Desig­ner keine Coder sein. Wie im Web­design wird es immer mehr Standards und Services ge­ben, mit denen auch Laien Machine-Learning-Algorithmen einsetzen können. Mit Googles Tensor­Flow existiert bereits ein Framework, und auch auf GitHub sind ent­sprechende Codes zu finden. Baukasten­sys­te­me wie IBM Watson und Cloud-Services wie Google Auto­ML stellen vor­pro­grammier­te neuronale Net­ze bereit. Auch Drag-and-Drop-Sys­teme, die das Trainieren von KI-Systemen enorm erleichtern, werden bereits entwickelt. Kurz: Der Einsatz von maschinel­lem Lernen wird einfa­cher und die Tech­nik allgegenwärtiger.

Die Zukunft

Die Relevanz von KI ist in den meisten deutschen Designhochschulen sowie im Berufsalltag von Kreativen noch nicht angekommen. Vereinzelt gibt es Einrichtun­gen wie den Creative Space for Technical Inno­vations (CSTI) der Hochschule für Angewandte Wissenschaften Hamburg, eine in­­terdisziplinäre Plattform für ange­wand­­te Forschung und Wissenstransfer im Bereich Mensch-Maschine-Interaktion und Smart Systems. Hier arbeiten Professoren und Studierende aus Informatik, Design und Soziologie gemeinsam an Projekten. Auf europäischer Ebene starteten jüngst die Bündnisse ELLIS (European Lab for Learning & Intelligent Systems) und CLAIRE (Confederation of Laboratories for AI Research in Europe), die den Austausch und die Kooperation zwischen Forschungs­ein­richtungen fördern. Ihre Programme sehen auch interdisziplinäre Fortbil­dungen und öffentliche Info­veran­stal­tungen vor. Wer will, kann sich schon heute mit vielen Inhalten im Web weiterbilden. Wir haben dafür eine Linkliste mit Artikeln, Tutorials, Videos und Podcasts erstellt.

Um die Zukunft von und mit KI aktiv mitzugestalten, müssen wir die Technik dahinter verstehen und offensiv mit ihr umgehen – sie zu unterschätzen oder zu verteufeln wäre fatal. Vor allem Designer sind gefragt, eine lebenswerte Welt zu entwerfen, in der KI den Menschen unterstützt und ihr Potenzial »for good« entfaltet. Packen wir’s an!

Und wenn Sie noch mehr über KI wissen wollen, melden Sie sich zu unserem Webinar »Die Zukunft von Design im Zeitalter von künstlicher Intelligenz« an!