Digitale Produkte, die mithilfe von künstlicher Intelligenz funktionieren, stellen neue Anforderungen an UX und UI – und vor allem an das strategische Design. Wir stellen Prozesse und Methoden vor
Das finnische Design- und Technologie-Beratungsunternehmen Futurice hat ein »Intelligence Augmentation Toolkit« herausgegeben, mit dem sich die komplexe Welt der künstlichen Intelligenz leichter navigieren lässt. Dazu gehören diese Karten
Den meisten von uns ist mittlerweile bewusst, dass künstliche Intelligenz uns überall im Alltag begleitet – von der Suchmaschine über den Routenplaner bis hin zu Streamingangeboten. Die smarten Helferlein errechnen statistische Wahrscheinlichkeiten, treffen Vorhersagen, geben Empfehlungen und unterstützen bei Entscheidungen. Im Gegensatz zu regulären digitalen Produkten sind sie beim Release nicht »fertig«, denn sie entwickeln sich mittels Machine Learning weiter, lernen vom Verhalten der Nutzerinnen und Nutzer und werden teilweise auch explizit neu trainiert und weiterentwickelt.
Die smarten Apps stellen einen Paradigmenwechsel im menschlichen Verhältnis zu Technologie dar: Die Anwendungen sind nicht mehr nur ausführende Services, sondern selbst Akteure mit einem gewissen Maß an Autonomie. Sie gehorchen nicht nur, sie »denken« mit. Umso enttäuschter sind wir, wenn etwas dann doch nicht klappt. Hinzu kommt das Problem, dass sich bei komplexen neuronalen Netzen nicht mehr nachvollziehen lässt, auf welchem Weg sie zu einem bestimmten Ergebnis gelangt sind. Es gibt also wesentlich mehr Unsicherheiten, die Flexibilität in der Gestaltung sowie ein Monitoring nach dem Release erfordern.
Herausforderungen bei KI-Tools: Vertrauen, Kontrolle, Ethik
KI hat immenses Wachstumspotenzial in verschiedenen Branchen, sei es Marketing, Industrie oder Medizin. Laut dem Global AI Adaption Index 2022 von IBM nutzen bereits 35 Prozent aller Unternehmen künstliche Intelligenz, 44 Prozent arbeiten daran, sie in bestehende Produkte zu integrieren, und 42 Prozent sondieren die Nutzung. Gerade wenn es bei der Anwendung nicht um Musik- oder Filmempfehlungen geht, sondern um Recruiting, Fertigungsabläufe oder Medikamentenauswahl, ist besondere Vorsicht geboten. Kein Wunder also, dass die Unternehmensberatung McKinsey in ihrer Studie »State of AI in 2021« zu dem Schluss kommt, dass Design Thinking bei der Entwicklung von KI-Tools eines der wichtigsten Unterscheidungsmerkmale für High Performer im KI-Bereich sein wird.
Für Designer:innen stellen intelligente Systeme ein neues Gestaltungsmaterial dar, das sie in ihre Arbeit einbinden können (oder auch nicht). Dabei ergeben sich neue Herausforderungen. Da die weitere Entwicklung der Produkte ein Stück weit unvorhersehbar ist, müssen Designer:innen flexibler denken, die Komplexität der Systeme berücksichtigen und unbeabsichtigte Konsequenzen in Betracht ziehen. Dazu kommt, dass viele Menschen noch vom Nutzen und der Vertrauenswürdigkeit künstlicher Intelligenz überzeugt werden müssen.
Nadia Piet, Head of Creative Technology bei Dept in Amsterdam und Gründerin der Initiative AIxDesign, hat sich eingehend mit dem Design von KI-Anwendungen beschäftigt und listet verschiedene Bereiche auf, die man dabei beachten sollte. Wesentliche Punkte sind Vertrauen und Transparenz: Wie hilft man Nutzer:innen dabei, die Ergebnisse zu verstehen? Wie setzt man realistische Erwartungen? Wie reagiert man richtig auf Fehler und übernimmt Verantwortung dafür? Ein weiterer Bereich betrifft Nutzerautonomie und Kontrolle: Können User:innen Feedback geben? Können sie ihre Experience selbst anpassen? Und wie steht es mit Privacy und Datensicherheit? Piets dritter Punkt ist das Value Alignment, also der Abgleich von Werten: Wie übersetzt man Nutzungsbedürfnisse in Parameter? Wie lässt sich Bias vermeiden und Inklusivität sicherstellen? Werden unbeabsichtigte Konsequenzen bedacht?
KI: Mentale Modelle und Erwartungsmanagement
User Research spielt bei solchen Projekten eine noch wichtigere Rolle als ohnehin schon. Denn sie muss sich auch mit den mentalen Modellen der Menschen beschäftigen. Dass Computerprogramme dazulernen können, ist für viele noch ungewohnt und schwer zu verstehen. Zugleich haben sie hohe Erwartungen an die Leistungsfähigkeit von Algorithmen. Es gilt also herauszufinden, welche Erwartungen das genau sind, ob die Technologie sie erfüllen kann und wie man vermittelt, wenn sie es nicht kann.
