Sandra Süsser ist Digital Artist und Coach. Wir sprachen mit ihr über die Risiken von KI-Generatoren für Designer:innen und Künstler:innen – und darüber, was die Kreativbranche jetzt tun sollte.
Sandra Süsser bezeichnet sich selbst als »The Coaching Artist«. Sie arbeitet als Digital Artist in den Bereichen Game Art, Concept Art, Grafikdesign und Illustration – und unterstützt als Coach, Dozentin, Autorin und Gründerin der S-Art School andere Kreative dabei, ihr Potenzial zu entfalten.
Außerdem hat sie sich in das Thema KI und Kunst reingefuchst. In unserem Interview klärt sie über die Gefahren auf und gibt Tipps, wie man als Kreative:r damit umgehen sollte. Sie beurteilt die Entwicklung sehr kritisch. Ihr seht das anderes? Dann beteiligt euch gerne an der Diskussion und schreibt eure Einschätzung in die Kommentare!
Wieso sind KI-Generatoren und Modelle gefährlich für Designer:innen und Künstler:innen?
Sandra Süsser: KIs stellen aktuell vor allem wegen folgender fünf Punkte eine Gefahr für Designer:innen und Künstler:innen dar:
- KI-Generatoren ersetzen zum Teil die Arbeit von Designer:innen und Künstler:innen.Der wahrscheinlich offensichtlichste Punkt: Mit KI kann nun jeder mit ein paar Worten Kunstwerke und Designs im Sekundentakt generieren – ohne gestalterische Fähigkeiten und mit nahezu nicht existentem Zeit- und Geldeinsatz. Natürlich ist das handwerkliche Können nicht der einzige Faktor, der uns Gestalter:innen auszeichnet und hier und da sind die KI-Ergebnisse (noch) nicht sehr gut. Aber für viele ist »ausreichend« gut genug, wenn sich dabei etliche Euro sparen lassen. Daher steigen bereits jetzt viele Firmen für ihre Visuals von der Freelancer-Akquise auf KI-Generatoren um oder drücken die Preise. Ein Schlag in die Magengrube und das Portemonnaie für viele Gestalter:innen, was sich sicher in Zukunft noch weiter verstärken wird.
- KI-Generatoren stehlen milliardenfach geschützte Bilder.Damit die KIs wie Stable Diffusion überhaupt ihre Bilder generieren können, wurden und werden sie auf Milliarden von aus dem Internet geladenen Bildern (bzw. ihren URLs und Alt Tags) trainiert – darunter größtenteils geschützte Bilder wie Fotografien, Kunstwerke und auch private medizinische Unterlagen. Die Privatpersonen und Künstler:innen haben davon überhaupt nicht gewusst, wurden weder um Erlaubnis bei der Verwendung ihrer Daten für das Erstellen kommerzieller Produkte gefragt, noch erhielten sie irgendeine Art von Vergütung für den beträchtlichen Milliarden-Gewinn, der auf Basis ihrer Daten bereits erzielt wurde.
Und die Verhöhnung geht weiter: Trotz des starken Protestes setzen Firmen nun, wenn überhaupt, eher auf Opt-Out statt Opt-In-Lösungen. Sprich: Wenn ein Künstler in Zukunft das Training von KIs mit den eigenen Daten nicht unterstützen will, soll er oder sie sich doch bitte manuell austragen. Eine Frechheit, die zudem oft überhaupt nicht leicht umzusetzen ist. Leider handelt es sich hier um eine rechtliche Grauzone bzw. existieren aktuell noch keine Gesetze, die die Situation rechtlich klar regeln, weshalb Tech-Firmen aktuell mehr oder weniger machen können, was sie wollen. Ethisch absolut verwerflich und legal eine massive Gefahr für den Schutz unserer Daten und des Urheberrechtes generell.
Ethisch absolut verwerflich und legal eine massive Gefahr für den Schutz unserer Daten und des Urheberrechtes generell.
- KI-Generatoren ermöglichen bzw. begünstigen Rufschädigung und Identitätsdiebstahl.
Mit nur ein wenig Einarbeitung kann nun jeder von jedem kompromittierende Deep Fakes (realistisch wirkende, aber gefälschte Bilder und Videos von realen Personen) erstellen. Natürlich stellt das eine immense Gefahr für alle Menschen dar, aber auch hier noch einmal doppelt für Gestalter:innen, da diese allein aufgrund ihres Stils wie keine sonstige Personengruppe ihre Identität in ihrer Arbeit verankern und aber oft genau eben jener Stil von den KIs gestohlen wird bzw. gestohlen werden kann. Denn auch hier hinken sowohl das Gesetz, als auch die Maßnahmen zum Schutz stark hinterher.
- KI-Generatoren werten Kunst generell massiv ab.
Das Konzept von Angebot und Nachfrage ist sicherlich allgemein bekannt. Daher stelle dir einfach einmal selbst die Frage: Wie »wertvoll« ist Kunst am Markt noch, wenn sie nun jeder im Sekundentakt und in Massenproduktion anfertigen kann? Dass die Vorteile des kreativen Schaffensprozesses natürlich nie von einer KI ersetzt werden können, steht auf einem anderen Blatt. Aber der Schaffensprozess wird von KIs aufgrund ihrer generativen Natur entwertet, ja sogar komplett abgeschafft. Kunst kann nun jeder schaffen (lassen). Das war zwar bereits vorher schon möglich, aber jetzt ist eben kein bedeutender persönlicher Einsatz mehr notwendig. Die Künstler:innen werden bei der Bedienung zu Klient:innen und alle vorteilhaften Werte wie »Disziplin«, »Achtsamkeit« und »Geduld«, die jede »echte« Künstler:in mit jahrelangen Training erwerben musste, werden nun mit Füßen getreten. Wir werden damit insgesamt mehr und mehr zu einer unachtsamen und tugendlosen Wegwerfgesellschaft.
- KI-Generatoren schaffen das Fundament für eine dystopische Zukunft.
Die Automatisierung von Kunst, Musik, Texten und Codes ist zwar tragisch, aber erst die Ruhe vor dem Sturm. Klar ist: KIs werden auf die ein oder andere Weise bleiben und eher früher als später alle Bereiche unseres Lebens beeinflussen. Daher ist es umso wichtiger, dass wir bereits jetzt ein legales und vor allem ethisch vertretbares Fundament für diese Art von Entwicklungen legen. Allerdings spielen die Tech-Firmen hinter den KIs, wie beschrieben, aktuell in einem künstlich erzeugten Rüstungswettrennen genau mit diesem Fundament – mit unseren Daten, Werten und eben unserer Zukunft – Russisch Roulette.
Wenn du Genaueres zu diesen Punkten samt Quellen wissen möchtest, lies dir gern meinen Blog-Beitrag »KI-Kunst leicht erklärt — Entwicklung, Probleme & Tipps« durch. In jedem Fall sollte dir nun klar sein, dass KIs eine Gefahr nicht nur – wenn auch vor allem – für Künstler:innen und Designer:innen, sondern für jeden Menschen darstellen.
Wie können Kreative herausfinden, ob ihre Werke für das Training von KI-Modellen verwendet wurden? Wie können sie sich dagegen wehren?
Es ist sehr schwer herauszufinden, ob oder welche eigenen Werke für das Training einer KI verwendet wurden. Einerseits wollen einige KI-Firmen wie Midjourney ihre genutzten Datensätze nicht preisgeben und andererseits gibt es für den meistgenutzten Datensatz (LAION-5B) kein offizielles visuelles Verzeichnis, sondern lediglich eine Sammlung von Milliarden von URLs und Alt-Tags.
Mit der Website »HaveIbeenTrained« wurde zwar nun versucht ein solches visuelles Verzeichnis zu kreieren, aber die Suche ist schwer. Reine Text-Suche zum Beispiel nach dem eigenen Künstlernamen oder Kunstwerktiteln bringt oft keine oder nur unvollständige Resultate, wenn man beides nicht in den Alt Tags bei den betroffenen URLs vermerkt hat. Ich konnte meine eigenen Kunstwerke zumindest nur durch Uploads von Vergleichsbildern (die Daten werden dabei nicht gespeichert) finden und bin mir sicher, bei weitem noch nicht alle meine Werke gefunden zu haben, was einen vollständigen Opt-Out aus den KI-Generatoren für mich unmöglich macht.
Abgesehen von der Website kannst du aber leider mit einer erhöhten Wahrscheinlichkeit davon ausgehen, dass deine Bilder gegen deinen Willen zum Training der KIs verwendet wurden, wenn sie sich auf Seiten wie DeviantART, Artstation, Pinterest oder privaten WordPress- und anderen Blogs befunden haben.
Anm. der Redaktion: Bitte beachtet auch den Kommentar von »Banani« unter diesem Interview. Dort gibt es einen Link zu einer weiteren Datenbank und weitere Tipps!
Welche Fälle von Datenmissbrauch sind bisher bekannt? Werden sie strafrechtlich verfolgt?
Wie beschrieben wurden die wichtigsten KI-Generatoren (allen voran Stable Diffusion mit all seinen Ablegern wie DreamStudio, Lensa A.I., etc.) auf Datensätzen mit zumindest zum Teil geschützten Daten trainiert. Und die Nutzer dieser KIs – Privatpersonen und Firmen aller Art – haben sich das bereits en masse zu Nutze gemacht. So wurden zum Beispiel bereits komplette Kinderbücher, Alben-Cover, Stockbilder-Packs, Apps, Spiele und vieles mehr mit KI generiert und mit Stolz verkauft.
Inwiefern hier ein rechtliches Vergehen vorliegt, ist noch nicht abschließend geklärt, da wie beschrieben aktuell noch keine eindeutigen Gesetze zum KI-Thema existieren bzw. Schlupflöcher mit Non-Profit-Organisationen genutzt wurden, um an die Daten zu gelangen. Es handelt sich also aktuell um eine rechtliche Grauzone.
Es handelt sich also aktuell um eine rechtliche Grauzone.
Disclaimer: Ich bin kein Anwalt und ich gebe daher weder Gewähr auf meine Aussagen, noch stellen diese eine Rechtsberatung dar.
Glücklicherweise wurden jedoch nun bereits die ersten Klagen von verschiedenen Firmen und Gruppierungen gegen die KI-Firmen eingereicht, sodass Gerichtsverfahren aktuell bereits stattfinden.
Zum Beispiel wurde ein Verfahren gegen Microsoft, Github und OpenAI eröffnet, ein Verfahren von Getty Images gegen Stability AI sowie ein Verfahren von mehreren Künstlern gegen Stability AI, DeviantArt und Midjourney.
Ob diese Verfahren schließlich Klarheit und Schutz bringen oder uns Künstler:innen am Ende eher ins eigene Bein schießen, bleibt abzuwarten. Aber die Hoffnung stirbt bekanntlich zuletzt. Ich möchte jedenfalls nicht in einer Zukunft leben, in der jede Tech-Firma mit meinen Daten machen kann, was sie will. Ich frage mich zudem: Hat niemand von denen Terminator, Matrix, I Robot und ähnliche Sci-Fi-Klassiker gesehen? Skynet scheint jedenfalls bald leider mehr Fakt als Fiktion zu sein.
Werden »AI Artists« zu Wettbewerbern von Künstler:innen? Welcher Schaden entsteht dadurch?
Generische Kunst oder Designs wie Logos, einfache Illustrationen und Co. werden bereits immer öfter mit KI-Generatoren erstellt. Aber auch Firmen, die stark auf ihr Budget achten müssen, greifen immer häufiger auf KIs als auf Freelance Artists zurück – zumindest ist das die Erfahrung aus meinem Bekanntenkreis, in dem es bereits erste Entlassungen aufgrund von KI gab, sowie den Entwicklungen, die ich online verfolge. KIs werden also nicht zu Wettbewerbern, sie sind es schon.
In vielen Fällen, zum Beispiel bei angewandten Designs und komplexen Kreativ-Produkten wie Büchern, kompletten Firmen-Designs etc. sind die KIs visuell jedoch noch nicht auf unserem Gestaltungs-Level angekommen, sodass es aktuell mindestens noch einen Vermittler zwischen KI und Endkunde geben muss. Aber da die Entwicklung noch in den Kinderschuhen steckt, sollte es klar sein, dass sich das sehr wahrscheinlich noch ändern wird und das nicht zu unserem Vorteil.
Ich sehe zwar keine absolute Dystopie, in der professionelle Künstler:innen komplett obsolet werden – da wir eben mehr sind als unser reines Handwerk –, aber KIs werden definitiv einen negativen Effekt auf den Markt und die Existenzen von allen Künstlern dieser Welt haben, da er sich bereits jetzt abzeichnet. Denn selbst wenn es nur bei der »Vermittlung« bleibt, benötigen wir weitaus weniger Vermittler:innen als Künstler:innen als bisher. In jedem Fall wird also eine massive Änderung des Arbeitsmarktes stattfinden – zuerst (absurderweise) für Künstler:innen und danach, oder bereits währenddessen, für alle anderen.
KIs werden definitiv einen negativen Effekt auf den Markt und die Existenzen von allen Künstlern dieser Welt haben
Und nicht nur das: Als Dozentin betreue ich zahlreiche junge Künstler:innen, denen durch all das massiv der Sinn und die Hoffnung auf eine kreative Zukunft schwindet. Es ist zwar schwer, aber dennoch versuche ich ihnen Mut zu machen. Denn Hoffnung besteht durchaus. In meiner zweiteiligen YouTube-Serie »Digital Artist werden & bleiben TROTZ KI-Kunst« gehe ich näher darauf ein, was Künstler:innen zum Schutz ihrer Zukunft tun können bzw. wie digitale Künstler:innen trotz KI eine kreative Karriere auf- oder ausbauen können.
Natürlich können das alles nur Kristallkugel-Aussagen sein, aber Fakt ist: KI ist da und entwickelt sich viel zu rasant, als dass wirklich jemand von uns exakt abschätzen könnte, was wann wirklich passieren wird. Doch ich habe schon immer am besten gelebt, indem ich für so vieles wie möglich selbst die Verantwortung übernommen, Lösungen ausprobiert und in den Rest mein Vertrauen gelegt habe. Das kann ich dir und jeder anderen Gestalter:in nur empfehlen. Gib »einfach« dein Bestes. Dann hast du später nichts zu Bereuen und mehr kannst du ohnehin nicht tun.
Sollte man komplett die Finger von KI-Generatoren lassen?
Dir sollte klar sein: Wenn du die aktuellen KI-Generatoren nutzt (zumindest die großen Namen Stable Diffusion, Midjourney und DALL-E sowie deren Ableger), dann unterstützt du indirekt die zuvor genannten Probleme: den unethischen Datendiebstahl von Milliarden von Künstler:innen und Privatpersonen, Rufschädigung und Identitätsdiebstahl in Form von Deep Fakes, die Abwertung von Kunst allgemein, die Existenzbedrohung von Künstler:innen und die verantwortungslose Tech-Entwicklung generell.
Außerdem ist die Gesetzeslage eben noch unklar, sodass es abzuwarten gilt, ob das Nutzen der Daten überhaupt legal war bzw. ist und wie es demzufolge vor allem um kommerzielle Produkte steht, die mit Hilfe dieser KIs entwickelt wurden.
Insbesondere um Apps wie »Lensa« solltest du zudem einen großen Bogen machen, da diese nicht nur die besagten Probleme unterstützen, sondern auch Rechte erwerben, mit den Daten auf deinem Smartphone praktisch zu machen, was sie wollen.
Ich würde dir also in jedem Fall davon abraten, die aktuell unethisch entwickelten KIs zu verwenden – insbesondere für berufliche Zwecke, da du dich dabei in rechtlich graues Terrain begibst und im schlimmsten Fall später negativ zur Rechenschaft gezogen werden kannst. Deine Kunden wird das definitiv nicht freuen.
Wozu ich dir aber unbedingt raten möchte, ist es, die Entwicklung von diesen künstlichen Intelligenzen und eben auch die Gesetzeslage mit Argusaugen zu verfolgen und dich besonders zum Thema »Maschinelles Lernen« weiterzubilden. Es ist DAS Thema der Zukunft und wird jeden einzelnen von uns betreffen.
Des Weiteren macht es auch Sinn, dir bereits jetzt Strategien zu überlegen, wie du mit später hoffentlich ethisch entwickelten KIs arbeiten wirst. Wie könntest du die KIs in deinen Workflow einbinden und diesen optimieren? Denn darum wirst du eben nicht herumkommen, es sei denn du möchtest wirklich in Zukunft als Arbeitskraft und Künstler:in überflüssig werden.
Was kann/sollte/muss die Kreativbranche deiner Meinung nach jetzt tun, um einen ethisch vertretbaren Umgang mit KI sicherzustellen?
Gemeinsam als Kreativbranche können wir mehrere Dinge tun!
Neben Protesten gegen die aktuellen KI-Generatoren und das Boykottieren dieser Technologien können wir zum Beispiel Stock-/Bilder-Seiten wie Adobe Stock, Shutterstock, Behance und Co. mit Nachrichten unter Druck setzen und so zum Handeln zwingen. »Wie schützt ihr unsere Daten vor Diebstahl durch A.I.?« und ähnliches. Im Endeffekt sind die Datensätze der KIs auch nichts anderes als Links zu Bildern, die verzerrt, neu verlinkt und damit für die Zukunft unbrauchbar gemacht werden können.
Wer zudem in der Politik sitzt, Verbindungen dazu hat oder generell in einem kreativ-politischen Verband wie der Illustratoren Organisation, dem Künstlerverband oder auch in einem Design-Verein Mitglied ist, sollte das unbedingt nutzen, da Änderungen von oben herab natürlich die größte Wirkung erzielen. Setze dich für das Thema ein, sprich es immer wieder an, organisiere Versammlungen und kläre generell überhaupt erst einmal über das Thema auf. Viele Politiker:innen und Menschen allgemein haben das Thema leider noch gar nicht oder nicht ausreichend auf der Agenda.
Am sinnvollsten und wirkungsvollsten wäre es natürlich, wenn direkt Gesetze zum Schutz von uns Gestalter:innen erlassen werden würden. Und dafür kann auch jede:r einen Beitrag in Form von Spenden leisten. Zum Beispiel an Kampagnen wie »Protecting Artists from AI Technologies« der amerikanischen Concept Art Association oder an die europäische Kampagne »Help protect our art and data from AI companies«, die das Geld investieren, um Gerichtsverfahren und generell solche rechtlichen Richtlinien voranzutreiben. Auch das Thema »universelles Grundeinkommen« sollte höhere Aufmerksamkeit erfahren (zum Beispiel über Initiativen wie »Mein Grundeinkommen«) und endlich implementiert werden, da KI den Arbeitsmarkt wie beschrieben überrollen und damit voraussichtlich ansonsten Massenarbeitslosigkeit erzeugen wird – nicht nur für Künstler:innen.
Ansonsten gilt: Unterstütze weiterhin »echte« Künstler:innen und Designer:innen mit dem Teilen und Kaufen ihrer Werke und schaffe weiterhin selbst »echte« Kunst und Designs. Das Schlimmste, was du jetzt tun könntest, wäre es, das Handtuch zu werfen. Selbst wenn KI wider Erwarten später doch alle (kreativen) Jobs übernimmt, wird deine Arbeit mehr und mehr zur Sinnfrage und die massiven psychischen Vorteile, die Kunst und Design in dieser immer hektischer werdenden Welt mit sich bringen, sollten es allemal wert sein, dass du kreativ tätig bleibst.
Ich werde jedenfalls bis zu meinem Ende den Stylus schwingen und Stunden am Stück im Flow an der Arbeit an »echten« Kunstwerken versinken.
Weiterlesen zum Thema KI und Design
Wir bemühen uns, stets über die neuesten Entwicklungen rund um KI und Design zu berichten. Zum Einstieg in das Thema haben wir einige Artikel zusammengestellt. Bitte beachtet dabei, dass sich die Lage fast wöchentlich ändert und einige der Inhalte nicht mehr aktuell sein könnten.
Es ist sehr wahrscheinlich, dass in Deutschland der Einsatz rechtmäßig war/ist. Grund:
https://dejure.org/gesetze/UrhG/44b.html
Wenn keine maschinenlesbare Information vorliegt, das die Bilder nicht für Data Mining zulässig sind, dann sind diese zulässig. Opt-out ist also vermutlich logisch entsprechend der Gesetzeslage. Dazu gibt es für die Forschung und die Ausnahmen unter
https://www.gesetze-im-internet.de/urhg/__60d.html
Wenn eine KI es macht, werden „Daten gestohlen“, menschliche Künstelnde lassen sich „inspirieren“.
Ich glaube nicht, daß man sich einen „Stil“ urheberrechtlich schützen lassen kann.
Es ist wichtig, dass wir uns darauf einigen, dass Kunst ein kulturelles Produkt ist und von der Gesellschaft definiert wird. Daher hängt es von den sozialen, kulturellen und ästhetischen Überzeugungen ab, was überhaupt als Kunst betrachtet wird. Es ist durchaus möglich, dass die Einstellungen sich ändern und KI-generierte Motive (Kunstwerke?) in Zukunft als vollwertige Kunstform akzeptiert werden. Die wichtigste Überlegung bleibt, dass das Ergebnis, unabhängig von der Herstellungstechnologie, die Fähigkeit hat, uns zu berühren, zu beeinflussen und zu inspirieren. Daher geht es auch bei KI-generierter Kunst primär nicht um den Prozess der Schöpfung, sondern vor allem um das endgültige Produkt und seine Wirkung auf den Betrachter. Darüber hinaus verringert oder repräsentiert der Einsatz von KI-Tools in der Kunst nicht die Kreativität oder das Können des Künstlers. Er ermöglicht stattdessen neue und aufregende Möglichkeiten die eigene Kreativität zu erkunden und weiter zu entwickeln.
Aber: Vor diesem Hintergrund ist es jedoch zunehmend wichtig sicherzustellen, dass mit Hilfe von künstlicher Intelligenz generierte Kunst nicht genutzt wird, um traditionelle Künstlerarbeiten auszubeuten und davon zu profitieren. Möglicherweise ist die Menschheit für diesen Schritt und den Umgang mit KI generell noch nicht bereit. Aufhalten wird den technologischen Fortschritt aber ganz sicher niemand.