Illustratoren Organisation fordert Verlage zum Verzicht von KI auf!
Seelen- und verantwortungslosen Technologie: In einem offenen Brief appelliert die Illustratoren Organisation (IO) aus Frankfurt an 50 namhafte Verlage, auf KI-generierte Bilder zu verzichten. Erfolgreich war die Organisation bereits zuvor.
Die Illustratoren Organisation e.V. (IO) mit seinen rund 2.900 Mitgliedern ist der einzige deutsche Berufsverband im Bereich Illustration.
Er kämpft für die ausreichende Vergütung und andere Rechte, berät, ist mit anderen Kreativverbänden vernetzt – und hat zuletzt für reichlich Aufmerksamkeit gesorgt, als er mit einem offenen Brief an die Stiftung Lesen auf dessen Verwendung KI-generierter Bilder in dessen Kampagne #MachMitLiesVor aufmerksam machte und schließlich erreichte, dass diese eingestellt wurde.
Jetzt wurde erneut ein offener Brief herausgebracht. Er appelliert an 50 namhafte Verlage, auf KI-generierte Bilder zu verzichten.
Darunter der Carlsen und der Cornelsen Verlag, die dtv Verlagsgesellschaft, der Gesternberg Verlag, DK Verlag, Hoffmann und Campe, Kiepenheuer & Witsch, Kosmos Verlags Gmbh, die Verlagsgruppe Oetinger, Random House, Rowohlt oder Ullstein.
Die Illustratoren Organisation fordert darin die Verlage auf, gemeinsam und im wechselseitigen Austausch »klar Position zu beziehen gegen die drohende Zerstörung von Menschlichkeit und Kreativität durch den Einsatz einer seelen- und verantwortungslosen Technologie«. Und plädiert »für eine Welt, in der nicht Algorithmen, sondern Menschen unsere kulturelle Identität bestimmen.«
Gründe für den Verzicht auf KI
Drei Aspekte der Bedrohung stehen in dem Appell im Zentrum:
Die Gefahr für die Gesellschaft, da, wie es von der IO heißt, bildgebende KI-Systeme als Treiber gesellschaftlicher Missstände gelten: Da sie Bekanntes bevorzugen, kopieren und vereinfachen, befördern sie Stereotype und »verstärken, ähnlich wie unregulierte Social-Media-Kanäle Ausgrenzungsmechanismen wie Rassismus, Sexismus und Ableismus.«
Die Gefahr für Kultur, da Bilder Kultur schaffen, die Gesellschaft prägen und Geschichte schreiben: »Wenn KI entscheidet, welche Bildsprache die Gesellschaft formt, überlassen wir Maschinen die Verantwortung für die Prägung unserer Gegenwart und Zukunft.«
Die Gefahr für den Berufsstand, da das Datenfundament generativer KI-Systeme unzählige kreative Werke von Urheber:innen beinhaltet, die dieser Art der Nutzung nicht zugestimmt haben, die darüber nicht informiert wurden und die dafür keine Vergütung erhalten. Zu Recht würde dieser massenhafte globale Bruch von Urheberrechten als der »größte Raubzug der Menschheitsgeschichte« bezeichnet.
Zusätzlich führt die IO drei Gründe an, um den Appell zu untermauern: Generative KI-Bilder sind leblos und berühren nicht, sie übernehmen keine Verantwortung und sind unethische Produkte.
Ganz abgesehen davon verschlinge der Einsatz von KI Unmengen von Energie, alleine das Generieren eines einzelnen KI-Bildes verbrauche die Energie einer halben Handyladung. Allein in Europa soll sich der Strombedarf von KI-Rechenzentren bis 2030 auf mehr als 150 Terawattstunden fast verdreifachen.
Der Appell
»Stellen Sie gemeinsam mit uns die Weichen für eine faire und sichere Zukunft. Positionieren Sie sich mit uns klar gegen die drohende Zerstörung von Menschlichkeit und Kreativität zugunsten einer seelen- und verantwortungslosen Technologie. Bewahren Sie gemeinsam mit uns eine Welt, in der nicht Algorithmen, sondern Menschen unsere kulturelle Identität bestimmen.
Verzichten Sie auf den Einsatz von generativen KI-Bildern.«
Das könnte dich auch interessieren
Es stimmt, der offene Brief stellt die Mensch-Maschine-Beziehung verkürzt dar, aber er sollte ja auch kein wissenschaftliches Traktat über die Wirkweise neuronaler Netze werden. Insofern sind die Spitzfindigkeiten des Kommentars inhaltlich richtig, thematisch aber fehl am Platze.
Wie bei jeder Technik sind das entscheidende Moment die Bediener (die Player am Markt) und deren Interessen. Diese bestimmen, zu welchem Einsatz die Technik kommt und mit welchen Benefits und für wen.
Aber nein, auch mit menschlicher Unterstützung (die sich genau genommen im Briefing erschöpft) ist keine Innovation möglich, da sich die vorhandene Technik naturgemäß retrospektiv orientiert. Man kann lange und philosophisch über den an menschliche Empfindungen, Erfahrungen und Erkenntnisse geknüpften Schaffensprozess diskutieren, der meiner Meinung nach mehr praktische Mitwirkung als nur ein ausgefeiltes Briefing erfordert, denn nur so entsteht epistomologisch Transzendenz, Bedeutung und Aura. Aber das scheint müßig. Denn wer z.B. für ein T-Shirt mit Markenlogo mehr bezahlt als für ein qualitativ gleichwertiges No-Name-Shirt hat die Bedeutsamkeit von Aura für sich schon bestätigt. Alle anderen dürfen sich von Kritik freigestellt sehen.
KI-Player kopieren nicht, schlimmer noch, sie stehlen und bieten die Ware umsortiert und neu verpackt an – das ist das Problem auf ganz unphilosophischer Seite. Und das machen sie eben mit der Technik KI. Und genau darin entscheidet sich diese Technik ganz fundamental von Photographie, diese beiden Innovationen haben quasi nichts gemein, es erscheint dem oberflächlichen Betrachter nur so.
Die drei Gründe sind also sehr valide, auch wenn man über den ersten gerne und lange philosophieren kann.
Wenn man Technologie grundsätzlich als harmlos einstuft, kann man natürlich keine Gefahr von irgendwo sehen. Und bequem alles den Menschen in die Schuhe schieben. Aber genau darüber setzt sich die KI ja hinweg, indem sie eben nicht mehr umbedingt von menschlichem Input, sprich Befehlen abhängig ist, um zu handeln.
Es ist geradezu auffällig, wie die KI in die letzten verbliebenen menschlichen Bereiche kulturellen und schöpferischen Schaffens eindringt und auch hier wieder zum Kahlschlag ausholt.
Wer die Ängste der Menschen nicht mehr ernst nimmt und die Fähigkeiten der Maschine denen der Menschen gegenüber bevorzugt, ist entweder genauso seelenlos und/oder verdient kräftig mit an der Technologisierung im Kreativbereich.
Zudem erscheint mir diese ewige „damals hat man auch schon …“-Haltung als naiv – oder berechnend.
Eine kritische Auseinandersetzung mit Technologie ist zwingend, um als Mensch nicht gänzlich von der Bühne des Lebens zu verschwinden.
Vor einiger Zeit hätte ich zugestimmt – mittlerweile sehe ich das anders. Als selbstständiger Designer habe ich ein Kinderbuch geschrieben, hunderte Bilder mit KI erstellt, Collagen gemacht und meine Geschichte damit illustriert. Eine Einschlafgeschichte zum Vorlesen mit Hörspielen – ein surreales Kinderbuch in einem Look, wie ich ihn bei Kinderbüchern noch gesehen habe.
Fast alle Verlage, die das Pamphlet gegen KI veröffentlicht haben, habe ich angeschrieben. Doch diese Arbeit wird als weniger würdig erachtet, weil Verlage ihre Illustratoren schützen oder keine Bilder akzeptieren wollen, die nicht ihrer Philosophie entsprechen.
Unpopuläre Meinung, aber viel Erfolg beim Kämpfen gegen Windmühlen: Ist das Foto gut, weil der Fotograf gut ist, oder weil Photoshop im Spiel war? Ist ein Zeichentrickfilm besser, wenn er per Hand gemacht wurde, oder war es 3D und die Postproduktion macht den Rest? Sehe ich wirklich so aus, oder ist das ein Filter? Spielt es eine Rolle, wie etwas entsteht, oder zählen der erste Eindruck, der Preis, das Marketing? Es gibt ein „so möchten wir gerne sein“ und ein „so sind wir“. Wir sind nicht ehrlich zu uns selbst. Der erste Eindruck zähl, der Preis entscheidet, Kinderaugen interessiert, ob etwas lustig, süß, unterhaltsam is und den Verlag interessiert, ob der Umsatz stimmt.
In dem Artikeln werden heroische Gründe genannt, warum auf KI verzichtet werden soll: „Wir wollen unser Geschäftsmodell schützen, nicht jeder soll publizieren, damit Preise stabil bleiben, und wir möchten, dass sich Lizenzen für Klassiker wie „Die Raupe Nimmersatt“ weiter auszahlen.“ Das hört man nicht, ist aber auch Teil der Wahrheit.
Die Parallele zur Musikindustrie (vor ein paar Jahren) ist offensichtlich: Große Labels klammern sich an das Bestehende, werten Neues ab. Moral, Tradition, Handwerk und Kultur werden vorgeschoben um das eigene Geschäftmodel zu schützen. Das ist legitim! Das alles aber so moralisch aufzuladen und so zu tun, als ginge es um einen gesellschaftlichen Auftrag ist doch etwas lächerlich. Als ob unverkaufte Bücher verschenkt werden. Also ob nicht mehr gedruckt wird als benötigt weil es billiger ist zu zerschredden als einzulagern.
Um die Frage zu beantworten: Wie viel Kreativität darf die KI ersetzen müsste ich viel schreiben und einiges würde mir schaden daher sagt ich nur: Es macht Spaßt bringt Geld und ich liebe es kreativ zu sein. Ich liebe handgezeichnete Illustrationen und schätze die Arbeit einiger Illustrator/innen in meinem Bekanntenkreis. Ich möchte, dass es das weiterhin gibt und Künstler/innen ihren Lebensunterhalt verdienen können. Aber die Einteilung in „schöne, gute Kunst“ und „unwürdiges, seelenloses Maschinenwerk“ da sträubt sich was in mir – vielleicht, weil ich selbst betroffen bin. Doch aus dem gleichen Grund haben die Verlage ja auch ihren Brief geschrieben. Grüße von David an Goliath – mal sehen, wie die Geschichte ausgeht.
Hallo Michael, übersiehst du bei deinem Verweis auf „neuronale Netzwerke“ nicht, dass diese nicht für sich alleine stehen, sondern dass aus/mit/um sie Srevices werden, die den Anwendern maximale Ergebnisse bei minimalem Aufwand bieten sollen? Die also selbst auf einfachste Prompts hin komplexeste Bildwelten liefern? Und jetzt kommts: wenn die benötigte Information für einen Bildinhalt nicht im Prompt steht, worauf gründet das system dann seine Entscheidung es so oder so auszuführen? Ganz einfach: Auf Regeln. Und auf Wahrscheinlichkeiten, die ihm beigebracht wurden. Und diese reproduzieren eben stereotype, einfach nach dem Prinzip, dass das jeweils größte Klischee wahrscheinlich den Geschmack der meisten Anwender trifft. Und so werden Stereotype, die sich aus dem Trainingsmaterial aber auch dem Bemühen eben jene Klischees bestmöglich zu erfüllen, ergeben manifestiert. Freilich lehren die Betreiber ihre system ergebnisse diverser zu gestalten – darin liegt aber ebenfalls wieder jede Menge Problematik. (Das Netz ist voll von Studien zu dem Thema, wenns dich wirklich interessiert könnest du dich da umfassend einlesen, ich mein, bevor du laut herumpolterst, irgendjemand anderes hätte nix verstanden? )
Und abschliessend: der Briefwirbt doch explizit dafür, Bilder von bildkompetenten Menschen kreieren zu lassen. Eben weil die bewusste entscheidungen treffen, und sie nicht vom Zufall oder der undurchsichtigen blackbox des KI-Systems diktieren lassen.
“… bildgebende KI-Systeme als Treiber gesellschaftlicher Missstände gelten: Da sie Bekanntes bevorzugen, kopieren und vereinfachen, …” Wer so etwas schreibt, weiß nur nicht wie neuronale Netzwerke funktionieren und wie man sie benutzt. Neuronale Netzwerke bevorzugen nicht, sie kopieren nicht und sie vereinfachen nicht. Die “KI-Systeme” benutzen sich nicht selbst. Sie sind völlig passiv und bringen ohne einen Menschen der sie benutzt überhaupt gar nichts zustande.Es behauptet ja auch niemand, dass ein Pinsel oder Farbe kreativ wäre. Es ist immer der Mensch, der diese Werkzeuge benutzt. Ein kreativer Mensch kann mit neuronalen Netzwerken sehr wohl Bilder herstellen, die unbekannt sind und sehr wohl berühren. Als vor fast 200 Jahren die Fotografie erfunden wurde und unzählige Portraitmaler arbeitslos oder Fotografen wurden, gab es die gleichen Disskusionen. Da war ebenfalls von seelenlosen Bildern die Rede und auch, dass die Fotografie ein rein technischer Vorgang wäre. Es gibt so viele Künstler, die diese neue Technologie feiern und wissen wie man mit ihr neue aufregende Kunst schaffen kann. Wenn man also irgendjemandem die Schuld dafür geben möchte, dass mit neuronalen Netzwerken überwiegend nerdiger Kitsch produziert wird, dann doch eher den Menschen denen nichts besseres einfällt. Denn ein neuronales Netzwerk bestimmt rein gar nichts. Es besitzt keine Intention. Die kommt noch immer vom Menschen. Und die drei Gründe, die IO aufführt, sind wahrlich übertrieben.