Jedes dritte Unternehmen hat das jährliche Token-Budget schon überschritten, sagt eine Studie. Und die KI-Ausgaben werden perspektivisch steigen. Wie Agenturen und Unternehmen das besser in den Griff bekommen, verraten diese Lösungsansätze.
Das war zu erwarten: Die finanzielle Steuerung bei der KI-Nutzung hinkt hinterher. Eine neue globale Accenture-Studie belegt nun, was viele Finance-Teams und -Verantwortliche schon befürchtet haben: Ein Großteil der KI-Ausgaben verpufft, weil keiner so richtig weiß, welches Tool für welche Anwendung eigentlich am besten geeignet ist – hier hinsichtlich der Kosten gemeint. Was jetzt?
Tokenomics – wenn Hochleistungsmodelle kleine Aufgaben ausführen
Meistens dürfte es so ablaufen: Ein neues KI-Tool wird abonniert, eine API-Schnittstelle eingerichtet, Spezialanwendungen für Nischenaufgaben lizenziert. Was in der Praxis als Effizienzbooster erst einmal gefeiert wird, sorgt in den Finanzabteilungen immer häufiger für Stirnrunzeln. Das Problem heißt Tokenomics – die Ökonomie hinter der Nutzung von Sprachmodellen, bei der jede Anfrage, jede Datenverarbeitung und jede Generierung nach Recheneinheiten (Token) abgerechnet wird.
Eines der Probleme ist, dass Hochleistungsmodelle zu häufig für kleinere Aufgaben eingesetzt werden, für die ein Bruchteil der Rechenleistung ausgereicht hätte. Das schlägt sich dann auch massiv in den Bilanzen nieder. Von den negativen Einflüssen auf Nachhaltigkeitsaspekte mal ganz abgesehen.
Die Hälfte aller befragten Unternehmen (50 Prozent) der Studie gibt an, dass der reine Token-Verbrauch mittlerweile zu den absoluten Spitzenreitern ihrer KI-Kosten zählt.
Und es gibt auch keinen eindeutigen ROI (Return of Investment). Laut der Accenture-Studie lassen sich rund 80 Prozent der Token-Ausgaben nicht einmal eindeutig konkreten Geschäftsergebnissen zuordnen. Es wird investiert, ohne den tatsächlichen Wertbeitrag messen zu können.
Modell-Routing und Transparenz als Ausweg
Um das Ausufern der Budgets zu stoppen, müssen Unternehmen und Agenturen ihre FinOps-Strategien im KI-Bereich schärfen. Der Schlüssel liegt im intelligenten Steuern.
Ein zentraler Ansatz hierfür ist das Modell-Routing. Anfragen werden dabei automatisch gefiltert und je nach Komplexität an das jeweils günstigste, aber vollkommen ausreichende KI-Modell weitergeleitet. Zusammen mit einer transparenten Nutzungsanalyse lassen sich Kosten nicht nur nachhaltig deckeln, sondern spürbar senken – während gleichzeitig der Return on Investment (ROI) für jede einzelne Anwendung messbar wird.
Zudem sollten die Verantwortlichkeiten besser geklärt werden, damit sich die Ausgaben für KI einzelnen Teams leichter zuordnen lassen. Das trifft dann natürlich verstärkt auf große Agenturen und Unternehmen zu, da KMUs und kleine Designbüros im Alltag keine riesigen Teams managen müssen.
Value Cases definieren
Außerdem ließe sich das Tokenomics-Thema laut Report damit angehen, indem Value Cases vor dem Einsatz definiert werden. Das ergibt in vielen Fällen ohnehin Sinn, um herauszufinden, ob es überhaupt strategisch zu empfehlen ist, KI einzusetzen. Also: erst Mehrwert, Erfolgskriterien und Kosten festlegen oder zumindest schätzen, dann KI anwenden.
Ein weiterer wichtiger Faktor sind Schulungen innerhalb des Teams, denn wo eindeutige Orientierung geboten wird, lässt sich auch besser einschätzen, welche Modelle sich für welche Tätigkeiten am besten und auch kosteneffizient eignen.
Zwischen den alltäglichen Herausforderungen in Zeiten von KI sind diese Tipps sicher nicht mal eben schnell umgesetzt. Aber wer langfristig KI kosteneffizient – und natürlich auch umweltschonend (wenn das überhaupt möglich ist) – einsetzen will, sollte sich jetzt damit auseinandersetzen und sich mit den Finanz-Teams enger austauschen.
