Wirtschaftlichkeit von KI: Warum Microsoft & Uber jetzt bremsen

In verschiedenen Bereich überrascht die Leistungsfähigkeit großer KI-Modelle. Für komplexe Aufgaben, die personell sehr aufwändig sind, erstellt das KI-Modell in kürzester Zeit ein erstes Ergebnis. Dieses ist dann zwar noch von den Expertinnen und Experten zu überprüfen und evtl. weiter zu verfeinern, es lassen sich so aber massive Zeiteinsparungen erzielen. Beispiele sind das Zusammenfassen oder Vergleichen von Texten, das Erstellen von Grafiken oder Präsentationsfolien, eine erste finanzielle Bewertung eines Unternehmens oder auch die vielfältige Unterstützung bei der Softwareerstellung und Qualitätssicherung.

Kostenfaktor KI: Warum selbst große Unternehmen die Nutzung einschränken

Nun lassen Informationen aufhorchen, das Unternehmen wie Microsoft oder Uber die Nutzung von externen KI-Werkzeugen wie Cloude, eingeschränkt hätten. Grund seinen die Kosten, die mit deren Nutzung auflaufen würden. Damit wird deutlich, dass es im betrieblichen Kontext nicht nur um die Geschwindigkeit beim Lösen von anspruchsvollen Aufgaben geht, es ist auch zu klären, wie wirtschaftlich der Einsatz derartiger Werkzeuge ist.

Die Anbieter von großen KI-Modellen wie Anthropic oder OpenAI haben die Abrechnung für ihre Modelle umgestellt und die Nutzung weiter eingeschränkt. Gab es früher Pauschalen (flat rates) für die Nutzung der Systeme, so erfolg jetzt, wenn über die APIs der Anbieter zugegriffen wird, eine Abrechnung gemäß des Verbrauchs der Token durch die Nutzer. Token können dabei einzelne Worte, Teile von Worten oder Satzzeichen sein, die das KI-Modell verarbeitet. Damit sind dieses winzige Einheiten. Auch wenn ein einzelner Token nur einen Bruchteil eines Centbetrags kostet, kommen bei größeren Aufgaben schnell sehr hohe Tokenzahlen zusammen. Damit sind auch die Kosten für das Lösen einer Aufgabe entsprechend hoch. Aufgrund der Aufgabenstruktur wird dieses noch einmal deutlich aufwändiger, wenn man Agentic AI als autonome Systeme zum Lösen von Aufgaben einsetzt.

 Man kann dann kritisch hinterfragen, was das Lösen einer Aufgabe mit KI denn aufgrund der Abrechnung und der notwendigen personellen Nacharbeit gekostet hat und dieses mit einer rein personellen, aber natürlich zeitlich aufwändigeren Lösung, vergleichen. Dazu kommt, dass i. d. R. die Mitarbeiterressourcen ja verfügbar sind und damit auch deren Kosten anfallen. Wir können in der betrieblichen Praxis damit einen Rebound-Effekt für mache Aufgaben sehen, der durch die neue Preissituation entsteht.     

Wie geht man nun damit um? Es gibt verschiedene Alternativen, die zu berücksichtigen sind. Zum einen ist für die jeweilige Aufgabe zu prüfen, ob es nicht kleinere Modelle mit geringeren Kosten oder sogar vielleicht Open Source-Varianten gibt, mit denen sich ähnliche Ergebnisse erzielen lassen. Die Anbieter fangen auch hier an zu differenzieren. Zum anderen wäre zu überlegen, dass man zu den Aufgabenstellungen nur europäische LL-Modelle, wie Mistral verwendet, dass ebenfalls eine nicht zu unterschätzende Leistungsfähigkeit hat, aber noch günstigere Preismodelle und Pauschalpreise bietet. Häufig werden damit schon gute Ergebnisse erzielt. Schließlich kann man in einem fortgeschrittenen Stadium des KI-Einsatzes auch differenzieren, welche Aufgaben mit den teuren LLMs und welche mit günstigen absolviert werden.

Generell fließen in die Preise für solche Lösungen auch die Kosten für die hohe Rechnerleistung (Hyperscaler) ein. Hier ist grundsätzlich festzuhalten, dass die Energiekosten (für Server und Klimatisierung) bis zu 60 Prozent der laufenden Kosten ausmachen. Dabei sind die Strompreise von amerikanischen Rechenzentren bei ca. 50 Prozent der deutschen oder europäischen Rechenzentren. Auch dieses ist ein Nachteil, wenn man versucht in Europa große LLMs zu betreiben. 

Testet man verschiedene LLM-Varanten, so ist dieses natürlich auch mit Aufwand verbunden. Dieses muss man berücksichtigen. Hinzu kommt, dass auch der Datenschutz bei vielen Aufgabenstellungen greift. Damit scheiden häufig amerikanische Hypercaler aus. Man muss auf europäische oder lokale Lösungen zurückgreifen. In der Praxis zeigt sich damit, dass der Einsatz von LLMs einerseits vielen Rahmenbedingungen unterliegt, andererseits aber auch neben zeitlichen Aspekten die Wirtschaftlichkeit betrachtet werden muss. Mitarbeiter, die bislang die Aufgaben übernommen haben, sind ja da, die Kosten fallen an. In vielen Fällen sind schnelle Veränderungen damit nicht das Mittel der Wahl. Mittel- und langfristig wird es Verschiebungen in Richtung LLMs geben, dazu wird auch die Demographie beitragen. Und nicht immer werden die leistungsfähigsten LLMs, weil in der Nutzung teuer, das Mittel der Wahl sein. Man wird aber immer da ansetzen, wo auch wirtschaftliche Erfolge direkt messbar sind. Dieses erklärt sicherlich auch die in vielen Bereichen eher zögerliche Einführung von KI-Modellen.