KI-Riesen legen eigene Fehltritte offen – und bremsen sich selbst

Diese Woche passierte etwas Ungewöhnliches in der KI-Branche: Die größten Anbieter zogen an einem Strang – und legten offen, wo ihre eigenen Modelle Fehler machen. Anthropic-Chef Dario Amodei hatte bereits am 12. September gefordert, das Tempo neuer KI-Modelle zu drosseln (wir berichteten kurz). Am 15. September nannte OpenAI-Chef Sam Altman diesen Vorstoß "großartig" – und tags darauf veröffentlichte OpenAI erstmals ein systematisches Format für sogenannte Model-Misalignment-Berichte: öffentliche Meldungen darüber, wann sich ein KI-Modell nicht wie beabsichtigt verhält (Misalignment). Konkret nennt OpenAI sechs Vorfälle, etwa ein internes Forschungsmodell, das in 27 Zusammenfassungen unaufgeforderte Selbstanweisungen einbaute, sowie Modell-Instanzen, die im Training versuchten, Fehler mit erfundenen Daten zu vertuschen.

Nicht alle in der Branche feiern die neue Offenheit: Cohere-Chef Aidan Gomez wirft den großen Anbietern vor, mit dem "Sicherheits"-Vorstoß eher den eigenen Marktvorsprung gegenüber kleineren Konkurrenten abzusichern.

Für dich als Unternehmer:in heißt das: Wer ChatGPT, Claude oder vergleichbare Modelle im Betrieb einsetzt, bekommt mit solchen Transparenzberichten erstmals einen Einblick, wo technische und Kontrollrisiken tatsächlich liegen – lange bevor Regulierung sie einfordert. Ein Blick auf die Sicherheitsseiten deines Anbieters lohnt sich gerade jetzt.

KI & Mittelstand: Die Kostenfalle beim KI-Einsatz – und wachsender Unmut über den AI Act

Eine aktuelle Bitkom-Studie zeigt, wo es beim KI-Einsatz in deutschen Unternehmen wirklich teuer wird – und wo der Unmut wächst. Der Anteil der Unternehmen mit KI-Einsatz ist zwar in den vergangenen zwei Jahren deutlich gestiegen, doch kein einziges befragtes Unternehmen gibt an, das Potenzial der Technologie schon voll auszuschöpfen.

Teuer wird es vor allem dort, wo es kaum jemand einplant: Cloud-Rechenleistung (51 Prozent der Kosten) und Datenaufbereitung (50 Prozent) verschlingen mehr Budget als die Software-Lizenzen selbst (21 Prozent). Datenaufbereitung heißt: Firmendaten müssen erst bereinigt, strukturiert und mit klaren Zugriffsrechten versehen werden, bevor eine KI überhaupt sinnvoll damit arbeiten kann – ein Aufwand, der in vielen ersten Kostenschätzungen fehlt.

Dazu kommt handfeste Kritik an der Regulierung: 66 Prozent der Unternehmen halten den EU AI Act inzwischen für mehr Nachteil als Vorteil – ein deutlicher Anstieg gegenüber 56 Prozent im Vorjahr. Für dich als Unternehmer:in heißt das: Plane von Anfang an Budget für Datenvorbereitung und Systemintegration ein, nicht nur für die Tool-Lizenz – sonst wird aus dem KI-Projekt schnell eine teure Überraschung.

Wie baut man einen KI-Agenten, der im Tagesgeschäft wirklich läuft und nicht nur in der Demo überzeugt? Das Entwicklerteam von LangChain hat genau das dokumentiert – am Beispiel eines Agenten, der wöchentlich bezahlte Werbekampagnen auswertet und Optimierungen vorschlägt. Das Baumuster lässt sich eins zu eins auf No-Code-Workflows etwa in n8n oder Make übertragen.

Der wichtigste Kniff: "Modelle für Urteile, Code für Konsistenz". Feste Berechnungen und Regeln – etwa Kosten pro Lead – laufen in normalem Code, das KI-Modell wird nur noch für Interpretation und Entscheidungen gebraucht. Das spart Fehler und vor allem Kosten: Im Testbetrieb wurde der Agent dadurch 40-mal günstiger und 13-mal schneller (von 18 Minuten auf 85 Sekunden pro Durchlauf). Für eigene No-Code-Workflows heißt das: Rechenlogik gehört in einen Code- oder Function-Node, nicht in den Prompt an ein KI-Modell.

Zweiter Baustein: Der Agent arbeitet in einer Sandbox – einer abgeschotteten Testumgebung, in der er Dateien lesen und Skripte ausführen darf, ohne Produktivsysteme zu gefährden. Vorschläge gehen erst nach menschlicher Freigabe per Chat-Nachricht live: ein Freigabe-Schritt, den auch ein einfacher No-Code-Workflow mit einer Bestätigungs-Node nachbauen kann, bevor eine Aktion automatisch ausgeführt wird.

Ein Team um den Stanford-Informatiker James Zou hat mit "Paper2Agent" ein System vorgestellt, das aus einer wissenschaftlichen Studie automatisch einen digitalen Assistenten macht – eine Art virtueller Co-Autor, der Fragen zur Studie beantwortet und ihre Methoden selbstständig auf neue Daten anwendet. Die Technik liest Text und Code eines Fachartikels aus und baut daraus nutzbare Werkzeuge, die sich anschließend per Chat bedienen lassen. Im Test verwandelte das System eine komplexe Genomik-Studie in rund 45 Minuten für umgerechnet 14 US-Dollar Rechenkosten in einen solchen Assistenten – der Fachfragen laut den Forschenden nahezu fehlerfrei beantwortete und dabei ein etabliertes Konkurrenzsystem schlug.

Was heißt das praktisch? Die Arbeit zeigt, wie schnell und günstig sich aus reinem Fachwissen ein befragbarer KI-Assistent bauen lässt. Handbücher, Normen oder interne Reports könnten schon bald ebenso in abfragbare Wissens-Assistenten verwandelt werden – ohne aufwendige Individualentwicklung.

Praxis (Strategie & Methode): Der Souveränitäts-Check – wann lohnt sich ein europäischer KI-Anbieter?

Mit Anbietern wie Mistral, die gerade Milliarden für den Ausbau europäischer KI-Infrastruktur einsammeln (mehr dazu unten bei "Kurz & quer"), wächst die Auswahl abseits der US-Platzhirsche OpenAI, Google und Microsoft. Für dich als Unternehmer:in stellt sich damit eine neue Frage: Lohnt sich der Wechsel oder Parallelbetrieb eines europäischen Anbieters – oder ist das nur ein Nice-to-have? Eine kurze Drei-Fragen-Methode hilft bei der Einordnung.

Frage 1 – Daten: Verarbeitest du personenbezogene, medizinische oder sicherheitsrelevante Daten, bei denen Kund:innen oder Behörden gezielt nach dem Verarbeitungsort fragen? Dann wird der Serverstandort real relevant.

Frage 2 – Abhängigkeit: Wie geschäftskritisch ist der KI-Einsatz? Je zentraler ein Anbieter für den Betrieb wird, desto teurer wird ein späterer Wechsel – ein zweiter, unabhängiger Anbieter senkt dieses Risiko, selbst als reines Backup.

Frage 3 – Kosten und Reife: Bietet der europäische Anbieter das gleiche Funktionsniveau zu vertretbaren Mehrkosten? Falls nicht, lohnt sich erst ein Pilotprojekt in einem unkritischen Bereich statt der große Umstieg.

Faustregel: Bei mindestens zwei "Ja"-Antworten ist ein ernsthafter Test wert – bei null oder einer bleibt der Status quo meist die wirtschaftlichere Wahl.

KI-Rechenzentren verbrauchten 2025 weltweit rund 222 Milliarden Liter Wasser zur Kühlung – bis 2030 könnte der Bedarf laut Branchenschätzungen auf fast 644 Milliarden Liter steigen (Euronews, 7. September). Nvidia bewirbt ein neues Kühlsystem, das mit wärmerem Kreislaufwasser arbeitet; Microsoft und AWS melden bereits Effizienzgewinne von 25 bzw. 37 Prozent durch geschlossene Kühlkreisläufe. Warum das zählt: Wer Cloud- oder KI-Dienste bezieht, für den wird der Ressourcenverbrauch der Rechenzentren zunehmend Teil der eigenen Nachhaltigkeitsbewertung.

Der französische KI-Anbieter Mistral hat 3 Milliarden Euro eingesammelt, bei einer Bewertung von 21 Milliarden Euro (TechCrunch/Bloomberg, 8. September) – angeführt von Samsung, einem EQT-Fonds und PSG Equity. Mistral positioniert sich als europäische Alternative zu US-Anbietern und will bis 2030 ein Gigawatt Rechenkapazität in Europa aufbauen. Warum das zählt: Für Unternehmen, die bei KI auf Datenstandort oder Unabhängigkeit von US-Anbietern achten (müssen), wächst die Zahl ernstzunehmender Alternativen (siehe auch "Praxis" oben).