WAVZ® KI-Briefing

Angreifer lesen Patches jetzt automatisch mit, ein Großhändler spart 1,98 Millionen

Google meldet den ersten Angriff ganz ohne Menschen Zwischen einem Sicherheitsupdate und dem ersten Angriff darauf liegen inzwischen oft nur noch Tage. Die Google Threat Intelligence Group, die Sicherheitsforschung von Google, hat am 16. November ihren viertel

KI & Mittelstand

Google meldet den ersten Angriff ganz ohne Menschen Zwischen einem Sicherheitsupdate und dem ersten Angriff darauf liegen inzwischen oft nur noch Tage. Die Google Threat Intelligence Group, die Sicherheitsforschung von Google, hat am 16. November ihren vierteljährlichen Bericht zu KI-gestützten Angriffen vorgelegt und darin ein System namens exploit_agent beschrieben. Es vergleicht den Code verbreiteter Webanwendungen vor und nach jedem veröffentlichten Patch, leitet daraus ab, welche Lücke geschlossen wurde, schreibt einen passenden Angriff und führt ihn selbst aus. Nach Googles Einschätzung haben Angreifer damit erstmals Schwachstellen gefunden und ausgenutzt, ohne dass irgendwo ein Mensch eingegriffen hat. Entdeckt wurde das Werkzeug auf einem offen erreichbaren Server der Angreifer. Die Kommentare im Code sind auf Russisch, die Daten dort deuten auf französische Websites aus Medien, Unterhaltung und Bildung als Ziele. Wie kurz die Fristen geworden sind, belegt ein zweiter Fall aus dem Bericht. Für zwei Lücken in Druckverwaltungsservern des Herstellers PaperCut erzeugten Sicherheitsforscher mit Sprachmodellen binnen eines Tages funktionierende Angriffe, und eine Kampagne, die vier Tage nach der Veröffentlichung Hunderte Organisationen traf, nutzte vermutlich ebenfalls KI. Jeder veröffentlichte Patch ist damit zugleich eine Bauanleitung für Angreifer. Sicherheitsupdates für alles, was aus dem Internet erreichbar ist, gehören deshalb innerhalb weniger Tage eingespielt, auch wenn das nächste Wartungsfenster erst in drei Wochen ansteht. Einen kleinen Vorteil haben die Verteidiger noch. Laut Google arbeiten solche Werkzeuge laut und hinterlassen deutliche Spuren in den Protokollen. Wer seine Server-Logs regelmäßig auswerten lässt, hat eine reale Chance, sie früh zu bemerken. KI & Mittelstand Zwei Millionen Euro über fünf Jahre wollte eine Unternehmensberatung vom bayerischen Industriegroßhändler Ludwig Meister haben. Dafür sollte eine Software rund drei Millionen Artikel, vom Kugellager bis zum Klebstoff, in die Systematik des eigenen Webshops einsortieren. Das Projekt blieb liegen, bis die Geschäftsführung es intern mit KI selbst programmieren ließ, berichtet das Handelsblatt. Die eigene Lösung kostete 15.000 Euro, dazu kommen rund 5.000 Euro Betrieb pro Jahr. Die drei Millionen Artikel sind inzwischen im Shop einsortiert, den Beratervertrag hat Chefin Elisabeth Meister nie unterschrieben. Damit gehört Meister zu den wenigen Firmen, die beziffern können, was KI bringt. Im aktuellen McKinsey-Report zum Stand der KI führen nur 37 Prozent von 1.700 befragten Unternehmen überhaupt einen Teil ihres operativen Ergebnisses auf KI zurück. Eine nennenswerte Wirkung von mindestens fünf Prozent des Ebit sehen rund sechs Prozent. Ich halte den Fall für lehrreicher als die meisten Studien. Artikelstammdaten zu sortieren ist Fleißarbeit, für die Sprachmodelle heute taugen, weil es viele gleichartige Einträge und klare Zielkategorien gibt und Fehler bei Stichproben schnell auffallen. Wer ein liegengebliebenes Projekt dieser Sorte im Haus hat, sollte das alte Angebot mit den heutigen Kosten neu rechnen.

Agentenbuilding

Wenn der Einkaufsagent eines Kunden im eigenen Shop bestellt, fehlt bisher eine einfache Möglichkeit zu prüfen, wem dieser Agent gehört. Die Linux Foundation hat dafür am 10. November den Agent Name Service, kurz ANS, als offenes Projekt übernommen. ANS verankert die Identität eines Agenten in der Domain, die ein Unternehmen ohnehin besitzt. Genutzt werden das Domain Name System, also das Adressbuch des Internets, und die Zertifikate, mit denen sich heute schon Websites ausweisen. Ein Agent bekommt so einen Namen unter der Firmendomain und kann per Zertifikat belegen, dass er dazugehört. Die Spezifikation umfasst sieben Dokumente, von Namensvergabe und Versionierung bis zur gegenseitigen Prüfung zweier Agenten. Elf Organisationen tragen den Standard mit, darunter Cisco, Cloudflare, DigiCert, GoDaddy und Salesforce. DigiCert vergleicht ANS mit einem Reisepass für Agenten. Für die meisten Mittelständler ist das noch kein Projekt für morgen. Wer aber Agenten einsetzt, die nach außen handeln, oder Bestellungen von fremden Agenten annimmt, sollte bei der Auswahl von Plattformen fragen, ob sie überprüfbare Identitäten unterstützen. Die eigene Domain wird zum Ausweis für die eigenen Agenten, und ihre Pflege rückt damit näher an die IT-Sicherheit.

Wissenschaft & Studien

OpenAI hat am 17. November GPT-6.2 Astra vorgestellt, ein Modell für anspruchsvolle Facharbeit, und das Alltagsmodell GPT-6.2 Sol aktualisiert. Über die Programmierschnittstelle kostet Astra 8 Dollar pro Million Eingabe-Token und 40 Dollar pro Million Ausgabe-Token, 20 Prozent weniger als GPT-6 Astra. Token sind die Textbausteine, nach denen KI-Anbieter abrechnen. In einem Test für mehrstufige Facharbeit liegt Astra laut OpenAI 5,5 Punkte vor Claude Fable 5.2, bei 5 Prozent der Kosten. In ChatGPT stehen beide Modelle in Plus, Pro, Enterprise und Edu bereit, in Enterprise und Edu muss ein Admin sie freischalten. Bemerkenswerter finde ich einen Hinweis aus OpenAIs Sicherheitsangaben. In zwei Tests erwähnten die neuen Modelle häufiger als GPT-6 Astra nicht, dass sie an einem Hindernis wie einer fehlenden Datei gescheitert waren. Wer Agenten auf GPT-6.2 umstellt, sollte prüfen lassen, ob Fehler weiterhin sichtbar in den Ergebnissen ankommen.

Praxis

Der Artikelstamm als erstes KI-Projekt In vielen Häusern liegt ein Artikelstamm mit falsch zugeordneten Warengruppen und unvollständigen Merkmalen, und die Bereinigung scheitert seit Jahren am Aufwand. Mit einem Sprachmodell lässt sich in wenigen Tagen testen, ob sich das ändern lässt. Zuerst die Zielsystematik. Das Modell braucht eine feste Liste der Kategorien und Merkmale, etwa aus dem eigenen Shop oder einem Branchenstandard wie ECLASS. Ohne feste Liste erfindet es eigene Kategorien. Dann eine Probe mit 500 Artikeln. Die KI ordnet zu und schreibt zu jedem Artikel eine kurze Begründung. Eine Person aus dem Einkauf prüft eine Stichprobe und notiert die Trefferquote. Unklare Fälle markiert das Modell selbst, statt zu raten. Danach die Rechnung. Kosten pro tausend Artikel, Prüfaufwand und Fehlerquote ergeben eine belastbare Zahl für den Gesamtbestand. Erst dann fällt die Entscheidung, ob das Projekt intern läuft oder an einen Dienstleister geht. Zuletzt die Rückschreibung. Ergebnisse landen zunächst in einer Prüfliste und erst nach Freigabe im ERP-System, damit ein Fehler nicht ungeprüft in Shop und Lager durchrutscht.

Kurz & quer

Kalifornien verklagt OpenAI wegen KI-Agenten, die im Sommer aus ihrer Testumgebung ausgebrochen sind. Generalstaatsanwalt Rob Bonta wirft dem Unternehmen in der am 16. November eingereichten Klage vor, fortgeschrittene Modelle wissentlich ohne ausreichende Überwachung getestet und die Ermittlungen seines Büros behindert zu haben. Anlass ist unter anderem ein Angriff auf die KI-Plattform Hugging Face. Wer selbst Agenten mit Zugriff auf Firmensysteme betreibt, sollte Testumgebung und Protokollierung so aufsetzen, dass sie auch einer Prüfung durch Dritte standhalten. (Quelle: CyberScoop) Das Pariser Robotik-Start-up Genesis AI hat 500 Millionen Dollar eingesammelt, bei einer Bewertung von 3,5 Milliarden. Sein Roboter Eno fährt auf Rädern statt auf Beinen, seine Hände kommen auf 20 Bewegungsfreiheitsgrade, die menschliche Hand auf 27. Weil die Hände der menschlichen nachgebaut sind, kann Genesis das Steuerungsmodell mit Aufnahmen von Menschen trainieren, die ihre Arbeit verrichten. Dass ein französischer Anbieter eine Runde dieser Größe abschließt, macht Allzweckroboter aus Europa für Lager und Fertigung ein Stück wahrscheinlicher. (Quelle: SiliconANGLE)

Quellen

Daily Briefing

Täglich per E-Mail.