Am 7. April hat die amerikanische KI-Firma Anthropic ihr neues Large-Language-Modell Mythos Preview der Öffentlichkeit vorgestellt. Mit der Veröffentlichung ist allerdings nicht die Verfügbarkeit der Software einhergegangen, sondern vielmehr ihr NICHT-Verfügbarkeit. Mit dem geradezu sensationellen Marketing-Claim, dass eine Veröffentlichung zu gefährlich für die Welt sei! Seitdem steht das Internet kaum noch still und schier jeder redet über die Firma, ihre Produkte und die eventuellen Möglichkeiten der neusten KI-Inkarnation. Wir wollen versuchen, einige Behauptungen einzuordnen und über mögliche Konsequenzen aufzuklären.
DISCLAIMER: Wir haben, wie wahrscheinlich die allermeisten Menschen egal welcher Firma, bis zum Schreiben des Artikels NICHT die Software oder ihre Möglichkeiten selber sehen können. Wir stützen uns daher auf die Veröffentlichungen von Anthropic selber. Namentlich die Bekanntgabe von Projekt Glasswing, der Blogbeitrag zu Mythos Preview und auf die sogenannte System-Card von Mythos Preview.
Key-Points
Mythos Preview stellt einen Wendepunkt in der Cybersicherheit dar, weil es an die Fähigkeiten der besten Cyber-Sicherheitsexperten heran reicht
Anthropic beschreibt nicht ein oder zwei Findings und Exploits durch Mythos Preview, sondern Tausende. Sie unterlegen viele Findings mit Hashes als Beweis
Die Findings beziehen sich nicht nur auf Open-Source, sondern auch auf Closed-Source. Dort wird disassembliert und decompiled. Das Ergebnis wird durch Mythos genauso durchleuchtet wie OSS
Deutlich mehr Findings und Exploits als in den Vorgänger-Versionen Claude Sonnet 4.6 und Claude Opus 4.6
Project Glasswing öffnet Mythos Preview ausgewählten Firmen wie Microsoft, Apple, Google, Broadcom, Cisco, CrowdStrike und Nvidia sowie der Linux Foundation und den mit ihr verbundenen Projekten
Das Ziel ist, die wichtigsten Betriebssysteme, Browser und Programme vor der Veröffentlichung deutlich sicherer zu machen
Alle anderen Projekte sind nach der Veröffentlichung gefährdet. Das gilt insbesondere auch für kleine Softwares und auch für Closed Source
Bis zum einfachen und offenen Zugriff auf diese Technik könnten Angreifer durch diese Technik einen erheblichen Vorteil haben.
Die Problematik veralteter Dependencies wird durch diese Technik noch einmal erheblich verschärft
Mythos Preview und ähnliche LLMs werden wohl in dieser oder ähnlicher Geschmacksrichtung in jede CI/CD-Pipeline Einzug halten. Das ist dann so etwas wie der geistige Nachfolger von statischer Codeanalyse ("nicht mehr so statische Codeanalyse")
Ist das Marketing?
Heise.de beschreibt Mythos Preview in einem vielzitierten Artikel wie folgt:
“Anthropic hat mit Mythos ein neues KI-Modell vorgestellt, das so gefährlich sein soll, dass es nicht öffentlich gemacht werden soll. Stattdessen soll Claude Mythos Preview im Rahmen einer Initiative namens Project Glasswing zuerst ausschließlich einer Reihe von Firmen zur Verfügung gestellt werden, die an IT-Sicherheit arbeiten. Die sollen die KI-Technik nutzen, um die „kritischste Software der Welt“ abzusichern. Das KI-Modell habe bereits Tausende hochriskante Zero-Day-Lücken identifiziert, begründet Anthropic den Schritt. Solche seien in allen großen Betriebssystemen und jedem Internetbrowser, aber auch in zahlreicher anderer Software entdeckt worden. Vor allem sei Mythos Preview deutlich häufiger in der Lage, einen funktionierenden Exploit zu entwickeln. […]”
Die 22 Verfasser des ursprünglichen Blog-Posts beschreiben, wie Mythos Preview Fehler in Open-Source und später auch in Closed-Source Programmen gefunden und Routinen entwickelt hat, diese Fehler auch auszunutzen. Dabei handelt es sich unter anderem um jedes der drei großen Betriebssysteme und die großen am Markt befindlichen Browser. Mythos Preview findet dabei nicht nur Buffer-Overflow und Pointer-Fehler, sondern haben auch die viel schwerer zu identifizierenden Logik- und Implementierungsfehler (z.B. bei den Crypto-Bibliotheken). Gefunden wurden Fehler aller Schweregrade, von einfachen Abbrüchen bis hin zur möglichen Übernahme von anderen Computern. Als Fehler wurden nur unbekannte Fehler (Zero-Days) und noch nicht veröffentlichte (aber bereits anders an die Projekte gemeldete) Findings gewertet. Besonders ist, dass Mythos Preview für die meisten Findings auch gleichzeitig Exploits liefern konnte, welche es auch Laien ermöglicht, diese Fehler auszunutzen.
Verglichen mit den beiden Vorgänger-LLMs Claude Sonnet 4.6 und Claude Opus 4.6 ist die Anzahl und die Schwere der Findings deutlich gestiegen. Anthropic veröffentlicht ganz anschaulich die folgende Grafik, welche die Erstellung von erfolgreichen Exploits bei Findings in der JavaScript-Engine des Firefox-Browsers im Vergleich zeigt:
Die Autoren nutzen im Blog die üblicherweise in der Cybersecurity-Szene gebräuchliche Sprache, nutzen entsprechende Metriken und stellen Hashes für Behauptungen zur Verfügung, anhand derer sie nach der Veröffentlichung eines Fehlers (Disclosure) die vorherige Kenntnis beweisen können.
Unsere Bewertung: Die im Blog beschriebenen Findings, die genutzte technische Sprache und vor allem die im Blog zahlreich benannten Hashes für noch nicht veröffentlichte Fehler erzeugen bei uns einen verlässlichen Eindruck. Die untersuchten Programme und Betriebssysteme werden von Millionen Usern täglich genutzt und die beschriebenen Fehler könnten (wenn sie nicht behoben werden) schwerwiegende Folgen für die User haben. In den falschen Händen könnten die beschriebenen Exploits erheblichen Schaden anrichten.
Alle im Blog beschriebenen Fehler beziehen sich auf bekannte Projekte mit häufig öffentlich zugänglichen Quellen. Fehler oder Falschbehauptungen in diesem sehr viel beachteten Dokument würden sehr schnell ans Licht kommen, und zu einem enormen Reputationsschaden für Anthropic führen.
Wir glauben nicht, dass es sich hier um ein durch das Marketing getriebenes Dokument handelt.
Zusammen!
Die schiere Anzahl von Findings der unterschiedlichen Schweregrade hat Anthropic zur Gründung von “Project Glasswing” bewegt. Das Projekt stellt das neue LLM ausschließlich wenigen amerikanischen Firmen zur Verfügung, damit diese ihre Software mit den Ergebnissen härten können. Neben den Firmen stellt Anthropic die Ergebnisse den untersuchten Open-Source-Projekten sowie der Linux-Foundation zur Verfügung. Dies soll in einer an die Arbeitsgeschwindigkeit der Projekte angepassten Frequenz passieren, so dass es nicht zu einer Überforderung der Projekte führt. Für eine professionelle Kommunikation sollen extra von Anthropic angestellte Cyber-Security-Experten sorgen.
Anthropic betont, dass Mythos Preview einen Wendepunkt (Watershed-Moment) in der Cyber-Security darstellt:
AI models have reached a level of coding capability where they can surpass all but the most skilled humans at finding and exploiting software vulnerabilities. Mythos Preview has already found thousands of high-severity vulnerabilities, including some in every major operating system and web browser. Given the rate of AI progress, it will not be long before such capabilities proliferate, potentially beyond actors who are committed to deploying them safely. The fallout—for economies, public safety, and national security—could be severe. Project Glasswing is an urgent attempt to put these capabilities to work for defensive purposes.
Selbstverständlich gibt es weltweit viele Akteure, welche die Möglichkeiten der Software gerne für ihre Zwecke einsetzen möchten. Anthropic sperrt sich dagegen und lässt die Nutzung von Mythos nur innerhalb des Projects Glasswing zu.
Interessanterweise verweist die Projektseite auf die anderen Hersteller von LLMs, welche wohl bald ähnliche Techniken in ihre Produkte einbauen und damit zur Veröffentlichung ähnlicher Fähigkeiten beitragen werden. Diese kurze Zeit solle genutzt werden, um die “wichtigsten Softwares” zu härten. Anthropic nimmt dabei explizit die Haltung einer amerikanischen Firma ein und benennt aus ihrer Sicht gute und schlechte Akteure.
Unsere Bewertung: Project Glasswing unterstützt viel genutzte Projekte und Produkte mit Findings, wie z.B. Betriebssysteme und Browser. Es hilft damit massiv, eine sichere Softwarewelt zu bauen, welche gegen Bedrohungen besser geschützt ist. Dabei auch OSS-Projekte und Linux zu unterstützen, ist lobenswert und richtig.
Wir hoffen, dass Anthropic die Möglichkeiten von Mythos auch anderen Projekten und Firmen zur Verfügung stellt.
Nahe und etwas fernere Zukunft
Wie Mythos Preview die Softwareindustrie beeinflussen wird, ist heute selbstverständlich reine Spekulation. Betrachten wir nur Mythos Preview und die im Artikel skizzierten Umwälzungen, dann werden wir wohl Folgendes beobachten:
die Leistungen von Mythos Preview werden wahrscheinlich bald auch in anderen LLMs zu finden sein
die mit dem Werkzeug verbundenen Möglichkeiten (gut wie böse, sprich Angriffe mittels 0-Day-Exploits und Härtung der Programme) werden damit der breiten Masse und auch unversierten Benutzern zugänglich
in sicherheitskritischen Unternehmen und bei Hardwareherstellern ist der Bedarf nach Schutz enorm groß. Wir sehen heute bereits, dass staatliche Stellen hier steuernd eingreifen
Alle anderen Projekte sind nach der Veröffentlichung dieser Technik gefährdet. Das gilt insbesondere auch für kleine Softwares und auch für Closed Source
KI wird sehr schnell für relevante Teile der Softwareindustrie eingesetzt werden, da die Qualität der Modelle (wenigstens in Teilbereichen, wie hier der Cyber-Security) schnell besser wird und selbst gut ausgebildete Menschen übertrifft
Bis zum einfachen und offenen Zugriff auf diese Technik könnten Angreifer durch diese Technik einen erheblichen Vorteil haben.
Die Problematik veralteter Dependencies wird durch diese Technik noch einmal erheblich verschärft
Mythos Preview und seine Nachfolger und Derivate werden wohl in dieser oder ähnlicher Geschmacksrichtung in jede CI/CD-Pipeline Einzug halten. Das ist dann so etwas wie der geistige Nachfolger von statischer Codeanalyse ("nicht mehr so statische Codeanalyse")
Was können wir tun
Die aktuellen Entwicklungen zeigen immer wieder, dass sicher geglaubte Wahrheiten in der Softwareentwicklung verschwinden und durch Neue ersetzt werden. Claude Mythos Preview und andere LLMs sind nur weitere Werkzeuge, die Änderungen und Brüche in unserer Branche kennzeichnen und deren Impact man einschätzen sollte.
Wir als viadee helfen Ihnen bei solchen Einschätzungen, Entwicklungen und den damit verbundenen Anpassungen in der Software-Entwicklung mit erfahrenen Architekten und Entwicklern für den gesamten Software-Lebenszyklus weiter.
