KI trifft IT-Sicherheit

KI-Transformation größer als Eisenbahnausbau und Apollo-Programm?

In einem 2026 erschienenen Artikel des Wall Street Journal¹ wurden die erwarteten Investitionen von Meta, Amazon, Microsoft und Alphabet in KI-/Rechenzentrumsinfrastruktur mit historischen US-Infrastruktur- und Technologieprogrammen verglichen. Demnach entsprechen die für 2026 prognostizierten Ausgaben dieser vier Unternehmen rund 2,1% des US-BIP. Damit liegen sie über dem durchschnittlichen jährlichen Aufwand für den US-Eisenbahnausbau der 1850er-Jahre und deutlich über dem Apollo-Raumfahrtprogramm (0,2%), das immerhin Menschen auf den Mond gebracht hat:

Wichtig: Verglichen werden hier nicht die gesamten historischen Programmkosten, sondern der durchschnittliche jährliche Kapitalaufwand (in Prozent des US-BIP). Es bleibt abzuwarten, über welchen Zeitraum diese Investitionsdynamik anhält und ob sich daraus eine ähnlich nachhaltige Infrastrukturwelle entwickelt wie bei früheren Großprojekten. Beeindruckend ist das aus heutiger Sicht dennoch und die Tech-Giganten scheinen das Thema ziemlich ernst zu nehmen. Aber was bedeutet das nun konkret für all jene, die sich mit IT-Sicherheit auseinandersetzen?

Ein Blick in die Softwareentwicklung

Trotz der verhältnismäßig jungen, generativen KI-Technologie wie wir sie im Moment erleben, gibt es schon erste Hinweise, wohin die Reise gehen könnte. Diese findet man in der Softwareentwicklung. Bereits im Jänner dieses Jahres hat Andrej Karpathy, ein bekannter KI-Forscher, auf X kommentiert, dass sich sein Programmierworkflow von 80% manuellem Codeschreiben und 20% KI-Input hin zu 80% KI-Input und 20% manuellen Anpassungen gewandelt hat².

Ebenfalls zu Beginn des Jahres schrieb Boris Cherny, Entwickler und Leiter von Anthropics Claude Code, dass sein Programmcode seit mehr als zwei Monaten zu 100% (!) von KI generiert wird ³. Er denkt, dass sich die Statistiken im Großteil der Softwareindustrie in den nächsten Monaten ähnlich entwickeln. Beide Personen befinden sich natürlich im Zentrum der aktuellen Entwicklungen und sind daher eher als Vorreiter denn als Norm anzusehen. Ob sich deren Erkenntnisse auf die breite Industrie umlegen lassen, wird sich noch weisen. Eine Tendenz ist so oder so klar erkennbar.

Umwälzungen in der IT-Sicherheit

Ist auch in der IT-Sicherheit zu erwarten, dass wir uns von manueller Tätigkeit mit KI-Unterstützung hin zu Vollautomatisierung durch KI unter Supervision von Fachexperten bewegen? Die aktuellen Entwicklungen lassen diesen Schluss durchaus zu. Im Mai 2025 berichtet ein Sicherheitsforscher, dass GPT-o3 – das State-of-the-Art Modell zu diesem Zeitpunkt – in einem von 100 Durchläufen eine Schwachstelle im Linux Kernel finden kann, die der Forscher zuvor manuell entdeckt hat. Als Bonus dieses Versuchs hat o3 dann sogar eine zuvor unbekannte Schwachstelle im selben Code entdeckt ⁴. 

Im Februar berichtet Anthropic, mit Hilfe ihres Frontier-Modells Opus 4.6 bereits mehr als 500 schwerwiegende Schwachstellen in Open-Source Projekten identifiziert zu haben ⁵. Einen Monat später legt Anthropic nach und beschreibt, wie insgesamt 22 Schwachstellen In Mozillas Browser „Firefox“ aufgespürt werden konnten. 14 dieser Schwachstellen wurden von Mozilla als „hoch“ eingestuft. Laut den Forschern wurde Firefox wurde als Ziel ausgewählt, weil es eine sehr komplexe Codebasis besitzt und als eines der am intensivsten getesteten, sichersten Open-Source Projekte weltweit gilt ⁶.

Anfang April schlägt die Bekanntmachung von Anthropics aktuellem, bis dato unveröffentlichtem Modell „Mythos Preview“ Wellen in der Szene. Dieses Modell soll ein Kompetenzlevel erreicht haben, das – mit Ausnahme der fähigsten Experten – alle anderen im Auffinden und Ausnutzen von Schwachstellen übertreffen und innerhalb einiger Wochen tausende Zero-Day Schwachstellen entdeckt haben soll ⁷. Die Entwickler stufen Claude Mythos als zu gefährlich für eine Veröffentlichung ein und ermöglichen im Rahmen von „Project Glasswing“ nur einer Handvoll amerikanischer Software- und Security-Unternehmen die Nutzung desselben, um Schwachstellen in deren Software aufzuspüren, bevor andere Individuen oder Nationen dazu in der Lage sind. Mitte April 2026 berichtet das AI Security Institute, dass Claude Mythos in einem simulierten Unternehmensnetzwerk in 3 von 10 Versuchen eine vollständige Kompromittierung des Netzwerkes schafft – und zwar von der initialen Erkundungsphase über die laterale Ausbreitung im Netzwerk bis hin zur Exfiltration sensibler Daten ⁸.

Kurz darauf berichtet dasselbe Institut, dass OpenAIs GPT-5.5 ebenfalls in 2 von 10 Versuchen eine vollständige Kompromittierung des Netzwerkes bewerkstelligt ⁹. GPT-5.5 ist des Weiteren nicht nur einzelnen Unternehmen vorbehalten, sondern öffentlich verfügbar. Um dessen Cyberfähigkeiten uneingeschränkt nutzen zu können, müssen Interessierte jedoch über OpenAIs „Trusted Access for Cyber“-Programm (TAC) nachweisen, im IT-Sicherheitsfeld – also für die gute Seite – tätig zu sein ¹⁰.

Bedeutung für die IT-Sicherheit von Unternehmen

Die rasante Entwicklung der „Offensive Security“-Fähigkeiten erinnert tatsächlich ein bisschen an die ersten Kapiel einschlägiger Sci-Fi Romane wie Daniel Suarez‘ „Daemon“ oder Andreas Brandhorsts „Das Erwachen“. Ganz so schlimm ist es freilich nicht, aber beim Verfassen dieser Zeilen musste ich unwillkürlich an diese Lektüren denken. Doch was bedeutet das nun für die IT-Sicherheit der Unternehmen rund um den Globus? Die gute Nachricht: An den Basics hat sich nichts geändert. Die schlechte Nachricht: Versäumnisse bei den Basics werden in naher Zukunft wohl deutlich schneller „bestraft“ werden und deutlich schwerwiegendere Konsequenzen nach sich ziehen. In der Vergangenheit hatten IT-Admins teilweise noch einige Tage Zeit, bevor erste breite Angriffswellen nach der Bekanntmachung von Sicherheitslücken zu erwarten waren ¹¹:

Auch bei der Zeit von der initialen Infektion bis zur Exfiltration von Daten durfte man teilweise noch in Tagen denken. In beiden Fällen ist zu erwarten, dass diese Zeitfenster – aufgrund des zu erwartenden hohen Automatisierungsgrades – rapide schrumpfen werden.

Was sind also die oben erwähnten Basics, die angesichts der rasanten Entwicklung noch wichtiger sind als zuvor?

• Schnelles Einspielen veröffentlichter Patches, insbesondere auf Perimeter-Infrastrukturkomponenten wie Firewalls, VPN-Gateways, Load Balancern, Mail- und Remote-Access-Systemen.
• Angriffsfläche möglichst gering halten, etwa durch konsequentes Abschalten nicht benötigter Dienste, Einschränkung exponierter Management-Schnittstellen, saubere Asset-Inventarisierung.
• Resilienz und „Defense in Depth“ stärken, also Netzwerksegmentierung, Directory Tiering, Zero-Trust-Architektur, Least Privilege, starke Authentisierung und konsequentes Logging.
• Erkennungs- und Reaktionsfähigkeit stärken, damit Angriffe nicht nur verhindert, sondern auch frühzeitig bemerkt, bewertet und eingedämmt werden können.
• Regelmäßige Pentests und – je nach Reifegrad – Red Teamings durchführen, um nicht nur einzelne Schwachstellen, sondern auch realistische Angriffsketten, Erkennungsfähigkeit und Reaktionsprozesse zu überprüfen.
• Ein aktuelles Notfallhandbuch bereithalten, das Rollen, Entscheidungswege, Kommunikationskanäle, externe Kontakte und technische Sofortmaßnahmen klar regelt.
• Ein ausgereiftes Backupkonzept etablieren und Disaster-Recovery-Szenarien regelmäßig simulieren, damit Wiederherstellung nicht nur theoretisch möglich, sondern praktisch erprobt ist.

Wie geht es weiter?

Das britische NCSC (National Cyber Security Centre) betont, KI müsse auch als Chance zur Stärkung der Verteidigungsfähigkeiten betrachtet werden ¹². Unter anderem verortet das Institut einen besonderen Nutzen in den folgenden drei Bereichen:

• Schwachstellensuche und Penetration Testing durch kontinuierliche Überprüfung aktiver Systeme, Identifikation von Schwachstellen und Fehlkonfigurationen, Feststellung der Ausnutzbarkeit sowie Simulation von Angriffspfaden.
• Erkennung von Bedrohungen durch Triage von Alarmen, Erkennung von Mustern in Logdateien sowie Erstellung von Berichten zur Unterstützung der Analysten.
• Automatisierte Reaktion auf Bedrohungen durch Blockieren von Netzwerkverkehr, Isolieren verdächtiger Prozesse und Entziehen von Berechtigungen.
• Innerhalb der CANCOM gibt es aktuell mehrere Forschungsprojekte in diesen Bereichen. Die daraus entstehenden Prototypen liefern in Laborumgebungen beeindruckende Ergebnisse.

Doch während Angreifer beim Einsatz von KI den Vorteil haben, nicht unbedingt Rücksicht auf Risikominimierung und Datenschutz nehmen zu müssen, sind diese Anforderungen auf Verteidigerseite unumgänglich. Sicherzustellen, dass autonome Systeme bei der Simulation von Angriffspfaden sowie automationsgestützter Verteidigung konform und vorhersehbar agieren, ist einer der Schwerpunkte in der Forschung.

Quellen:

[1] https://www.wsj.com/tech/ai/ai-spending-tech-companies-compared-02b90046 
[2] https://x.com/karpathy/status/2015883857489522876
[3] https://x.com/bcherny/status/2015979257038831967
[4] https://sean.heelan.io/2025/05/22/how-i-used-o3-to-find-cve-2025-37899-a-remote-zeroday-vulnerability-in-the-linux-kernels-smb-implementation/
[5] https://red.anthropic.com/2026/zero-days/
[6] https://www.anthropic.com/news/mozilla-firefox-security
[7] https://www.anthropic.com/glasswing
[8] https://www.aisi.gov.uk/blog/our-evaluation-of-claude-mythos-previews-cyber-capabilities
[9] https://www.aisi.gov.uk/blog/our-evaluation-of-openais-gpt-5-5-cyber-capabilities
[10] https://openai.com/index/gpt-5-5-with-trusted-access-for-cyber/
[11] https://zerodayclock.com/ 
[12] https://www.ncsc.gov.uk/blogs/why-cyber-defenders-need-to-be-ready-for-frontier-ai