TL;DR: KI-Tools wie GitHub Copilot steigern die Produktivität, erhöhen aber messbar das Risiko: Studien finden weiterhin einen relevanten Anteil verwundbarer Vorschläge (CWE-Muster) und GitGuardian beobachtet in Repositories, in welchen Copilot aktiv ist, eine höhere Secret-Leak-Inzidenz (6,4 % vs. 4,6 %). Parallel bündelt Microsoft Schutz/Absicherung stärker in kostenpflichtigen Business- und Enterprise-Pakete - ein ökonomischer Kreislauf aus Risikoerzeugung und Symptombekämpfung.

Die Integration KI-gestützter Tools wie GitHub Copilot in den Entwicklungsalltag verspricht mehr Geschwindigkeit und Effizienz. Analysen zeigen jedoch ein diffizileres Bild: KI-Codeassistenten liefern in einem relevanten Anteil ihrer Vorschläge Code mit bekannten Sicherheits-Schwachstellen (CWEs) – auch in neueren Versionen [1].

Gleichzeitig strukturiert Microsoft sein Angebot so, dass umfassender Schutz und rechtliche Absicherung vor allem in kostenpflichtigen Business-/Enterprise-Paketen zu finden sind [2]. Diese Entwicklung wirft Fragen nach einem neuen ökonomischen Kreislauf in der Softwareentwicklung auf.

Mehr Code, mehr Leaks

Die Verheißung von KI-Assistenten ist simpel: mehr Geschwindigkeit, weniger Routinearbeit. Die Realität ist komplexer. Unabhängige Analysen – unter anderem von GitGuardian – zeigen, dass in einer Stichprobe Copilot-aktiver Repositories 6,4 % mindestens ein Secret geleakt haben, gegenüber 4,6 % in der Vergleichsmenge (≈ 40 % höher) [3].

Der Grund ist systemisch begründet: KI-Modelle wie Copilot sind primär darauf optimiert, kontextuell plausiblen und funktionierenden Code zu generieren – nicht zwingend sicheren. Und selbst bei klassischeren „CWE“-Risiken ist das Bild nicht beruhigend: In einer Replikationsstudie sank der Anteil verwundbarer Copilot-Vorschläge zwar von 36,54 % auf 27,25 %, bleibt aber klar messbar vorhanden. Was früher ein bewusster, prüfbarer Schritt eines Entwicklers war, geschieht heute automatisiert und oft unbemerkt im Hintergrund. Die KI skaliert somit nicht nur die Produktivität, sondern potenziell auch die Fehlerquote.

Dabei darf jedoch nicht übersehen werden, dass auch menschliche Entwickler ohne KI-Unterstützung regelmäßig Fehler machen und Secrets leaken; die KI wirkt hier primär als Katalysator, der diese bereits existierenden Risiken potenziert.

Trend zur „Self-Correction“: Hilfreich, aber keine Garantie

Aktuell setzt die Branche verstärkt auf Self-Correction-Mechanismen, um diese Risiken abzufangen. In einer empirischen Studie zu Copilot-generiertem Code testeten Fu et al. [5] Copilot Chat gezielt als Reparaturhilfe: Wurde die KI mit einem erweiterten Prompt gefüttert, der die Warnmeldungen statischer Analysewerkzeuge enthielt, verschwanden 55,5 % der zuvor gemeldeten Schwachstellen im Re-Scan. Ohne dieses explizite Feedback lag die Erfolgsquote lediglich bei 19,3 %.

Diese Zahlen verdeutlichen: Die „Intelligenz“ der Reparatur liegt im Feedback-Loop. Dennoch bleiben selbst unter Idealbedingungen 44,5 % der Findings bestehen. Die Selbstkorrektur ist damit zwar ein mächtiger Beschleuniger für die Bug-Behebung, reicht aber als alleinige Absicherung schlicht nicht aus.

Der ökonomische Kreislauf: Ursache und Symptombekämpfung

Microsoft hat ein betriebswirtschaftlich brillantes, für Kunden jedoch kostspieliges Modell geschaffen. So simpel und so genial:

1. Risiko-Erzeugung: Copilot beschleunigt die Entwicklung, erhöht aber messbar die Angriffsfläche – sowohl durch verwundbare Vorschläge als auch durch eine höhere Secret-Leak-Inzidenz.
2. Symptombekämpfung: Um diese Fehler wieder abzufangen, preist Microsoft Security Copilot und Autofix-Features an – abgerechnet über zusätzliche „Security Compute Units“ (SCUs) oder exklusive Enterprise-Lizenzen.

Das ist Geschäftssinn pur: Microsoft verkauft den Brandbeschleuniger für Ihren Entwicklungsalltag und hält, für den Fall der Fälle, den passenden Feuerlöscher in der teuren Lizenz bereit. Ein System, das fast jede zweite Sicherheitslücke übersieht, kann niemals die einzige Verteidigungslinie sein. Solange die KI die Fehlerquote massiv skaliert, bleibt Softwareentwicklung ein riskantes Spiel – es sei denn, man ist bereit, den Preis für die Premium-Absicherung zu zahlen.

Quellen

1. Assessing the Security of GitHub Copilot’s Generated Code - A Targeted Replication Study: https://arxiv.org/pdf/2311.11177v1
2. Establishing trust in using GitHub Copilot: https://resources.github.com/learn/pathways/copilot/essentials/establishing-trust-in-using-github-copilot
3. Yes, GitHub Copilot can leak secrets: https://blog.gitguardian.com/yes-github-copilot-can-leak-secrets/
4. Microsoft Security Copilot pricing: https://www.microsoft.com/en-us/security/pricing/microsoft-security-copilot
5. Fu et al. (2023/2025): Security Weaknesses of Copilot-Generated Code in GitHub Projects: https://arxiv.org/abs/2310.02059