KI-generierter Code: Syntaktisch korrekt, aber oft unsicher

Von /
Isometrischer Laptop mit Code zwischen ungeprüft und geprüft – Sicherheitsprüfung von KI-generiertem Code

Laut dem neuen Developer Survey von Stack Overflow nutzen 73 Prozent der Entwickler mit KI-Coding-Assistenten diese täglich. KI-gene­rier­ter Code besteht laut einer Herstellerstudie von Veracode im Schnitt aber nur 56 Prozent der Sicherheitstests. Wir ordnen ein, was das für selbst­ge­baute Tools rund um Redaktionssystem, DAM und Kundendaten bedeu­tet.

Am 6. Oktober 2026 hat Stack Overflow die Ergebnisse seines Developer Survey 2026 veröf­fent­licht, an dem nach eige­nen Angaben mehr als 30.000 Menschen teil­ge­nom­men haben. Die KI-Nutzer setzen die Werkzeuge vor allem ein, um Code in vertrau­ten Bereichen zu erzeu­gen (67 Prozent) und zum Debugging (61 Prozent). Für Bereitstellung, Betrieb und Fehlersuche in Produktivsystemen nennen sie nur 20 Prozent.

Bemerkenswert ist eine weitere Zahl: Damit sie KI-Ausgaben vertrauen, verlan­gen 93 Prozent Quellenangaben. Auf welche Gruppe sich dieser Wert bezieht, lässt der Blogbeitrag offen. Die Richtung ist dennoch klar: Entwickler nutzen KI inten­siv, verlas­sen sich aber nicht blind auf sie.

Wie sicher ist KI-generierter Code?

Wie berech­tigt diese Vorsicht ist, zeigt der »2026 GenAI Code Security Report« des Sicherheitsanbieters Veracode, eine Herstellerstudie aus dem Sommer 2026. Für den aktu­el­len Datensatz wurden elf Modelle mit 80 Programmieraufgaben getes­tet. Syntaktisch korrekt ist der erzeugte Code laut Veracode nahezu immer. Bei den Sicherheitstests liegt die durch­schnitt­li­che Erfolgsquote dage­gen bei nur 56 Prozent, gemes­sen über mehr als 100 seit Programmstart getes­tete Modelle. Dieser Wert hat sich nach Angaben des Herstellers in vier Jahren prak­tisch nicht bewegt; sechs der elf aktu­el­len Modelle liegen zwischen 50 und 53 Prozent.

Selbst das beste Modell im Test, GPT‑5.5 von OpenAI, erreicht 68 Prozent und schei­tert damit an fast jeder drit­ten Sicherheitsaufgabe. Auf Programmierung spezia­li­sierte Modelle schnei­den mit 51 Prozent nicht besser ab als allge­meine Modelle mit 52 Prozent. Zwischen den Sprachen gibt es große Unterschiede: Laut Veracode erreicht Python 63 Prozent, Java als Schlusslicht nur 30 Prozent.

Für die Einordnung wich­tig: Getestet wurden die reinen Modelle, ohne Agenten-Setups, Leitplanken oder mensch­li­ches Review. Veracode-Mitgründer Chris Wysopal zieht daraus den Schluss, KI-Code sei wie jeder unge­prüfte Code zu behan­deln: »scan it, fix it, and never ship it blind«.

Was bedeutet das konkret?

Das Thema betrifft längst nicht mehr nur Entwicklungsabteilungen. In den Journalismus-Prognosen von Nieman Lab erwar­tete Kawandeep Virdee (Google Labs) für 2026, dass Journalisten zuneh­mend eigene Werkzeuge bauen, und warnte zugleich, solche per Vibe Coding (Software per Prompt erzeu­gen, ohne den Code im Detail zu verste­hen) entstan­de­nen Apps könn­ten fehler­haft, schwer wart­bar und unsi­cher sein. Gemeint sind etwa ein Skript für den Bildexport aus dem DAM, ein Formular für Leserdaten oder ein Konnektor, der Texte aus dem Redaktionssystem an einen KI-Dienst schickt.

Kritisch wird es an drei Stellen:

  • Zugangsdaten: Schnittstellen zu Redaktionssystem oder DAM brau­chen Zugangsdaten. Landen API-Schlüssel im Quelltext oder in einem öffent­li­chen Repository, ist der mögli­che Schaden größer als jeder Zeitgewinn.
  • Personenbezogene Daten: Sobald ein Tool Kunden‑, Abonnenten- oder Mitarbeiterdaten verar­bei­tet, gelten die Pflichten der DSGVO, unab­hän­gig davon, wer oder was den Code geschrie­ben hat.
  • Betrieb: Ein Prototyp auf dem Laptop hat keine Updates, kein Monitoring und keinen Verantwortlichen. Fällt der Ersteller aus, steht oft auch das Tool still.

Auch die Behörden sehen Handlungsbedarf: BSI und die fran­zö­si­sche ANSSI haben bereits im Oktober 2024 gemein­same Empfehlungen zum Einsatz von KI-Programmierassistenten veröf­fent­licht. Sie rich­ten sich ausdrück­lich an Entscheider und Entwickler und weisen unter ande­rem auf die Risiken gemein­sam genutz­ter, über das Internet erreich­ba­rer Dienste hin.

Unsere Empfehlung

Da die Werkzeuge ohne­hin täglich genutzt werden, kommt es auf einen schlan­ken, verbind­li­chen Prüfprozess an:

  • Keine Abkürzung in den Betrieb: KI-gene­rier­ter Code geht erst nach Review und auto­ma­ti­sier­ter Sicherheitsprüfung, etwa stati­scher Codeanalyse und Prüfung der Abhängigkeiten, an Produktivsysteme oder echte Daten.
  • Verantwortliche benen­nen: Jedes selbst­ge­baute Tool bekommt einen Owner, eine kurze Dokumentation und einen Platz in der Systemübersicht.
  • Testdaten statt Echtdaten: Prototypen arbei­ten mit anony­mi­sier­ten oder synthe­ti­schen Daten, bis die Prüfung abge­schlos­sen ist.
  • Minimale Rechte: Technische Benutzer für Schnittstellen erhal­ten nur die Rechte, die das Tool wirk­lich braucht. Zugangsdaten gehö­ren in einen zentra­len Secret-Speicher, nicht in den Code.
  • Betrieb planen: Was dauer­haft läuft, gehört auf eine gewar­tete Infrastruktur mit Updates, Backups und Monitoring.

So unter­stützt aaroon

Wer KI-gestützte Abläufe dauer­haft nutzen will, braucht Prozesse, die gesi­chert, über­wacht und geprüft sind – nicht einzelne unge­prüfte Eigenbauten. Dafür setzen wir auf ao.Services: Die KI-Workflows laufen dort als sichere, über­wachte und geprüfte Prozesse, ange­bun­den an WoodWing Studio oder WoodWing Assets und betrie­ben mit dem KI-Account des jewei­li­gen Kunden bei einem der gängi­gen Anbieter.

KI senkt die Hürde, Software zu schrei­ben. Die Verantwortung dafür, was diese Software mit Daten und Systemen macht, bleibt beim Betreiber.

Quellen

Wie können wir Sie unter­stüt­zen?

Kostenloses Erst-Gespräch

Lassen Sie uns gemein­sam prüfen, wo in Ihren Kommunikations‑, Marketing- oder Unternehmensprozessen konkrete Effizienzpotenziale liegen.

– Henning Bartens, Co-CEO

Termin verein­ba­ren


Strukturiert. Ehrlich. Informativ.

Nach oben scrollen