KI-gestützte Integration zur automatischen Bedrohungsanalyse (KIBA)

Berichte über Cyberangriffe sind in den Medien längst keine Seltenheit mehr. Mit der steigenden Anzahl vernetzter Systeme und dem zunehmenden Datenaustausch entstehen neue und vielfältige Möglichkeiten für Angreifer:innen, Schwachstellen in Softwareprodukten auszunutzen. Gleichzeitig verpflichten neue gesetzliche Vorgaben wie der Cyber Resilience Act (CRA) Unternehmen dazu, die Sicherheit ihrer Software nachhaltig zu verbessern und Sicherheitsaspekte bereits frühzeitig in den Entwicklungsprozess zu integrieren.

Mit dem Forschungsprojekt KIBA (KI-gestützte Integration zur automatischen Bedrohungsanalyse) geht das Fraunhofer IEM der Frage nach, wie generative KI-Systeme Unternehmen bei der Bedrohungsanalyse unterstützen können. Ziel ist es, den manuellen Aufwand zu reduzieren, Sicherheitsrisiken frühzeitig zu erkennen und die Entwicklung sicherer Software langfristig zu erleichtern.

Bedrohungen frühzeitig erkennen und bewerten

Regelmäßige, umfassende Bedrohungsmodellierung spielt eine entscheidende Rolle bei der Entwicklung sicherer Software. Sie ermöglicht, potenzielle Schwachstellen und Angriffsszenarien früh zu identifizieren, risikobasiert zu priorisieren und daraus geeignete Sicherheitsanforderungen sowie Gegenmaßnahmen abzuleiten. Werden diese bereits zu Beginn des Entwicklungsprozesses berücksichtigt, lassen sich Sicherheitslücken häufig vermeiden, bevor sie später aufwendig behoben werden müssen.

In der Praxis stoßen viele Entwicklungsteams jedoch hier an ihre Grenzen. Häufig fehlen Zeit, personelle Ressourcen oder spezifisches Fachwissen, um Bedrohungsanalysen effektiv und kontinuierlich umzusetzen. Dadurch bleiben potenzielle Risiken mitunter unentdeckt oder werden erst in späten Entwicklungsphasen bekannt.

Generative KI als Unterstützung für Entwicklungsteams

Das Forschungsprojekt KIBA untersucht, inwieweit sich generative KI-Systeme wie ChatGPT oder GitHub Copilot eignen, um Bedrohungsanalysen zu automatisieren und langfristig in den Entwicklungsprozess zu integrieren.  Die KI soll Entwicklungsteams dabei unterstützen, potenzielle Angriffsszenarien frühzeitig zu identifizieren und Sicherheitsanforderungen systematisch abzuleiten.

Dabei steht nicht der Ersatz menschlicher Expertise im Vordergrund, sondern ihre gezielte Unterstützung. Durch die Kombination aus menschlichem Fachwissen und KI-gestützten Analysen sollen Sicherheitsprozesse effizienter gestaltet und die Wirksamkeit kontinuierlicher Bedrohungsanalysen verbessert werden. So leistet das Projekt einen Beitrag dazu, Softwareprodukte resilienter gegenüber Cyberangriffen zu machen und Unternehmen bei der Umsetzung zukünftiger Sicherheitsanforderungen zu unterstützen.