Im heutigen digitalen Zeitalter, in dem große Sprachmodelle wie ChatGPT immer mehr an Bedeutung gewinnen, weist das Bundesamt für Sicherheit in der Informationstechnik (BSI) in seinem aktuellen Lagebericht 2023 darauf hin, dass wir es mit neuen und ungewohnten Bedrohungen zu tun haben. So effizient und innovativ der Einsatz dieser Technologien in Unternehmen auch sein mag, er birgt Risiken, die weit über die bekannten Gefahren von Ransomware und ungepatchten Schwachstellen hinausgehen. Interessanterweise weist das BSI nun auf ein bisher weniger beachtetes Problem hin: die Gefahren der generativen KI. Unternehmen integrieren diese Technologien zunehmend in ihre Infrastruktur, um alltägliche Aufgaben wie das Formulieren von E-Mails, die Analyse von Daten oder das Erstellen von Präsentationen zu erleichtern. Diese Entwicklung stellt einen Fortschritt dar, öffnet aber auch Türen für potenzielle neue Angriffsvektoren.

Ein besonderer Schwerpunkt liegt auf dem Einsatz von KI zur Codegenerierung. Während dies die Programmierarbeit zweifellos effizienter macht, weist das BSI darauf hin, dass die inhärente Fehleranfälligkeit großer Sprachmodelle eine Quelle von Schwachstellen sein könnte. Fehler im Code oder „halluzinatorische“ Ausgaben von KI-Modellen könnten übersehen und ungeprüft in Produkte übernommen werden, was zu ernsthaften Sicherheitsrisiken führen kann. Noch beunruhigender ist die Vorstellung, dass Angreifer diese KI-Modelle nutzen könnten, um automatisiert nach Sicherheitslücken zu suchen, ohne dass dafür tiefgreifende Fachkenntnisse erforderlich sind. Das Risiko solcher Schwachstellen wird durch die Komplexität und die schwer nachvollziehbaren Entscheidungswege von KI-Systemen noch verstärkt. Da diese Systeme ihre Entscheidungen oft nicht eindeutig erklären können, ist eine vollständige Kontrolle durch menschliche Aufsicht nicht möglich.

Ein weiteres Problem besteht darin, dass herkömmliche Sicherheitsansätze wie „Security by Design“ beim Einsatz von KI-Modellen nicht mehr greifen. Da KI-Modelle oft selbstlernend sind und kein festes „Design“ haben, kann Sicherheit nicht mehr von vornherein eingeplant werden. Das BSI weist auch darauf hin, dass die sprachliche Manipulierbarkeit von KI-Modellen zu einer erheblichen Schwachstelle werden kann. Es sind bereits Fälle bekannt geworden, in denen durch geschickt formulierte Prompts vertrauliche Informationen aus KI-Modellen extrahiert werden konnten, obwohl die Modelle eigentlich für andere Zwecke konzipiert waren.

Neben der direkten Ausnutzung von KI-Modellen für bösartige Zwecke gibt es auch indirekte Methoden, wie das Einbetten von versteckten Befehlen in Web-Inhalte, die von einem KI-Modell beim Zugriff auf das Internet aufgenommen und ausgeführt werden können. Diese Art der „Prompt Injection“ kann für Angreifer ein einfacher Weg sein, in Unternehmensnetzwerke einzudringen oder Schadsoftware zu verbreiten. Das BSI weist darauf hin, dass es derzeit keine wirksamen Methoden gibt, solche Angriffe zu erkennen oder abzuwehren. Antivirensoftware, die traditionell auf die Erkennung von bekannter Schadsoftware und auffälligem Verhalten angewiesen ist, steht vor der Herausforderung, dass sich Schadbefehle in zahlreichen semantischen Variationen verbergen können.

Abschließend betont das BSI, dass KI bei der Abwehr von Cyber-Angriffen zwar hilfreich sein kann, aber die Gefahr besteht, dass die negativen Auswirkungen überwiegen. Die Herausforderung, vor der wir stehen, ist nicht nur die Entwicklung neuer Sicherheitskonzepte für den Umgang mit KI-Technologien, sondern auch das gründliche Verständnis und die kritische Bewertung der Risiken, die mit ihrer Anwendung einhergehen. Dieser realistische Blick auf die potenziellen Gefahren großer Sprachmodelle ist entscheidend, um zukünftige Sicherheitsstrategien anzupassen und zu stärken.