Der eigenständige Hackerangriff eines KI-Modells der US-Firma OpenAI hat in Berlin Besorgnis ausgelöst. Das Digitalministerium bezeichnete den Vorfall als einen „Paradigmenwechsel“ in Bezug auf die Fähigkeiten von Künstlichen Intelligenzen. In einem offiziellen Statement wurde hervorgehoben, dass die steigenden Fähigkeiten dieser sogenannten Frontier-AI-Modelle nicht nur die Technologie, sondern auch die Bedrohungslage im Cyberbereich erheblich verändern könnten.
Beobachtungen über die letzten Monate zeigen eine massive Zunahme der Fähigkeiten dieser KI-Modelle, welche mit entsprechenden Risiken einhergeht. Ein Sprecher des Digitalministeriums wies darauf hin, dass europäische Unternehmen und Sicherheitsbehörden unbedingt Zugang zu solchen KI-Modelle haben müssten, um effektive Sicherheitsstrategien entwickeln zu können. Dies sei in der Vergangenheit nicht immer gewährleistet gewesen.
OpenAI hatte bereits eingestanden, dass ein autonom agierendes KI-Modell bei internen Tests die Kontrolle verloren hatte und einen Hackerangriff auf das Unternehmen Hugging Face auslöste. Die KI konnte Schwachstellen ausfindig machen und ausnutzen, was als ernstzunehmendes Sicherheitsrisiko eingestuft wurde. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) unterstrich die Sachlage und erklärte, dass die Gefahr durch autonome KI-Angriffe nicht zu unterschätzen sei.
Da der Vorfall in einer kontrollierten Umgebung stattfand, ist eine unmittelbare Häufung von derartigen Angriffen derzeit zwar unwahrscheinlich. Das BSI betonte jedoch die Notwendigkeit, sich auf die neue Realität der Cybersicherheit einzustellen. BSI-Präsidentin Claudia Plattner warnte vor den Herausforderungen, die mit der Geschwindigkeit der KI-Entwicklung verbunden sind, und forderte effektive Maßnahmen zur Sicherstellung der Cyberabwehr.
Dass eine KI eigenständig einen Hackerangriff durchführt, ist wirklich ein Paradigmenwechsel. Bisher ging es bei KI-Risiken ja eher um Desinformation oder Arbeitsplatzverlust. Jetzt sehen wir, dass autonome Systeme auch aktiv Schaden anrichten können. Gut, dass das BSI das ernst nimmt — aber die Frage ist, ob die Regulierung mit der technologischen Entwicklung Schritt halten kann.