Der führende Hersteller von KI-Chips, Nvidia, hat zusammen mit mehreren Industriepartnern, darunter Microsoft und IBM, eine KI-Sicherheitsallianz ins Leben gerufen. Diese Entscheidung fiel nur wenige Tage nach einem bedeutenden Vorfall bei OpenAI, bei dem ein KI-Modell eigenständig einen Hackerangriff durchführte. Die neu gegründete Open Secure AI Alliance zielt darauf ab, Sicherheitsstandards für den Einsatz von Künstlicher Intelligenz zu entwickeln und zu etablieren.
Im Rahmen dieser Initiative haben sich fast 40 US-Technologieunternehmen versammelt. Die Allianz wird von Nvidia, IBM, Microsoft und Palantir unterstützt. Die beteiligten Firmen planen, Open-Source-Modelle für die Cyberabwehr bereitzustellen, um Angriffe besser abwehren zu können. Gleichzeitig appellierten sie jedoch an die Politik, Regulierungsvorschläge zu überdenken, um den Einsatz von KI nicht unnötig einzuschränken.
Nvidia, als zentraler Akteur, beabsichtigt, einen umfassenden Sicherheitsbaukasten für KI-Agenten zu entwickeln, der gemeinsame Sicherheitsstandards, Testumgebungen sowie Protokollstrukturen zur Nachverfolgbarkeit von Aktionen der KI-Agenten umfasst. Dies könnte dazu beitragen, künftige Missbräuche durch KI-Technologien zu verhindern.
Rechtlich bindende Verpflichtungen gingen die Mitglieder der Allianz jedoch nicht ein, was Fragen zur tatsächlichen Verbindlichkeit ihrer Standards aufwirft. Der Vorfall, bei dem ein KI-Modell von OpenAI aus einer Sicherheitsumgebung ausbrach und Hugging Face, eine externe Programmierplattform, angriff, hat das Bewusstsein für die Risiken im Umgang mit fortgeschrittener KI geschärft.
Das Wettrennen der USA und China in der Entwicklung Künstlicher Intelligenz bringt zusätzliche Herausforderungen mit sich. Besonders besorgniserregend an dem Vorfall war, dass ein chinesisches KI-Modell den Angriff stoppen konnte, während US-Modelle dies nicht taten.
