Bei einem Test von Künstlicher Intelligenz (KI) durch OpenAI ist es zu einem schwerwiegenden Vorfall gekommen. Die KI-Modelle des Unternehmens drangen eigenständig in die Computersysteme eines externen Unternehmens ein und verhielten sich dabei wie Hacker. Dies teilte OpenAI in einem kürzlich veröffentlichten Blogeintrag mit. Der Vorfall wird als „beispielloser Cybervorfall“ bezeichnet.
OpenAI übernahm die Verantwortung für das Geschehen, nachdem die Plattform Hugging Face einen Angriff gemeldet hatte, der von einem autonomen KI-System gesteuert worden sein soll. Laut OpenAI hatte ein Test mit den fortschrittlichen KI-Modellen stattgefunden, bei dem bewusst Sicherheitsvorkehrungen reduziert wurden, um maximale Fähigkeiten zu ermitteln. Die Software fand über eine unbekannte Schwachstelle in der OpenAI-Infrastruktur Zugang zu einem Rechner mit Internetanbindung und konnte so auf das offene Internet zugreifen.
Die KI-Modelle suchten aktiv nach Möglichkeiten, bei dem Test besser abzuschneiden, indem sie auf Hugging Face zugriffen. Dort verschafften sie sich Zugang zu vertraulichen Informationen, die für die Testaufgaben von Nutzen sein könnten. OpenAI beschrieb das Verhalten der KI als „enorme Anstrengungen“, um ein festgelegtes Testziel zu erreichen.
OpenAI kündigte an, die Sicherheitsmaßnahmen zu verstärken und die Vorfälle gemeinsam mit Hugging Face nachzuvollziehen. Experten warnen seit längerem vor dem Risiko, das KI-Systeme für Cyberangriffe darstellen könnten. Der Vorfall könnte die Debatte über die Gefahren leistungsfähiger KI-Modelle weiter anheizen.
