Die Nutzung von Künstlicher Intelligenz (KI) in Unternehmen, Beratungsfirmen und der Forschung nimmt ständig zu. Eine Vielzahl von Organisationen greift auf diese Technologie zurück, um Texte effizienter zu erstellen. Jedoch zeigen jüngste Entwicklungen, dass diese Arbeitsweise erhebliche Risiken birgt. Insbesondere Halluzinationen von KI-Modelle können zu gravierenden Fehlern führen, was sich in mehreren aktuellen Fällen bewahrheitet hat.
Ein Bericht der internationalen Beratungsgesellschaft KPMG, der die globale Anwendung von KI thematisierte, enthielt laut der Financial Times Fallstudien, die auf solchen Halluzinationen basierten. Der Hauptgrund für diese Fehler liegt in der Funktionsweise von KI-Systemen. Diese generieren Antworten auf der Grundlage statistischer Analysen von großen Textmengen, ohne zu wissen, ob die bereitgestellten Informationen zutreffend sind.
Darüber hinaus zeigt eine Untersuchung der Europäischen Rundfunkunion (EBU), dass 45 Prozent der Antworten von Chatbots signifikante Mängel in Bezug auf Genauigkeit und Quellenangabe aufwiesen. Obwohl viele KI-Modelle seitdem verbessert wurden, bleibt die Gefahr von fehlerhaften Ausgaben bestehen. Dies zeigt sich auch bei aktuellen Themen, bei denen die Chatbots veraltete Informationen verwenden können, da sie oft mit älteren Texten gefüttert werden.
Eine weitere Problematik ist die unkritische Übernahme von Informationen aus dem Internet. Forscher haben herausgefunden, dass ein erheblicher Anteil der online verfügbaren Inhalte mittlerweile KI-generiert oder zumindest KI-unterstützt ist. Diese Entwicklungen wurden aktuell in einer Analyse des Imperial College London und der Stanford University aufgezeigt, die feststellte, dass etwa 35 Prozent neu veröffentlichter Websites KI-generiert sind.
Kürzlich erlebten auch andere Beratungsunternehmen wie Deloitte und EY Kanada ähnliche Schwierigkeiten. So musste Deloitte die Ergebnisse einer Analyse korrigieren, die falsch zugeordnete Quellen und Zitate enthielt. Diese Untersuchung war für das Ministerium für Beschäftigung und Arbeitsbeziehungen vorgesehen.
Vor dem Hintergrund dieser Ereignisse warnen Experten, dass die massive Verwendung von KI in Beratung und Wissenschaft zu einer Verlagerung von Aufgaben führt. Oliver Schlenker vom ifo Zentrum für Soziale Marktwirtschaft betont, dass die Nutzung von KI zwar einen Anstieg der Produktivität verspricht, jedoch die kritische Prüfung der generierten Inhalte oft vernachlässigt wird. Die Bedeutung einer solchen Überprüfung ist essenziell, um die Integrität und Richtigkeit der Informationen zu gewährleisten.
KPMG selbst räumt ein, dass die Qualitätssicherung in ihren Veröffentlichungsprozessen nicht ausreichte, und kündigt an, diese zu überprüfen und nötige Optimierungen vorzunehmen. Es bleibt abzuwarten, wie Unternehmen und Institutionen auf diese Herausforderungen reagieren und welche Standards zur Reduktion von Fehlerquellen in der Nutzung von Künstlicher Intelligenz implementiert werden.
