Sicherheitsdefizite bei KI-Firmen: Andreessen kritisiert OpenAI und Co.

• Sicherheit rund um OpenAI in der Kritik
• Forderung nach Sicherheitsvorkehrungen, die denen des Manhattan-Projekts entsprechen
• Andreessen spricht sich für eine Verstaatlichung von OpenAI aus

Der Siegeszug von künstlicher Intelligenz (KI) schreitet stetig voran. ChatGPT, OpenAIs Chatbot, zählt zu den bekanntesten und meistgenutzten KI-Anwendungen. Die Frage, ob und inwiefern OpenAI tatsächlich angemessene Sicherheitsvorkehrungen trifft - unter anderem solche, die Hackerangriffe oder ausländische Spionage verhindern -, steht nun erneut zur Debatte, angestoßen durch Starinvestor Marc Andreessen.

Parallelen zum Manhattan-Projekt

Marc Andreessen zählt zu den einflussreichsten Investoren im kalifornischen Silicon Valley, dem Zentrum der US-Techbranche. Anfang März 2024 zeigte sich Andreessen nun über die aktuellen Sicherheitsvorkehrungen bei OpenAI besorgt. Auf X schrieb er, dass man bei KI-Laboren wie OpenAI eigentlich "strenge Sicherheitsüberprüfungs- und -freigabeverfahren für jeden, vom CEO bis zum Koch, mit monatlichen Lügendetektortests und ständiger interner Überwachung" erwarten würde - Sicherheitsmaßnahmen, die beim Manhattan-Projekt Verwendung fanden. Dieses wurde 1942 von den USA zur Entwicklung der Atombombe eingeführt und stand unter höchster Geheimhaltung. Wie Andreessen weiter schreibt, sei es damals russischen Spionen trotz umfangreicher Sicherheitsvorkehrungen gelungen, das ihnen noch fehlende Wissen für den Bau einer eigenen Atombombe aus dem US-amerikanischen Forschungslager zu entwenden. Für ihn birgt der Diebstahl von KI-Technologie und -Daten eine ähnlich große Gefahr - die heutige Sicherheitsvorkehrungen seien jedoch äußerst mangelhaft.

Let's assume, for discussion, that AI in 2024 is like atomic technology in 1943, that AI should therefore be handled like the Manhattan Project, and that the specific risk is that the Chinese Communist Party gains access to American AI. And let's use OpenAI as an example of an…

- Marc Andreessen ???? (@pmarca) March 3, 2024

Sicherheitsstandards bei KI-Laboren so löchrig wie Schweizer Käse

Andreessen fordert daher: Um KI adäquat schützen zu können, müssen in den OpenAI-Laboren noch strengere Sicherheitsregelungen und -maßnahmen als beim Manhattan-Projekt etabliert werden. Schließlich handle es sich um eine "zivilisatorische Bedrohung". Die aktuellen Schutzmaßnahmen entsprächen jedoch dem "Sicherheitsäquivalent von Schweizer Käse", so der Starinvestor, denn laut ihm sei es für Spione - etwa aus China - "trivial einfach", in die Labore von OpenAI einzudringen. Er gehe davon aus, dass China bereits jetzt über Downloads der gesamten US-amerikanischen KI-Forschung sowie des Codes verfüge. Andreessen fordert daher eine Verstaatlichung von KI-Firmen wie OpenAI - und das sofort.

Redaktion finanzen.ch