Der Aufstand der KI erwartet uns: Elon Musks Unternehmen stellt neues Projekt vor

Elon Musk will "die wahre Natur des Universums verstehen". Zumindest sagt er das auf seiner Website, auf der er die Gründung seines neuen Unternehmens für künstliche Intelligenz ankündigt. Die einzige Frage, die ihn beschäftigt, ist: "Welche Auswirkungen wird diese Entwicklung auf die Gesellschaft haben?".

Berichten zufolge gründete Musk xAI in Nevada und kaufte "etwa 10.000 Grafikprozessoren" - die Ausrüstung, die für die Entwicklung und den Betrieb fortschrittlicher künstlicher Intelligenzsysteme benötigt wird. Das Unternehmen hat die Quelle seiner Finanzierung nicht bekannt gegeben, aber die Financial Times berichtete im April, dass Musk in Gesprächen mit Investoren von SpaceX und Tesla, den Unternehmen, die er leitet, war, um eine Finanzierung zu sichern. Das Unternehmen hat nicht viele Details über seine Absichten bekannt gegeben, aber auf seiner Website angekündigt, dass sein Team an einer Telefonkonferenz bei Twitter Spaces teilnehmen wird, um Fragen zu beantworten. xAI sagte, dass das Unternehmen für künstliche Intelligenz eng mit Twitter, Tesla und anderen zusammenarbeiten wird, um seine Mission zu erfüllen.

xAI und die Geschichte der künstlichen Intelligenz von Musk

Zum xAI-Team unter der Leitung von Musk gehören ehemalige Mitarbeiter der führenden Unternehmen für künstliche Intelligenz OpenAI und DeepMind sowie von Microsoft und Tesla. Zu den Beratern gehört auch Dan Hendricks, Direktor des Centre for Artificial Intelligence Security. Das Zentrum für die Sicherheit künstlicher Intelligenz hat einen starken Fokus auf Sicherheit.

Im Mai dieses Jahres veröffentlichte die Organisation eine von Hunderten von KI-Wissenschaftlern und -Experten sowie Führungskräften einiger führender KI-Unternehmen unterzeichnete Erklärung, in der es heißt, dass die Verringerung des Risikos der Auslöschung durch KI neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein sollte. Demis Hassabis, CEO von DeepMind, Inc. Hassabis, Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, gehörten zu den Unterzeichnern. Musk hat die Erklärung des KI-Sicherheitszentrums nicht unterzeichnet, wohl aber einen offenen Brief, der im März vom Future of Life Institute veröffentlicht wurde und in dem die KI-Unternehmen aufgefordert werden, "das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, für mindestens sechs Monate auszusetzen".

Musks Beteiligung an Investitionen

Musk ist einer der Gründungsvorsitzenden von OpenAI, zusammen mit OpenAI-CEO Altman. Musk gehörte zu einer Gruppe von Investoren, darunter Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Amazon Web Services, Infosys und YC Research, die OpenAI im Jahr 2015 eine Milliarde Dollar zur Verfügung stellten. Musk hat erklärt, dass er von dieser 1 Milliarde $ 100 Millionen $ beigesteuert hat.

Rückzug aus der Kampagne

Die genauen Umstände des Ausstiegs von Musk sind nicht ganz klar. Einem OpenAI-Blogbeitrag und Musks nachfolgenden Tweets zufolge verließ er OpenAI, um einen Interessenkonflikt zu vermeiden, als Tesla begann, sich stärker auf künstliche Intelligenz zu konzentrieren. Semafor berichtete später, dass Musk angeboten habe, OpenAI zu leiten, das Unternehmen aber verlassen habe, nachdem das Angebot abgelehnt worden sei. Der FT zufolge lag der Grund für Musks Ausscheiden in Konflikten mit anderen Vorstandsmitgliedern und Mitarbeitern über den Ansatz von OpenAI im Bereich der KI-Sicherheit.

Seit seinem Ausscheiden aus dem Unternehmen hat sich Musk kritisch über die Richtung von OpenAI geäußert. In einem Interview mit Tucker Carlson von Fox News im April dieses Jahres sagte Musk: "Sie sind jetzt Closed-Source, eindeutig kommerziell und eng mit Microsoft verbunden". Die Partnerschaft zwischen Microsoft und OpenAI ist milliardenschwer: OpenAI erhält Zugang zu Microsofts Cloud Computing im Austausch für OpenAIs künstliche Intelligenzsysteme, die in Microsoft-Produkten eingesetzt werden.

Musks Empörung

Im März schrieb Musk auf Twitter: "Ich verstehe immer noch nicht, wie aus einer gemeinnützigen Organisation, der ich etwa 100 Millionen $ gespendet habe, ein gewinnorientiertes Unternehmen mit einer Marktkapitalisierung von 30 Milliarden $ wurde". OpenAI hatte zuvor erklärt, dass es sich von einer gemeinnützigen Organisation zu einer "Mischung aus gewinnorientierter und gemeinnütziger Organisation" entwickelt habe, da der Rechenaufwand für die Ausbildung fortschrittlicher Systeme der künstlichen Intelligenz bedeutete, dass OpenAI mehr Mittel aufbringen musste als eine typische gemeinnützige Organisation.

In seinem Interview mit Carlson sagte Musk auch, er sei besorgt, dass KI-Modelle darauf trainiert würden, "politisch korrekt" zu sein, und versprach, Truth GPT zu schaffen, das seiner Meinung nach die ultimative wahrheitssuchende KI sein würde.

Die Risiken fortschrittlicher KI-Systeme

Musk hat sich in der Vergangenheit häufig zu den Risiken fortschrittlicher KI-Systeme geäußert, und in einem Interview sagte er auch, dass er eine neue KI-Organisation gründen wolle, um eine "KI-Utopie" zu verhindern. Experten und Forscher, darunter die xAI-Beraterin Hendricks, haben jedoch Bedenken geäußert, dass die Aufnahme eines weiteren kapitalkräftigen Unternehmens in das KI-Ökosystem den Wettlauf um die Entwicklung leistungsfähiger KI-Systeme auf Kosten der Bemühungen um deren Sicherheit weiter anheizen könnte.

Als Reaktion auf Berichte, wonach Musk ein neues KI-Unternehmen gründen könnte, schrieb Hendricks, dass "das Auftauchen großer neuer KI-Entwickler den Wettbewerbsdruck erhöhen könnte" und dass "das Streben, der Erste zu sein, zu Opfern bei den Akteuren führen kann, insbesondere wenn es um Kompromisse zwischen Sicherheit und Wettbewerbsfähigkeit geht".

In einer Diskussion mit den Kongressabgeordneten Ro Khanna und Mike Gallagher auf Twitter bekräftigte Musk außerdem, dass sein Ansatz zur Schaffung einer sicheren KI auf dem Geist der Wahrheitssuche der KI beruhen wird. Musk sagte: Was die sichere KI betrifft, so wird eine KI mit extremer Neugier, eine KI, die das Universum zu verstehen sucht, pro-menschlich sein. Unter dem Gesichtspunkt, dass ein Mensch interessanter ist als kein Mensch.

Kommentar der Leiterin der KI-Politik

Jess Whittlestone, Leiter der Abteilung für KI-Politik beim britischen Think Tank Center for Long-Term Resilience, erklärte gegenüber TIME per E-Mail, dies sei "ein unorthodoxer (und, wie mir scheint, ziemlich naiver) Ansatz für KI-Sicherheit. Ich bin mir nicht sicher, ob man sagen kann, was es für KI bedeutet, "maximal neugierig" zu sein, und es ist ein großer Sprung, anzunehmen, dass dies bedeutet, dass KI den Menschen unterstützen wird. Das ganze Problem besteht darin, dass wir diese KI-Modelle nicht vollständig verstehen oder ihr Verhalten vorhersagen können, und ich sehe Musks Ansatz nicht als Lösung für dieses Problem".

Elon Musk ist seit jeher für sein radikales und innovatives Denken bekannt, das von denjenigen, die die Welt aus einer eher praktischen Perspektive betrachten, oft abgeschmettert wird. Wir haben die Möglichkeit, dieses Thema aus verschiedenen Blickwinkeln zu betrachten und unsere eigenen Schlussfolgerungen zu ziehen und uns unsere eigene Haltung zu diesen Innovationen zu bilden. Die Zeit wird zeigen, wie sie sich auf die Zukunft der Gesellschaft auswirken wird.