Нас ожидает восстание ИИ: Компания Илона Маска представляет новый проект

Илон Маск хочет "понять истинную природу Вселенной". По крайней мере, так он заявил на своем сайте, объявив о запуске своей новой компании по производству искусственного интеллекта. В голове лишь один вопрос "Какое влияние данная разработка окажет на общество?".

Как сообщается, Маск основал xAI в Неваде и приобрел "около 10 000 графических процессоров" - оборудование, необходимое для разработки и запуска передовых систем искусственного интеллекта. Компания не раскрыла источник финансирования, но в апреле Financial Times сообщила, что Маск ведет переговоры о получении финансирования от инвесторов SpaceX и Tesla - компаний, которые он возглавляет. Компания не раскрыла многих деталей о своих намерениях, но сообщила на своем сайте, что ее команда примет участие в конференц-звонке в Twitter Spaces, чтобы ответить на вопросы. xAI заявила, что компания по производству искусственного интеллекта будет тесно сотрудничать с Twitter, Tesla и другими компаниями для достижения своей миссии.

xAI и история искусственного интеллекта Маска

В команду xAI, возглавляемую Маском, входят бывшие сотрудники ведущих компаний в области искусственного интеллекта OpenAI и DeepMind, а также Microsoft и Tesla. Среди консультантов - Дэн Хендрикс, директор Центра безопасности искусственного интеллекта. Центр безопасности искусственного интеллекта уделяет большое внимание вопросам безопасности.

В мае этого года организация выпустила заявление, подписанное сотнями ученых и экспертов в области ИИ, а также руководителями ряда ведущих ИИ-компаний, в котором говорится, что снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война. Демис Хассабис, генеральный директор DeepMind, Inc. Хассабис, генеральный директор OpenAI Сэм Альтман и генеральный директор Anthropic Дарио Амодей были в числе подписавших документ. Маск не подписал заявление Центра безопасности ИИ, но он подписал открытое письмо, опубликованное в марте Институтом будущего жизни и призывающее ИИ-компании "немедленно приостановить обучение ИИ-систем мощнее GPT-4 как минимум на шесть месяцев".

Участие Маска в инвестициях

Маск является одним из президентов-основателей OpenAI, вместе с генеральным директором OpenAI Альтманом. Маск был частью группы инвесторов, включая Альтмана, Грега Брокмана, Рида Хоффмана, Джессику Ливингстон, Питера Тиля, Amazon Web Services, Infosys и YC Research, которые выделили $1 млрд на финансирование OpenAI в 2015 году. Маск заявил, что из этого $1 млрд он внес $100 млн.

Уход из кампании

Точные обстоятельства ухода Маска не совсем ясны. Согласно сообщению в блоге OpenAI и последующим твитам Маска, он покинул OpenAI, чтобы избежать конфликта интересов, когда Tesla стала уделять больше внимания искусственному интеллекту. Позже Semafor сообщил, что Маск предложил возглавить OpenAI, но ушел после того, как предложение было отклонено. FT сказали, что причиной ухода Маска стали конфликты с другими членами совета директоров и сотрудниками по поводу подхода OpenAI к безопасности ИИ.

После ухода из компании Маск критиковал направление развития OpenAI. В интервью Такеру Карлсону из Fox News в апреле этого года Маск сказал: "Сейчас они с закрытым исходным кодом, явно коммерческие и тесно связаны с Microsoft". Партнерство между Microsoft и OpenAI стоит миллиарды долларов: OpenAI получает доступ к облачным вычислениям Microsoft в обмен на системы искусственного интеллекта OpenAI, которые используются в продуктах Microsoft.

Возмущение Маска

В марте Маск написал в Twitter: "Я до сих пор не понимаю, как некоммерческая организация, которой я пожертвовал около $100 миллионов, превратилась в коммерческую организацию с рыночным капиталом в $30 миллиардов". OpenAI ранее заявляла, что из некоммерческой организации она превратилась в "гибрид коммерческой и некоммерческой", поскольку вычислительные требования, связанные с обучением передовых систем искусственного интеллекта, привели к тому, что OpenAI потребовалось собрать больше средств, чем обычной некоммерческой организации.

В интервью Карлсону Маск также сказал, что обеспокоен тем, что модели искусственного интеллекта будут обучены быть "политически корректными", и пообещал создать Truth GPT, который, по его словам, будет максимально правдоискательским ИИ.

Риски передовых систем ИИ

В прошлом Маск часто говорил о рисках, которые несут в себе передовые системы ИИ, а в интервью он также заявил, что создает новую организацию по ИИ, чтобы предотвратить "утопию ИИ". Однако эксперты и исследователи, в том числе консультант xAI Хендрикс, выразили обеспокоенность тем, что добавление еще одной хорошо финансируемой компании в экосистему ИИ может еще больше подстегнуть гонку по разработке мощных систем ИИ в ущерб усилиям по обеспечению их безопасности.

В ответ на сообщения о том, что Маск может основать новую ИИ-компанию, Хендрикс написал, что "появление новых крупных разработчиков ИИ может усилить конкурентное давление" и что "стремление быть первым может привести к жертвам со стороны игроков, особенно когда речь идет о компромиссах между безопасностью и конкурентоспособностью".

Также Маск подтвердил, что его подход к созданию безопасного ИИ будет основан на духе поиска правды ИИ во время дискуссии с конгрессменами Ро Ханной и Майком Галлахером в пространстве Twitter. Маск сказал: С точки зрения безопасности ИИ, ИИ с предельным любопытством, ИИ, который стремится понять Вселенную, будет про-человеческим. С точки зрения того, что человек интереснее, чем отсутствие человека.

Комментарий руководителя отдела политики ИИ

Джесс Уиттлстоун, руководитель отдела политики в области ИИ в британском аналитическом центре Center for Long-Term Resilience, сообщил TIME по электронной почте, что это "неортодоксальный (и, как мне кажется, довольно наивный) подход к безопасности ИИ. Я не уверен, что вы можете сказать, что значит для ИИ быть "максимально любопытным", и это огромный скачок - предполагать, что это означает, что ИИ будет поддерживать людей. Вся проблема в том, что мы не можем полностью понять эти модели ИИ или предсказать их поведение, и я не вижу в подходе Маска ничего, что позволило бы решить эту проблему".

Илон Маск всегда отличался своей радикальностью и новаторством, которое часто приземляют те кто смотрит на мир с более практической стороны. Мы имеем возможность рассматривать данный вопрос с разных сторон и делать свои выводы, формировать свое отношение к данным инновациям. Время покажет, как это в дальнейшем повлияет на будущее общества.