Новости из разведки США: Как ИИ связан с ЦРУ

Американские разведывательные службы с трудом принимают революцию в области искусственного интеллекта. Они считают, что если этого не сделать, то они будут раздавлены экспоненциальным ростом данных, поскольку технология наблюдения с помощью датчиков все больше покрывает планету. Но правительственные чиновники понимают, что технология еще молода и уязвима, а генеративный ИИ (прогностические модели, обученные на огромных массивах данных генерировать текст, изображения, видео и похожие на человеческие разговоры по запросу) не подходит для опасной профессии, где процветает мошенничество.

Аналитикам нужны "сложные модели искусственного интеллекта, способные ассимилировать большие объемы информации из открытых источников и тайно собранной информации", - написал недавно директор ЦРУ Уильям Бернс в журнале Foreign Affairs. Но это нелегко".

Нандо Марчандани, главный инженер ЦРУ, считает, что модели искусственного интеллекта "вызывают галлюцинации" и поэтому к ним лучше относиться как к "безумным пьяным друзьям". Существуют также проблемы безопасности и конфиденциальности. Враги могут украсть или отравить их, и они могут содержать конфиденциальные личные данные, которые сотрудникам не разрешается видеть. Но даже в этом случае эксперименты проходят в основном подпольно.

Osiris

Тысячи аналитиков из 18 разведывательных служб США используют разработанный ЦРУ генетический искусственный интеллект под названием Osiris. Osiris работает с несекретными, общедоступными или коммерчески доступными данными, так называемыми открытыми источниками. Osiris создает аннотированные сводки, а функция чат-бота позволяет аналитикам углубляться в запросы.

По словам Марчандани, в системе используются модели искусственного интеллекта от различных коммерческих поставщиков, но он отказался назвать их. Он также не сказал, использует ли ЦРУ искусственный интеллект в своих секретных сетях. Марчандани сказал: "Это все еще находится на ранних стадиях, и нашим аналитикам необходимо с абсолютной уверенностью определить, откуда поступает информация". По словам Марчандани, ЦРУ протестировало все основные модели искусственного интеллекта, но не остановилось ни на одной из них. По его мнению, генетический ИИ хорош в качестве виртуального помощника, который ищет "одну иголку в стоге иголок". Но он никогда не заменит человека-аналитика, настаивают чиновники.

Самое мощное интелектуальное приложение

По мнению Аншу Роя, генерального директора Lombus Power, самым мощным интеллектуальным приложением станет предиктивная аналитика. Это будет один из крупнейших сдвигов парадигмы во всей сфере национальной безопасности: способность предсказывать поведение противника. Искусственный интеллект Lombus основан на более чем 5000 потоков данных на 250 языках, собранных за десять лет, включая данные из глобальных источников новостей, спутниковых снимков и киберпространства. Все эти данные - с открытым исходным кодом. Мы можем отслеживать людей, мы можем отслеживать объекты", - говорит Рой.

Сверхсекретные сети

7 мая Microsoft объявила, что будет предлагать OpenAI GPT-4 для своей сверхсекретной сети. Конкурирующая компания Primer AI считает своими клиентами два неназванных разведывательных агентства, включая военные службы, согласно опубликованным в Интернете документам о недавнем семинаре по военному ИИ. Компания предлагает поиск на 100 языках с помощью ИИ для "обнаружения новых оповещений о чрезвычайных событиях" из таких источников, как Twitter, Telegram, Reddit и Discord, а также для выявления "ключевых людей, организаций и мест". Primer утверждает, в частности, что ее технология Ссылаясь на таргетинг, во время демонстрации на военной конференции через несколько дней после нападения ХАМАС на Израиль 7 октября, один из руководителей компании объяснил, как его технология отделяет вымысел от факта в онлайн-потоке информации с Ближнего Востока.

Риски внедрения ИИ

В краткосрочной перспективе то, как американские специалисты по разведке используют генетический искусственный интеллект, может быть не так важно, как противодействие тому, как его используют противники. Пока Кремниевая долина работает с этой технологией, Белый дом опасается, что модели искусственного интеллекта, используемые американскими властями, будут внедрены и отравлены. Другая проблема - обеспечение конфиденциальности "американцев", чьи данные могут быть встроены в большие языковые модели.

Спросите любого исследователя или разработчика, обучающего большую языковую модель, можно ли удалить одну часть информации из большой языковой модели, заставить ее забыть о ней и получить надежные эмпирические гарантии того, что она забыла, - это невозможно", - сказал в интервью глава отдела искусственного интеллекта Управления директора национальной разведки Джон Бейлор. Это одна из причин, по которой спецслужбы не пытаются быстро разрушить ситуацию, когда речь идет о внедрении ИИ. По словам Бэйлора, "мы не хотим, чтобы в мире, где мы внедряем все это так быстро, через два-три года обнаруживалась информация, эффекты и новые модели поведения, которые мы не предполагали". Например, если правительственное агентство решит использовать ИИ для исследования биооружия или технологий кибернетического оружия, это станет проблемой.

Уильям Хартунг, старший научный сотрудник Института ответственного правительства Куинси, говорит, что разведывательным службам необходимо помнить о непредвиденных последствиях, таких как незаконная слежка и увеличение числа жертв среди гражданского населения в конфликтах. Чтобы избежать непредвиденных последствий, необходимо тщательно оценивать ИИ на предмет возможного использования не по назначению. Это происходит на фоне неоднократных заявлений военных и разведки о "чудо-оружии" и революционных подходах, которые, как было показано, не сработали - от электронных полей сражений во Вьетнаме до программ "Звездных войн" 1980-х годов и "военной революции" 1990-х и 2000-х годов.  Правительственные чиновники утверждают, что понимают эти опасения. Более того, задачи ИИ сильно различаются в разных правительственных агентствах. Не существует универсального решения.

Запрос на Новый тип ИИ

В декабре NGA опубликовала запрос предложений на создание совершенно нового типа генеративной модели ИИ. Цель - собирать точную геопространственную информацию с помощью простых голосовых или текстовых сообщений, используя снимки, полученные со спутников и с земли. Генерируемые модели не наносят на карту автомобильные или железные дороги и "не понимают основ географии", - сказал в интервью Марк Мэнселл, директор по инновациям NGA. Мэнселл сказал в интервью.

На конференции в Арлингтоне, штат Вирджиния, в апреле Мэнселл сказал, что в настоящее время правительство США моделирует и наносит на карты лишь около 3% земного шара. Применение ИИ имеет смысл в киберконфликтах, где нападающие и защитники находятся в постоянной борьбе, а автоматизация изменчива. Но многие важные разведывательные операции не имеют ничего общего с наукой о данных, считает Закари Тайсон Браун, бывший сотрудник оборонной разведки. Он считает, что если спецслужбы слишком быстро или слишком полно внедрят генетический ИИ, возникнут проблемы. Модели не делают выводов. Они только предсказывают. А разработчики не могут хорошо объяснить, как это работает. В конечном счете, это плохой инструмент для конкуренции с соперниками, которые являются мастерами обмана.

Браун недавно написал во внутреннем журнале ЦРУ: "Анализ разведданных похож на старую поговорку о том, как собрать пазл, но кто-то другой всегда пытается украсть ваши кусочки и положить совершенно другие кусочки в ту кучу, над которой вы работаете". Аналитики работают с "неполной, неоднозначной, часто противоречивой, фрагментарной и ненадежной информацией". Они в значительной степени полагаются на интуицию, коллег и организационную память. "Я не думаю, что ИИ заменит аналитиков в ближайшее время", - говорит Вайсголд, бывший заместитель директора ЦРУ по анализу. Бывают моменты, когда приходится принимать решения, связанные с жизнью или смертью, на основе неполных данных, а нынешняя модель ИИ все еще слишком непрозрачна.