Foreign Affairs (США): шпионы, ложь и алгоритмы. Часть вторая - «Общество»

{short-story limit="540"}

Читайте первую часть

Часть вторая

Дезинформационная революция

Американскому разведывательному сообществу необходимо понять, как освоить плоды революции открытых источников и прочие передовые технологии быстрее противников США. В то же время, оно должно искать некий баланс, соблюдая свои конституционные и этические обязательства, касающиеся неприкосновенности личной информации и гражданских свобод.

Говорить об этом легко, а делать гораздо труднее. Опять же, возьмем в качестве примера данные из открытых источников. В эпоху средневековья, когда бумага являлась признаком богатства, а книги хранились в монастырях, знание было ценным, а его создание обходилось дорого. Сейчас создание контента стоит настолько дешево, что по некоторым оценкам, объем хранимых на Земле данных удваивается каждые два года. То есть, в следующие 24 месяца человечество создаст столько же данных, сколько появилось за всю историю. Разведывательным органам всегда приходилось заниматься поиском иголок в стогах сена. Сегодня эти стога увеличиваются в геометрической прогрессии.

Многие частные компании предлагают «мониторинг общественного мнения» в соцсетях и другие решения, в которых используется информация из открытых источников. Они способны очень быстро проанализировать эту информацию. Связанная с ЦРУ фирма венчурного капитала «Инкьютел» (In-Q-Tel) дала стартовый капитал на разработку многих перспективных технологий. Но чтобы технологические инновации укоренились в разведывательных ведомствах, требуются немалые усилия, поскольку в этой сфере работают закрепившиеся на своих позициях подрядчики, у которых есть свои финансовые стимулы, спроектированные по индивидуальному заказу и устаревшие системы информационных технологий, а также склеротичная, не расположенная к риску политика закупок, из-за которой коммерческим компаниям, и особенно стартапам, исключительно трудно работать с государством.

Сбор и обработка данных это лишь полдела. Накапливать информацию бесполезно, если аналитики не в состоянии определить, какая информация достоверна, а какая нет. Достоверность разведсведений — это серьезная проблема даже тогда, когда речь идет о секретной информации. А в мире открытых источников проблема достоверности становится намного серьезнее. Блогеры, народные репортеры и прочие поставщики онлайнового контента работают под воздействием разных стимулов, однако отдают предпочтение оперативности и провокационности информации, а не ее корректности и достоверности. В результате существенно возрастает риск ошибки.

Добавьте к этому усиливающийся вызов своевременности. В эпоху гугла, когда для получения информации от кого угодно и о чем угодно достаточно кликнуть мышкой или провести пальцем по экрану смартфона, контент из открытых источников все чаще плывет прямо в руки политиков без какого-либо подтверждения или анализа. По этой причине представители власти могут делать поспешные выводы вместо того, чтобы дожидаться менее оперативных разведывательных оценок, в которых тщательно проверяется надежность источников и даются альтернативные толкования важных событий. Чтобы остаться востребованными в таких условиях, аналитики из разведки вынуждены работать быстрее. Порой это идет во вред глубине анализа. Соперничество с открытыми источниками также вынуждает аналитиков чаще давать краткосрочные разведывательные оценки и отказываться от анализа долговременной перспективы. Дефицит такого перспективного анализа уже налицо.

Отделять правду от вымысла со временем будет все сложнее. Искусственный интеллект дал толчок дезинформационной революции. Российская дезинформация в преддверии выборов 2016 года не выдерживает никакого сравнения с тем, что будет возможно уже очень скоро благодаря «глубоким фейкам», как называют фальшивый аудио- или видеоматериал, максимально приближенный к реальности. Исследователи из бизнеса и науки уже создают очень реалистичные фотографии несуществующих людей. Группы из Стэнфордского и Вашингтонского университетов воспользовались технологиями искусственного интеллекта и синхронного движения губ для создания фейковых видео фальшивого Барака Обамы, произносящего фразы, которые экс-президент никогда не произносил. Доступ к упрощенным кодам «глубоких фейков» быстро распространяется. Некоторые программы настолько просты, что даже старшеклассник, не изучавший компьютерные науки, может с их помощью создавать убедительные подделки. Даже качественные вычислительные ресурсы, необходимые для создания изощренных «глубоких фейков», можно сегодня приобрести по невысокой цене.

Не нужно быть семи пядей во лбу, чтобы понять, какие серьезные манипуляции можно осуществлять при помощи этих технологий. Представьте, что вы смотрите с виду подлинное видео, в котором иностранный руководитель рассказывает о тайной программе по созданию ядерного оружия, или кандидат в президенты накануне выборов растлевает ребенка. Все их возражения легко можно будет отбросить в сторону, так как доказательства кажутся неопровержимыми. В конце концов, лучше один раз увидеть, чем сто раз услышать.

Перед разведывательными органами встанет непомерно сложная задача по разоблачению «глубоких фейков». В отличие от других подделок, «глубокий фейк», такой как обработанное в фотошопе изображение, очень трудно распознать, и все благодаря технике искусственного интеллекта, изобретенной инженером компании «Гугл» в 2014 году. Это алгоритм машинного обучения под названием генеративно-состязательная сеть. Такой подход предусматривает противопоставление двух компьютерных алгоритмов, когда один генерирует изображения, а второй пытается заметить фейки. Поскольку алгоритмы обучаются, состязаясь друг с другом, любой детектор глубокого фейка проработает очень недолго, потому что его все равно перехитрят. Обман и введение в заблуждение всегда были составной частью шпионажа и войны, но они никогда не выходили на такой уровень точности, охвата и скорости.

Правильное понимание стратегии

Американское разведывательное сообщество предприняло ряд важных шагов, чтобы адаптироваться в этой быстро меняющейся технологической среде. В 2015 году тогдашний директор ЦРУ Джон Бреннан (John Brennan) создал новое управление, которое занимается цифровыми инновациями, а также провел тщательную ревизию организационно-штатной структуры ЦРУ, чтобы сблизить специалистов по цифровым технологиям и аналитиков открытых источников с традиционными сборщиками и аналитиками информации. Национальное агентство геопространственной разведки запустило инициативу по искусственному интеллекту, чтобы ускорить и усовершенствовать анализ изображений. ЦРУ, АНБ и прочие ведомства переместились в «облако», создав «среду синтеза больших данных», которая позволяет аналитикам быстрее и эффективнее искать огромные объемы информации. Есть и другие перемены, но они засекречены.

Это многообещающие усилия, но отдельных мер по исправлению положения недостаточно. Разведывательному сообществу нужна комплексная стратегия для сохранения разведывательных преимуществ США в новую технологическую эпоху. Стратегия национальной разведки за 2019 год не соответствует поставленной цели, поскольку она отличается самоуспокоенностью и благодушием. В ней присутствуют малопонятные призывы «усилить интеграцию и координацию», «эффективнее применять партнерства» и «развивать прозрачность, защищая информацию из сферы национальной безопасности». Инновациям там уделяется лишь половина страницы.

Стратегия национальной разведки в новую технологическую эпоху должна начинаться с изложения отличительных сильных сторон США и способов их применения для обретения долговременных преимуществ. Сегодня дискуссия на тему внешней политики США сосредоточена в основном на наших недостатках. Ее участники рисуют картину изолированной и уязвимой страны, которую превосходят безжалостные и эффективные диктаторы. В новой разведывательной стратегии от такого подхода необходимо отказаться. Вместо того, чтобы завидовать самовластным деспотам, надо для начала признать, что у Америки есть много чего такого, чего нет ни у одного из ее противников, и что эти возможности с лихвой возмещают недостатки.

Соединенные Штаты превосходят своих противников по многим направлениям и параметрам. Обширная система альянсов, включающая партнерство «Пять глаз» с участием Австралии, Канады, Новой Зеландии и Британии, расширяет глобальные возможности и потенциал США. Разнообразное в этническом плане население дает естественные преимущества в сборе агентурной разведывательной информации по всему миру. Открытое общество и демократические ценности США уже давно способствуют свободному потоку идей и помогают убеждать иностранные государства присоединиться к общему делу. А инновационная экосистема Америки по-прежнему служит непревзойденным инкубатором революционных технологий.

Но чтобы полноценно воспользоваться этими сильными сторонами, нужны масштабные усилия с участием всего разведывательного сообщества и с привлечением компаний информационных технологий, гражданского общества и науки. Возглавить эту реформаторскую работу может авторитетная комиссия, учрежденная конгрессом и действующая под его контролем. Невозможно предсказать, какие идеи и инициативы возникнут в процессе этой работы, но некоторые области повышенного интереса очевидны уже сейчас.

Если вести речь об организационных вопросах, то разведка по открытым источникам должна вестись в рамках собственного ведомства. В настоящее время сбор этой информации осуществляется через Предприятие открытых источников, действующее при ЦРУ. Но такая организация имеет свои недостатки. Это как ВВС в составе сухопутных войск. Разведка из открытых источников находится в составе бюрократического аппарата, который, естественно, отдает предпочтение другим приоритетам, а это мешает выполнению поставленных задач. Тайны в ЦРУ все равно будут безраздельно господствовать, из-за чего информация из открытых источников будет считаться второстепенной. Разведка по открытым источникам не получит необходимое ей внимание и финансирование до тех пор, пока будет находиться в составе ЦРУ или какого-то другого существующего ведомства.

Не менее важен и человеческий капитал. Существующая сегодня в разведывательных органах система подбора кадров из другого времени, когда офицеры-разведчики всю жизнь работали на государство и делали там свою карьеру. Сегодня в некоторых ведомствах первоклассные специалисты уходят, проработав там всего несколько лет, и больше не возвращаются. Вместе с ними уходят знания, подготовка и опыт. А многие вообще не приходят в спецслужбы из-за медлительного и забюрократизированного процесса подбора и оформления. Особенно трудно привлечь и удержать специалистов по информационным технологиям. Спецслужбам нужно больше достойных кадров, а не просто тех, кто просиживает там свои штаны. Им надо привлекать в свои ряды молодых специалистов как из государственного сектора, так и из частного, чтобы улучшить отношения, взаимопонимание и взаимное доверие между американской отраслью информационных технологий и разведывательным сообществом.

На самом деле, преодоление раскола между индустрией высоких технологий и разведывательными органами является важнейшей задачей в сфере национальной безопасности. Когда бывший сотрудник военного ведомства Эдвард Сноуден разоблачил программы слежки, это создало огромный и очень глубокий дефицит доверия в ведущих компаниях информационных технологий, таких как «Эппл», «Фейсбук», «Гугл» и так далее. «Твиттер» вообще не желает иметь дел с разведывательными органами, испытывая опасения относительно того, как будет использоваться его информация. Высокопоставленный руководитель из крупной технологической компании рассказал одному из авторов статьи, что считает американские разведывательные ведомства врагами, которые похожи на агентов китайского правительства, а поэтому от них надо держаться подальше.

Разведывательное сообщество, со своей стороны, все больше и больше тревожит готовность американских IT-компаний продавать свою продукцию и услуги иностранным клиентам, которые не разделяют демократические принципы США и не признают их национальные интересы. «Гугл», у которой самые передовые и совершенные средства искусственного интеллекта, заявила, что не станет сотрудничать с Пентагоном ни по одному проекту из этой сферы, который может быть использован в производстве вооружений. Вместе с тем, компания думает о том, чтобы помочь китайскому правительству в разработке информационно-поисковой системы с более совершенными инструментами цензуры. У России есть широко разрекламированный проект глубокого обучения iPavlov, в котором используется аппаратура передовой калифорнийской компании по производству чипов «Энвидиа» (NVIDIA). «Мы продаем их всем», — заявил недавно во всеуслышание вице-президент компании по развитию бизнеса. Чтобы преодолеть этот конфликт коммерческих стимулов, конфиденциальности информации и национальных интересов, нужно наладить здоровые рабочие отношения между американским разведывательным сообществом и Кремниевой долиной.

Главные принципы

Многое надо менять, но еще важнее то, что нужно сохранить без изменений. Главный приоритет процесса преобразований заключается в том, чтобы не навредить самому ценному качеству разведывательного сообщества: его стремлению к объективности вне зависимости от политических последствий. Благодаря этому принципу целые поколения политиков и руководителей доверяли работе разведывательного сообщества. Не в том смысле, что разведка всегда права (это не так), а в том, что у нее нет тайных мотивов, собственных политических целей и партийной пристрастности.

Этот ключевой принцип поставил под сомнение президент, который публично унижает своих разведчиков и открыто не соглашается с оценками разведывательных ведомств. Такое поведение оказывает давление на разведывательное сообщество, у которого может возникнуть соблазн начать поддакивать президенту вместо того, чтобы действовать на основании улик и доказательств. Пока разведывательное сообщество под руководством директора национальной разведки Дэна Коутса (Dan Coats) твердо придерживается своих идеалов и принципов. Но риск очень велик. Американские спецслужбы способны разработать оптимальную стратегию для разведки в новую технологическую эпоху, но если они утратят репутацию объективных, беспристрастных и высокопрофессиональных ведомств, нация перестанет их ценить.

Майкл Джозеф Морелл (Michael Joseph Morell) — бывший аналитик американской разведки. Образование: Акронский университет, бакалавр экономики; Джорджтаунский университет, магистр экономики. Морелл был с президентом Бушем 11 сентября 2001 года, когда «Аль-Каида»* (запрещенная в России организация — прим. ред.) напала на Америку. Он был с президентом Обамой 1 мая 2011 года, когда был ликвидирован Усама бен Ладен. Морелл начал свою карьеру в ЦРУ в 1980 году. Он 14 лет в качестве аналитика занимался Восточной Азией, и в итоге был назначен директором аналитического отдела по Азиатско-Тихоокеанскому региону и Латинской Америке. Морелл проводил разведывательные брифинги для президента Джорджа Буша, работал исполнительным помощником директора ЦРУ Джорджа Тенета. Был исполнительным директором ЦРУ, директором по разведке, заместителем директора ЦРУ. Дважды исполнял обязанности директора Центрального разведывательного управления. Морелл работает в консультативном совете «Комитета по расследованию действий России», созданного голливудским режиссером Робом Райнером и старшим редактором издания «Атлантик» Дэвидом Фрамом.

* — запрещенная в России организация.

© РИА Новости, Кирилл Каллиников | Перейти в фотобанкДостоверность разведсведений — это серьезная проблема даже тогда, когда речь идет о секретной информации. А в мире открытых источников проблема достоверности становится намного серьезнее. Бывший аналитик американской разведки продолжает рассказывать о новых проблемах спецслужб США и пытается понять, как можно преодолеть эти вызовы.Читайте первую часть Часть вторая Дезинформационная революция Американскому разведывательному сообществу необходимо понять, как освоить плоды революции открытых источников и прочие передовые технологии быстрее противников США. В то же время, оно должно искать некий баланс, соблюдая свои конституционные и этические обязательства, касающиеся неприкосновенности личной информации и гражданских свобод. Говорить об этом легко, а делать гораздо труднее. Опять же, возьмем в качестве примера данные из открытых источников. В эпоху средневековья, когда бумага являлась признаком богатства, а книги хранились в монастырях, знание было ценным, а его создание обходилось дорого. Сейчас создание контента стоит настолько дешево, что по некоторым оценкам, объем хранимых на Земле данных удваивается каждые два года. То есть, в следующие 24 месяца человечество создаст столько же данных, сколько появилось за всю историю. Разведывательным органам всегда приходилось заниматься поиском иголок в стогах сена. Сегодня эти стога увеличиваются в геометрической прогрессии. Многие частные компании предлагают «мониторинг общественного мнения» в соцсетях и другие решения, в которых используется информация из открытых источников. Они способны очень быстро проанализировать эту информацию. Связанная с ЦРУ фирма венчурного капитала «Инкьютел» (In-Q-Tel) дала стартовый капитал на разработку многих перспективных технологий. Но чтобы технологические инновации укоренились в разведывательных ведомствах, требуются немалые усилия, поскольку в этой сфере работают закрепившиеся на своих позициях подрядчики, у которых есть свои финансовые стимулы, спроектированные по индивидуальному заказу и устаревшие системы информационных технологий, а также склеротичная, не расположенная к риску политика закупок, из-за которой коммерческим компаниям, и особенно стартапам, исключительно трудно работать с государством. Сбор и обработка данных это лишь полдела. Накапливать информацию бесполезно, если аналитики не в состоянии определить, какая информация достоверна, а какая нет. Достоверность разведсведений — это серьезная проблема даже тогда, когда речь идет о секретной информации. А в мире открытых источников проблема достоверности становится намного серьезнее. Блогеры, народные репортеры и прочие поставщики онлайнового контента работают под воздействием разных стимулов, однако отдают предпочтение оперативности и провокационности информации, а не ее корректности и достоверности. В результате существенно возрастает риск ошибки. Добавьте к этому усиливающийся вызов своевременности. В эпоху гугла, когда для получения информации от кого угодно и о чем угодно достаточно кликнуть мышкой или провести пальцем по экрану смартфона, контент из открытых источников все чаще плывет прямо в руки политиков без какого-либо подтверждения или анализа. По этой причине представители власти могут делать поспешные выводы вместо того, чтобы дожидаться менее оперативных разведывательных оценок, в которых тщательно проверяется надежность источников и даются альтернативные толкования важных событий. Чтобы остаться востребованными в таких условиях, аналитики из разведки вынуждены работать быстрее. Порой это идет во вред глубине анализа. Соперничество с открытыми источниками также вынуждает аналитиков чаще давать краткосрочные разведывательные оценки и отказываться от анализа долговременной перспективы. Дефицит такого перспективного анализа уже налицо. Отделять правду от вымысла со временем будет все сложнее. Искусственный интеллект дал толчок дезинформационной революции. Российская дезинформация в преддверии выборов 2016 года не выдерживает никакого сравнения с тем, что будет возможно уже очень скоро благодаря «глубоким фейкам», как называют фальшивый аудио- или видеоматериал, максимально приближенный к реальности. Исследователи из бизнеса и науки уже создают очень реалистичные фотографии несуществующих людей. Группы из Стэнфордского и Вашингтонского университетов воспользовались технологиями искусственного интеллекта и синхронного движения губ для создания фейковых видео фальшивого Барака Обамы, произносящего фразы, которые экс-президент никогда не произносил. Доступ к упрощенным кодам «глубоких фейков» быстро распространяется. Некоторые программы настолько просты, что даже старшеклассник, не изучавший компьютерные науки, может с их помощью создавать убедительные подделки. Даже качественные вычислительные ресурсы, необходимые для создания изощренных «глубоких фейков», можно сегодня приобрести по невысокой цене. Не нужно быть семи пядей во лбу, чтобы понять, какие серьезные манипуляции можно осуществлять при помощи этих технологий. Представьте, что вы смотрите с виду подлинное видео, в котором иностранный руководитель рассказывает о тайной программе по созданию ядерного оружия, или кандидат в президенты накануне выборов растлевает ребенка. Все их возражения легко можно будет отбросить в сторону, так как доказательства кажутся неопровержимыми. В конце концов, лучше один раз увидеть, чем сто раз услышать. Перед разведывательными органами встанет непомерно сложная задача по разоблачению «глубоких фейков». В отличие от других подделок, «глубокий фейк», такой как обработанное в фотошопе изображение, очень трудно распознать, и все благодаря технике искусственного интеллекта, изобретенной инженером компании «Гугл» в 2014 году. Это алгоритм машинного обучения под названием генеративно-состязательная сеть. Такой подход предусматривает противопоставление двух компьютерных алгоритмов, когда один генерирует изображения, а второй пытается заметить фейки. Поскольку алгоритмы обучаются, состязаясь друг с другом, любой детектор глубокого фейка проработает очень недолго, потому что его все равно перехитрят. Обман и введение в заблуждение всегда были составной частью шпионажа и войны, но они никогда не выходили на такой уровень точности, охвата и скорости. Правильное понимание стратегии Американское разведывательное сообщество предприняло ряд важных шагов, чтобы адаптироваться в этой быстро меняющейся технологической среде. В 2015 году тогдашний директор ЦРУ Джон Бреннан (John Brennan) создал новое управление, которое занимается цифровыми инновациями, а также провел тщательную ревизию организационно-штатной структуры ЦРУ, чтобы сблизить специалистов по цифровым технологиям и аналитиков открытых источников с традиционными сборщиками и аналитиками информации. Национальное агентство геопространственной разведки запустило инициативу по искусственному интеллекту, чтобы ускорить и усовершенствовать анализ изображений. ЦРУ, АНБ и прочие ведомства переместились в «облако», создав «среду синтеза больших данных», которая позволяет аналитикам быстрее и эффективнее искать огромные объемы информации. Есть и другие перемены, но они засекречены. Это многообещающие усилия, но отдельных мер по исправлению положения недостаточно. Разведывательному сообществу нужна комплексная стратегия для сохранения разведывательных преимуществ США в новую технологическую эпоху. Стратегия национальной разведки за 2019 год не соответствует поставленной цели, поскольку она отличается самоуспокоенностью и благодушием. В ней присутствуют малопонятные призывы «усилить интеграцию и координацию», «эффективнее применять партнерства» и «развивать прозрачность, защищая информацию из сферы национальной безопасности». Инновациям там уделяется лишь половина страницы. Стратегия национальной разведки в новую технологическую эпоху должна начинаться с изложения отличительных сильных сторон США и способов их применения для обретения долговременных преимуществ. Сегодня дискуссия на тему внешней политики США сосредоточена в основном на наших недостатках. Ее участники рисуют картину изолированной и уязвимой страны, которую превосходят безжалостные и эффективные диктаторы. В новой разведывательной стратегии от такого подхода необходимо отказаться. Вместо того, чтобы завидовать самовластным деспотам, надо для начала признать, что у Америки есть много чего такого, чего нет ни у одного из ее противников, и что эти возможности с лихвой возмещают недостатки. Соединенные Штаты превосходят своих противников по многим направлениям и параметрам. Обширная система альянсов, включающая партнерство «Пять глаз» с участием Австралии, Канады, Новой Зеландии и Британии, расширяет глобальные возможности и потенциал США. Разнообразное в этническом плане население дает естественные преимущества в сборе агентурной разведывательной информации по всему миру. Открытое общество и демократические ценности США уже давно способствуют свободному потоку идей и помогают убеждать иностранные государства присоединиться к общему делу. А инновационная экосистема Америки по-прежнему служит непревзойденным инкубатором революционных технологий. Но чтобы полноценно воспользоваться этими сильными сторонами, нужны масштабные усилия с участием всего разведывательного сообщества и с привлечением компаний информационных технологий, гражданского общества и науки. Возглавить эту реформаторскую работу может авторитетная комиссия, учрежденная конгрессом и действующая под его контролем. Невозможно предсказать, какие идеи и инициативы возникнут в процессе этой работы, но некоторые области повышенного интереса очевидны уже сейчас. Если вести речь об организационных вопросах, то разведка по открытым источникам должна вестись в рамках собственного ведомства. В настоящее время сбор этой информации осуществляется через Предприятие открытых источников, действующее при ЦРУ. Но такая организация имеет свои недостатки. Это как ВВС в составе сухопутных войск. Разведка из открытых источников находится в составе бюрократического аппарата, который,