Цукерберг: мы вступили в гонку вооружений с Россией, но нас спасет искусственный интеллект

Пристегните ремни — эта технология появится не раньше, чем через 10 лет.

Во вторник учредителя «Фейсбук» несколько часов допрашивали в конгрессе о соблюдении его компанией политики конфиденциальности и об ответных мерах на российское вмешательство в выборы. Марк Цукерберг несколько раз повторил, что «Фейсбук» ведет «гонку вооружений» с российскими спецслужбами. По его словам, искусственный интеллект — это лучшее решение проблем дезинформации в соцсети, но появится он не раньше, чем через 5-10 лет.

В преддверии выборов 2016 года российские спецслужбы использовали «Фейсбук» и другие онлайновые платформы для распространения противоречивого и сеющего разногласия контента, дабы повысить шансы Дональда Трампа на победу на выборах. Во вторник полный раскаяния Цукерберг признал, что его компания реагировала медленно, и сказал, что это вызывает у него «величайшее сожаление».

По его словам, очень тонкий и изощренный подход России к усилению своего влияния в онлайне поставил его компанию в очень невыгодное положение.

«В России есть люди, в задачи которых входит эксплуатация наших систем к выгоде Кремля, — заявил Цукерберг. — Это гонка вооружений. И они будут совершенствовать свою работу».

Столкнувшись с самым серьезным за всю историю компании имиджевым кризисом, Цукерберг во время своего выступления выразил искреннее раскаяние и заявил, что «Фейсбук» будет намного активнее решать, какой контент и какие высказывания допустимы в его соцсети.

«Нам надо активнее контролировать эту экосистему», — сказал Цукерберг.

Хорошо подготовившись к долгожданным показаниям в сенатском юридическом и торговом комитетах, и получив подробные указания от группы профессиональных политтехнологов («Фейсбук» даже наняла известную юридическую фирму «Уилмер Хейл» для инструктирования своего учредителя), Цукерберг неоднократно возвращался к аналогии с гонкой вооружений. Больше этого он говорил только об искусственном интеллекте как о средстве решения возникшей проблемы.

Искусственный интеллект, сказал Цукерберг, это единственный «масштабируемый способ», при помощи которого компания сможет предотвратить появление ненавистнических высказываний на своей платформе и выявить поддельные аккаунты, посредством которых российские разведчики распространяют дезинформацию.

Задача «Фейсбук» заключается в том, чтобы вычислить такие аккаунты как можно быстрее, прежде чем они смогут разместить в соцсети политические послания конфронтационного характера. По словам Цукерберга, перед выборами 2016 года его компания зафиксировала российские попытки взломать аккаунты руководителей избирательных штабов, но не сумела понять, что Россия проводит в «Фейсбуке» обширную и очень активную кампанию по распространению пропаганды и даже по организации протестов.

Цукерберг делает ставку на то, что его компания сможет создать алгоритмы для надзора за контентом и пользователями, организовав его таким образом, что из «Фейсбука» исчезнет насильственный экстремизм, зарубежные политические манипуляции и ненавистнические высказывания. (А еще он набирает новый персонал и говорит, что к концу года 20 тысяч человек будут заниматься в компании вопросами безопасности и модерированием контента.)

«Фейсбук» уже применяла свои новые технологии на нескольких недавних выборах, в том числе, на выборах в сенат в Алабаме, а также на недавних выборах в Германии и Франции, сказал Цукерберг. Он добавил, что компания добилась определенных успехов в использовании новых технологий при выявлении поддельных аккаунтов.

Перед выборами в Алабаме «Фейсбук» при помощи своих алгоритмов выявила и удалила поддельные учетные записи из Македонии, авторы которых пытались распространять дезинформацию. Во Франции перед выборами 2017 года «Фейсбук» при помощи своих инструментов искусственного интеллекта заблокировала 30 тысяч фальшивых аккаунтов.

Цукерберг заявил, что усилия компании по удалению из соцсети материалов террористического содержания дают ей надежду на то, что она при помощи искусственного интеллекта сможет выявлять и блокировать призывы к насилию. Согласно его утверждению, 99% контента «Аль-Каиды» и «Исламского государства» (организации запрещенные в России — прим. перев.) блокируется еще до того, как его кто-нибудь увидит. «Мы надеемся разработать больше инструментов такого предназначения», — сказал Цукерберг. (Некоммерческая организация «Проект противодействия экстремизму» (The Counter Extremism Project) утверждает, что эти цифры завышены, и что известные исламистские экстремисты по-прежнему очень активны в этой соцсети.)

Но расхваливая искусственный интеллект и называя его долгосрочным решением проблем по надзору за контентом, Цукерберг признал, что этой технологии далеко до совершенства.

Утверждая, что ей удалось разработать средства искусственного интеллекта для искоренения агентов иностранных разведок, «Фейсбук», тем не менее, постоянно находит их в своей соцсети. Только на прошлой неделе компания закрыла там 70 учетных записей, 138 страничек и 65 аккаунтов в Инстраграме, которыми распоряжалось российское «Агентство интернет-исследований». Спецпрокурор Роберт Мюллер предъявил обвинения 13 руководителям и сотрудникам этого агентства в участии в российской кампании по продвижению Трампа в Белый дом.

«Мы знаем, что „Агентство интернет-исследований" и прочие недобросовестные игроки, пытающиеся злоупотреблять „Фейсбук", постоянно меняют тактику, скрываясь от нашей команды безопасности, — написал в своем блогпосте руководитель корпоративной службы безопасности Алекс Стамос (Alex Stamos), — Мы рассчитываем, что найдем еще больше».

Сенатор-демократ из Калифорнии Камала Хэррис (Kamala Harris) задала вопрос о том, удалила ли компания «Фейсбук» со своей платформы агентов разведок, на что Цукерберг ответил, что это маловероятно: «Я не могу сказать, что мы выявили всех вовлеченных в эту работу иностранных агентов».

Искусственный интеллект в состоянии решить проблему быстрого выявления контента с призывами к насилию и аккаунтов, принадлежащих разведчикам, однако Цукерберг признал, что эта технология вряд ли поможет в решении более серьезных проблем, с которыми сталкивается компания, скажем, в поиске и удалении ненавистнических высказываний.

«Через 5-10 лет у нас появятся инструменты искусственного интеллекта, которые смогут вникать в нюансы, определяя, что является, а что не является ненавистническими высказываниями, — сказал Цукерберг. — Понять эти лингвистические нюансы необходимо для того, чтобы искусственный интеллект мог точно определять риторику ненависти. Но сегодня такой технологии просто не существует».

Цукерберг также извинился за то, что его компания с опозданием отреагировала на российское вмешательство и позволила получить доступ к данным 87 миллионов пользователей «Фейсбук» фирме политического консалтинга «Кембридж Аналитика», которую нанял штаб Трампа и поддержал финансист Республиканской партии Роберт Мерсер (Robert Mercer).

«Фейсбук», сказал Цукерберг, создавалась как «идеалистическая и оптимистическая» компания, но она не сумела предугадать, что призванная объединять людей соцсеть может «использоваться во вред другим». По его словам, если посмотреть на фейковые новости, на иностранное вмешательство в выборы, на ненавистнические высказывания и на конфиденциальность информации, то его компания «не в полной мере оценила масштабы своей ответственности».

«Это была большая ошибка, — сказал Цукерберг. — Это была моя ошибка, и я прошу прощения. Я учредил „Фейсбук", я им руковожу, и я несу ответственность за то, что у нас происходит».

Цукерберг добавил, что его компания избавилась от своего студенческого слогана. Раньше он звучал так: «Двигаться быстро и все ломать». Теперь, сказал Цукерберг, он звучит иначе: «Двигаться быстро с устойчивой инфраструктурой».