Методы джихадистов, используемые в онлайн сфере для привлечения новобранцев, а также инновационные способы борьбы с ними были показаны на недавно окончившейся конференции TED (Technology, Entertainment and Design).

Ясмин Грин, глава отдела исследований фирмы Jigsaw, принадлежащей компании Alphabet, поделилась с аудиторией наработками в сфере борьбы с экстремистским контентом и методами защиты от него. Уже известно, что за новыми алгоритмами пристально следит Google. Корпорация заинтересована в том, чтобы теперь каждый пользователь мог лично принимать участие в удалении контента с неподобающим содержанием.

Всем присутствующим в зале Ясмин Грин рассказала о восьминедельном тестировании, которое исследователи провели для своих алгоритмов. В эксперименте участвовали 300000 добровольцев по всему миру. В их обязанности входил поиск джихадистских материалов через Google, на который реагировали алгоритмы Jigsaw. После окончания тестирования его результаты были признаны успешными.

Принцип работы алгоритма Jigsaw основывается на замене ссылок с экстремистским материалом. Пользователь, который ищет пропагандистскую информацию о запрещённых террористических организациях, переадресовывается на сайты, рассказывающие о жертвах террора, или видео с рассказами людей, добровольно покинувших ряды преступных группировок. Также алгоритм перенаправляет юзеров на прямую трансляцию с камер, расположенных в населённых пунктах, сильнее всего пострадавших от террористических ударов.

Мисс Грин рассказала о множестве способов, при помощи которых террористы вербуют в свои ряды новобранцев Интернете. По её словам, видео с преступной пропагандой присутствуют во Всемирной Сети на всех самых распространённых языках мира. Более того – террористы снимают агитационные материалы даже на языке жестов.

Грин привела в пример опыт своего общения с молодым человеком, прошедшим подготовку в одном из иракских тренировочных лагерей для подрывников-смертников. Она рассказала о тотальной промывке мозгов, через которую проходят жертвы пропаганды. Новобранцы террористических организаций перестают воспринимать посторонние источники информации и готовы отдать жизнь за возможность доказать свою преданность лидерам преступных группировок.

Ясмин Грин поделилась информацией о направлении деятельности своей команды в будущем. Теперь алгоритмы Jigsaw будут модернизироваться и приспосабливаться под новые системы, с помощью которых предполагается создать технологию «эмпатического поиска». По результатам тестирования системы противодействия джихадистскому контенту оказалось, что на неподготовленных пользователей наибольшее влияние оказывают призывы к убийствам и началу «священной войны против неверных». Учёные будут работать над технологией, которая будут предоставлять юзерам информацию о жертвах терроризма и обо всех ужасах действий преступных группировок. Таким образом у пользователей поисковых систем будет вырабатываться не злоба и агрессия, а сочувствие и эмпатия к пострадавшим от террористических атак.

Перспективами создания такой системы заинтересовались многие ведущие онлайн-порталы и новостные издания. Кроме Google, алгоритм Jigsaw планируется к внедрению в Wikipedia и интернет-версию New York Times. Та же Ясмин Грин заверяет, что разработка её команды в будущем поможет искоренить насилие в Интернете и сделать Всемирную Сеть более безопасным и миролюбивым местом.