Видео о новозеландской атаке все еще на Facebook и Instagram


Наличие видео, некоторые из которых были на платформах со дня атаки, свидетельствует о том, что перед технологическими компаниями стоит задача борьбы с распространением белого превосходства и другого контента, связанного с терроризмом, на своих платформах и повышения вопросы об эффективности усилий Facebook, в частности, сделать это.

Девять видеороликов в Facebook ( FB )) и Instagram, показывающих части оригинальной прямой трансляции террориста, были опознаны Эриком Фейнбергом из Глобального центра защиты прав интеллектуальной собственности, который отслеживает террор связанный контент онлайн, и кто предоставил их CNN Business.

Все девять видео были опубликованы на неделе атаки и с тех пор остаются на платформах. Facebook владеет Instagram.

Через несколько дней после атаки, которая произошла в двух мечетях и убила десятки, Facebook заявил, что работает над удалением всех копий видео со своих платформ.

В одном случае в Instagram копия видео, демонстрирующего стрельбу боевика в одной из мечетей, активировала функцию «Чувствительный контент» в Instagram, предупреждение, которое компания размещает на некоторых видеороликах: «Это видео содержит конфиденциальный контент. что некоторые люди могут найти оскорбительным или тревожным. " Несмотря на появление этого предупреждения, само видео, которое было просмотрено более 8000 раз, оставалось на платформе до тех пор, пока CNN Business не продемонстрировало его в среду в Facebook.

CNN Business также показала Facebook версию видео, которое было размещено на Facebook в течение 24 часов после атаки и все еще находилось на платформе. Этот клип был просмотрен 3400 раз.

В обоих случаях Facebook сказал, что не уловил эти версии видео из-за того, как клипы были отредактированы из оригинальной версии видео шутера.

Facebook использует процесс, известный как «хеширование», чтобы идентифицировать копии видео, которые были отредактированы или изменены. Хеширование видео — это метод, который можно использовать для идентификации различных версий одного и того же видео, которые были размещены в Интернете. Хеширование видео работает путем разбиения видео на ключевые кадры, которым затем присваивается уникальная буквенно-цифровая подпись, известная как хэш. Хэши хранятся в базе данных, а затем сравниваются с другими видео на платформе, чтобы проверить, содержат ли они тот же кадр или соответствующий хеш.

Представитель Facebook сообщил CNN Business, что отредактированные версии видео, найденные Фейнбергом, не соответствуют ни одной из других отредактированных версий видео, которое он видел ранее. Представитель сказал, что компания хэшировала 900 различных видео, и что она добавит два видео, которые CNN Business предоставил в эту базу данных.

«Проблема в том, что их технология хеширования работает не так, как предполагалось», — сказал CNN Business Хани Фарид, профессор в Дартмуте и эксперт в области цифровой криминалистики и анализа изображений, заявив, что он должен быть в состоянии поймать видео, которыми манипулируют.

«Когда Facebook сообщает вам, что искусственный интеллект спасет их и нас, вы должны спросить, как это, если они не могут даже решить проблему удаления ранее идентифицированного контента», — сказал он.

Фейнберг выразил аналогичное мнение, сказав, что он обнаружил явную неспособность Facebook определить видео, которые он смог заметить. «Видео здесь соответствует содержанию», — сказал он. «Если они не могут получить это видео, что заставляет вас думать, что они смогут искать« поддельные новости »и глубокие подделки, которые не соответствуют их содержанию?»

Буквально на прошлой неделе Facebook удалил пять копий видео из Facebook и шесть из Instagram после того, как Файнберг предоставил их New Zealand Herald. YouTube также удалил четыре видео, которые Фейнберг идентифицировал на своей платформе после того, как предоставил их «Вестнику».

В общей сложности Фейнберг определил 20 копий видео в прямом эфире в Facebook и Instagram за последние недели. Он сказал CNN Business, что смог сделать это, используя систему, которая опирается главным образом на поиск по ключевым словам. Когда он искал в Facebook текст, написанный на арабском языке, касающийся атаки, он нашел видео. Файнберг сказал, что он попробовал этот подход с десятками других языков и не нашел других видео.

 Facebook говорит, что контролирует свою платформу, но он не уловил прямую трансляцию массовых убийств. Почему?

Все видео, которые идентифицировал Фейнберг, сопровождались арабским текстом, осуждающим нападение.

В дни, прошедшие после атаки, Facebook заявил, что он не только запретил людям делиться видео, восхваляющими атаку, но и запретил любую форму распространения видео. «Учитывая жесткую природу видео, мы запретили его распространение, даже если оно было распространено для повышения осведомленности, или только для сегмента, который публикуется в виде сообщения новостей», — написал в блоге вице-президент Facebook по управлению продуктами Гай Розен . пост 20 марта.
Facebook не удалось остановить первоначальный прямой эфир атаки и удалил видео только после того, как с ним связались новозеландские полицейские.
Facebook сказал что его системы искусственного интеллекта не смогли обнаружить прямой эфир, пока он был В эфире, а затем «сообществе плохих актеров, работающих вместе», начали загружать отредактированные версии видео «таким образом, чтобы победить наше обнаружение». Компания подверглась жесткой критике со стороны правительства Новой Зеландии за видео, которые были на ее платформах.
Подробности, которыми позже поделилась компания, дали представление о масштабе проблемы. В течение 24 часов после атаки Facebook сообщил что он остановил повторную загрузку 1,2 миллиона копий оригинальной прямой трансляции и что он удалил еще 300 000 копий, которые не были остановлены при загрузке и были размещены на платформа.
Несмотря на то, что прямую трансляцию убийства просматривали около 200 раз, пока никто не сообщал об этом видео в Facebook, говорится в сообщении компании.

.

Жми «Нравится» и получай только лучшие посты в Facebook ↓

Видео о новозеландской атаке все еще на Facebook и Instagram