Почему Facebook не блокировал прямую трансляцию видео из Новой Зеландии


ЛОНДОН (AP). Почему в течение 17 минут на Facebook транслировалось живое видео о том, как новозеландская мечеть стреляет? Неужели никто не предупредил компанию, когда это происходило?

Facebook говорит «нет». По словам заместителя главного юрисконсульта Криса Сондерби, никто из примерно 200 человек, которые смотрели видео в прямом эфире, не пометил его модераторам. В во вторник в блоге Сондерби сказал, что первый отчет пользователя появился не раньше, чем через 12 минут после окончания трансляции.

Все эти вопросы вызывают дополнительные вопросы — среди них, почему так много людей смотрели, не говоря ни слова. что угодно, будь то Facebook слишком сильно полагается на посторонних и машины, чтобы сообщать о проблемах, и знают ли пользователи и сотрудники правоохранительных органов, как связаться с Facebook с опасениями по поводу того, что они видят в сервисе.

«Когда мы видим вещи через нашу телефоны, мы представляем, что они похожи на телешоу », — сказал Шива Вайдхьянатан, профессор медиа исследований в Университете Вирджинии. «Они на расстоянии, а у нас нет власти».

Facebook сказал, что удалил видео «в течение нескольких минут» после того, как полиция Новой Зеландии уведомила его. Но с тех пор Facebook и другим компаниям, работающим в социальных сетях, приходилось бороться с копиями, опубликованными другими.

Подозреваемый в стрельбе тщательно смоделировал свою атаку для эпохи Интернета, поскольку он транслировал в прямом эфире убийство 50 человек. люди в двух мечетях в Крайстчерче, Новая Зеландия.

Тим Чигельске, который преподает в социальных сетях в Университете Маркетта в Милуоки, сказал, что, хотя зрители несут те же моральные обязательства по оказанию помощи, что и сторонний наблюдатель в физическом мире, люди не не обязательно знать, что делать.

«Это как звонить в 911 в чрезвычайной ситуации», — сказал он. «Мы должны были обучать людей и облегчать им задачу. Вы должны обучать людей по-новому, если вы видите, что чрезвычайная ситуация происходит не лично, а в Интернете ».

Чтобы сообщить о живом видео, пользователь должен знать, чтобы щелкнуть по небольшому набору из трех серых точек с правой стороны сообщение. Пользователь, который нажимает «сообщить о живом видео», получает выбор нежелательных типов контента, включая насилие, издевательства и домогательства. Пользователям также предлагается связаться с правоохранительными органами, если кто-то находится в непосредственной опасности.

Facebook также не публикует какую-либо публичную информацию, инструктирующую правоохранительные органы о том, как сообщать опасное или криминальное видео. У компании есть страница под названием «Информация для правоохранительных органов» но она просто описывает процедуры подачи юридических запросов на учетные записи пользователей. Facebook не сразу отреагировал на запрос о комментариях и вопросы о своих связях с полицией.

Facebook использует искусственный интеллект для обнаружения нежелательных материалов, в то же время полагаясь на общественность, чтобы помечать контент, который нарушает его стандарты. Эти отчеты затем отправляются рецензентам, говорится в сообщении компании в ноябрьском видеоролике .

В видеоролике также показано, как используется «компьютерное зрение» для обнаружения 97 процентов графического насилия, прежде чем кто-либо сообщит об этом. Однако не совсем понятно, как эти системы применяются к потоковой трансляции в Facebook.

Эксперты говорят, что живое видео ставит уникальные проблемы, и регулярно появляются жалобы на самоубийства, убийства и избиения в прямом эфире. Тем не менее, они говорят, что Facebook не может отвести ответственность.

«Если они не могут справиться с ответственностью, то это их вина в том, что она продолжает предоставлять эту услугу», — сказала Мэри Энн Фрэнкс, профессор права в Университете Майами.

Она называет это «невероятно оскорбительным и неуместным», чтобы связать ответственность с пользователями, подвергшимися травмирующему видео.

В некоторых случаях с самого начала неясно, нарушает ли видео или другой пост стандарты Facebook, особенно в отношении сервиса с различными языками. и культурные нормы. Нерешительность, похоже, не здесь. Facebook просто не знал об этом вовремя.

Сондерби из Facebook заявил во вторник в своем блоге, что компания «назвала обе стрельбы террористическими атаками, а это означает, что любая похвала, поддержка и представление событий» являются нарушениями.

Vaidhyanathan сказал, что функция живого видео в Facebook превратилась в чудовище, которое Facebook мало что может сделать, если не щелкнуть переключателем. Хотя Facebook нанял больше модераторов, чтобы дополнить обнаружение машины и отчеты пользователей, «вы не можете нанять достаточное количество людей» для полиции обслуживание с 2,3 миллиардами пользователей.

«Люди всегда найдут новые способы выразить ненависть и спровоцировать насилие», — сказал он.

Премьер-министр Новой Зеландии Джасинда Ардерн выразила разочарование тем, что отснятый материал остался онлайн через четыре дня после кровавой расправы. [19659002] Машины могут определять, когда пользователи пытаются повторно разместить запрещенные видео, сопоставляя образцы или цифровые отпечатки пальцев в файлах. Но пользователи, решившие обойти эти проверки, могут внести небольшие изменения, такие как изменение цвета или скорости видео.

Глобальный интернет-форум по противодействию терроризму, группа глобальных интернет-компаний, возглавляемая Facebook, YouTube, Microsoft и Twitter, сказал, что он определил 800 различных версий и добавил их в общую базу данных, используемую для блокировки изображений и видеозаписей с применением насилия террористами.

Сондерби сказал, что некоторые варианты сложно обнаружить, и что Facebook «расширился до дополнительных систем обнаружения». включая использование звуковых технологий ».

В серии твитов на следующий день после стрельбы бывший главный офицер Facebook по безопасности, Алекс Стамос, поставил задачу перед техническими компаниями, так как они стремились не отставать с новыми версиями видео.

«То, что вы видите на основных платформах, — это утечка воды вокруг тысяч пальцев, проткнутых в плотину», — сказал он.

Стамос оценил крупные технологические компании блокирует загрузку более 99 процентов видео, «этого недостаточно, чтобы сделать невозможным его поиск».

Жми «Нравится» и получай только лучшие посты в Facebook ↓

Почему Facebook не блокировал прямую трансляцию видео из Новой Зеландии