Почему ИИ до сих пор ужасно замечает насилие в Интернете


Но в пятницу, когда подозреваемый террорист в Новой Зеландии транслировал в прямом эфире видео в Facebook о массовом убийстве, технология не помогла. Ужасная трансляция продолжалась как минимум 17 минут пока новозеландская полиция не сообщила об этом в социальную сеть. Записи видео и соответствующие посты об этом взлетели в социальных сетях в то время как компании пытались не отставать.

Почему ИИ, который уже используется крупными социальными сетями, чтобы помочь модерировать обновления статуса, фото и видео загружать пользователь, просто быть развернуто в больших мерах для устранения такого насилия, как быстро, как это кажется?

Главная причина в том, что будь то ненавистные письменных сообщения, порнография, или насильственные изображения или видео, искусственный интеллект еще ISN» отлично замечает нежелательный контент в Интернете. Во многом это связано с тем, что, хотя люди хорошо разбираются в контексте, связанном с обновлением статуса или YouTube, контекст является сложной задачей для ИИ.

ИИ значительно улучшился в последние годы, а также Facebook, Twitter, YouTube, Tumblr и другие все больше полагаются на сочетание искусственного интеллекта и модераторов человека с полицейским контентом, публикуемым пользователями.

Огромный объем постов

Но из-за огромного количества постов, появляющихся на этих сайтах каждый день, даже такая комбинация людей и машин трудно поддерживать. ИИ еще предстоит пройти долгий путь, прежде чем он сможет надежно выявлять ненавистнические высказывания или насилие в Интернете.

Машинное обучение, Технологические компании, работающие в области ИИ, зависят от поиска нежелательного контента, выясняют, как распознать закономерности в пачках данных. ; он может идентифицировать оскорбительные выражения, видео или изображения в определенных контекстах. Это потому, что подобные посты следуют шаблонам, на которых можно обучить ИИ. Например, если вы предоставляете алгоритму машинного обучения множество изображений оружия или письменных религиозных оскорблений, он может научиться распознавать эти вещи на других изображениях и в тексте.

Однако ИИ не силен в понимание таких вещей, как то, кто пишет или загружает изображение, или того, что может быть важным в окружающей социальной или культурной среде.

Особенно, когда речь идет о речи, которая подстрекает к насилию, контекст «очень важен», — сказал Даниэль Лоуд, сотрудник Профессор Университета Орегона, изучающий искусственный интеллект и машинное обучение.

Внешне комментарии могут показаться очень жестокими, но на самом деле они являются сатирой в знак протеста против насилия. Или они могут звучать мягко, но их можно идентифицировать как опасные для тех, кто знает о последних новостях или местной культуре, в которой они были созданы.

«Большая часть воздействия нескольких слов зависит от культурного контекста», — сказал Лоуд. указывая, что даже модераторы-люди все еще пытаются проанализировать это в социальных сетях.

Определение насилия

Даже если насилие проявляется в видео, это не всегда так просто, что человек — не говоря уже об обученной машине — может определить ее или решить, что лучше с ней делать. Оружие может быть не видно на видео или фото, или то, что кажется насилием, может фактически быть симуляцией.

Кроме того, такие факторы, как освещение или фоновые изображения, могут сбить компьютер.

С точки зрения вычислительной техники трудно использовать ИИ для поиска насилия в видео, в частности, сказала Сара Т. Робертс, доцент в Калифорнийском университете в Лос-Анджелесе который исследует модерацию контента и социальные медиа.

«Сложность этого средства, особенности, связанные с такими вещами, не только сколько кадров в секунду, но и добавление таких вещей, как создание значения из того, что было записано, очень трудно «Сказала она.

Дело не просто в том, что использовать ИИ для поиска смысла одного видео сложно, — сказала она. Это происходит с большим количеством видеороликов, которые социальные сети видят изо дня в день. Например, на YouTube пользователи загружают более 400 часов видео в минуту — или более 576 000 часов в день.

«Сотни тысяч часов видео — это то, чем торгуют эти компании». Робертс сказал. «Это на самом деле то, что они просят, и то, что они хотят».

.

Жми «Нравится» и получай только лучшие посты в Facebook ↓

Почему ИИ до сих пор ужасно замечает насилие в Интернете