Вторая позиция: мы знаем, что социальные сети могут провоцировать насилие. Модерация может помочь, если все сделано правильно

Когда Facebook попытался заставить свой внешний надзорный совет решить, запретить ли Дональда Трампа навсегда, совет отказался и снова бросил горячую картошку в Facebook и приказал компании сделать последний звонок в течение шести месяцев. Но один человек, сам того не зная, преподал важный урок модерации контента, которого пока не хватало Facebook и другим технологическим компаниям, — самого Трампа.

Это так: чтобы предсказать влияние подстрекательского контента и принять правильные решения о том, когда вмешиваться, подумайте, как люди на него реагируют.

Пытаться выяснить, приведет ли тот или иной вклад к насилию только по своему содержанию, малоэффективно. Индивидуальный вклад неоднозначен и, кроме того, является кумулятивным, как и многие другие токсичные вещества.

Другими словами, оценивать вклад исключительно по их содержанию — все равно что изучать сигареты, чтобы понять их токсичность. Это одна из полезных форм данных, но чтобы понять, что курение может сделать с легкими людей, изучите свои легкие, а не только дым.

Сотрудники социальных сетей проанализировали ответы на твиты и публикации Трампа за несколько недель до января. 6 нападения на Капитолий, они увидят конкретные планы хаоса и смогут принять меры, в то время как Трамп продолжал подстрекать к насилию, а не к нему.

В декабре было 1:42. 19 января, когда Трамп написал в Твиттере: «Большой протест в Вашингтоне 6 января. Будь там, это будет дико! Фраза «будет диким» стала своеобразным кодом. которые широко появились на других платформах, включая Facebook. Этими словами Трамп не призывал и не предсказывал насилие, но тысячи его последователей поняли, что он приказывает им доставить в Вашингтон оружие, готовое использовать его. Они открыто заявили об этом в Интернете.

Участники форума TheDonald ответил почти сразу до бессонного твита. «У нас есть заказы, boisi», — говорится в одном из постов. И еще один: «Он не может сказать вам, что нужно бунтовать. Это самое близкое, что он когда-либо мог получить. «Пришел ответ:« Тогда принеси то оружие, которое у нас есть ».

К счастью, их планы восстания были необычными, но то, что они были видимы, не было. Люди балуют вещи онлайн. Социальные сети создают огромное хранилище человеческого общения, которое технологические компании могут исследовать на предмет токсических эффектов, таких как миллиарды отравленных легких.

Чтобы лучше предотвращать насилие со стороны экстремистов, компании должны начать с создания программного обеспечения, которое ищет определенные изменения в ответ на вклад влиятельных фигур со всего мира. Им следует сосредоточиться на держателях аккаунтов, которые в одинаковой степени получают и привлекают язвы — политиках, духовенстве, знаменитостях СМИ, помощниках, которые публикуют язвы и клевету от имени своих боссов, и типах QAnon.

Программное обеспечение может искать признаки того, что эти влиятельные лица интерпретируются как согласие или призывы к насилию. Создатели алгоритмов умеют находить теги, которые обозначают все виды человеческого поведения; Они делают это для таких целей, как повышение эффективности рекламы. Они также могут находить сигналы, указывающие на насилие.

Однако никакое вмешательство не должно производиться исключительно на основе программного обеспечения. Людям необходимо проверить, что отмечено, и позвонить, чтобы узнать, поощряется ли критическая масса последователей.

Что считается решающим для принятия решений, зависит от контекста и обстоятельств. Модераторам придется отсеивать тех, кто публикует ложные планы насилия. У них есть практика в этом; Попытки модерировать игровую систему — обычное дело.

И они будут работать с контрольным списком факторов. Насколько распространен эффект? Соответствуют ли известные угрозы? Есть ли у них доступ к оружию и предполагаемым жертвам? Насколько специфичны их схемы?

Если модераторы считают, что публикация спровоцировала насилие, они предупредят владельца учетной записи об этом сообщением: «Многие из ваших подписчиков понимают, что вы поддерживаете насилие или требуете его. Если это не ваше намерение, скажите об этом четко и публично. «

Если владелец аккаунта откажется или побудит своих последователей уйти в отставку (как это сделал Трамп), бремя будет переложено обратно на технологическую компанию, чтобы вмешаться. Он мог бы начаться с публичного объявления своих выводов и попытки убедить владельца счета отрицать насилие. Или он мог закрыть учетную запись.

Этот метод «изучения легких» не всегда работает; В некоторых случаях он может генерировать данные слишком поздно, чтобы предотвратить насилие, или контент будет распространяться настолько широко, что вмешательство социальных сетей не будет иметь достаточного значения. Но концентрация на ответах, а не только на первых сообщениях, имеет много преимуществ.

Во-первых, если бы это было так, компании удалили бы контент на основе доказанных эффектов, а не на сомнительной интерпретации значения вклада. Это увеличило бы шансы уменьшить подстрекательство при защите свободы выражения мнения.

Такой подход предоставит владельцам счетов уведомление и возможность ответить. Сообщения или учетные записи теперь часто загружаются в совокупности и с минимальными объяснениями.

Наконец, это установило бы процесс, который справедливо относился бы ко всем плакатам, а не сейчас, потому что технологические компании дают политикам и государственным должностным лицам возможность высказывать сомнения, слишком часто позволяя им пренебрегать общественными стандартами и разжигать насилие.

В сентябре 2019 г.например, Facebook заявил, что больше не будет применять свои собственные правила борьбы с ненавистью в отношении пожертвований политиков и политических кандидатов. «Не наша работа вмешиваться, когда политики говорят», — сказал Ник Клегг, генеральный директор Facebook и бывший британский чиновник. Facebook будет делать исключения, «когда речь угрожает людям», но Клегг не объяснил, как общество идентифицирует такую ​​речь.

Основные платформы, такие как Twitter и Facebook, также предоставили политикам более широкую бесплатную карту SA. Исключение «роман» или «общественный интерес»: Почти все, что сказали или написали государственные служащие, должно оставаться в сети. Общественность должна знать, что говорят эти люди, по логическим причинам.

Частные компании, конечно, не должны подавлять публичный дискурс. Однако люди, занимающие видные должности, всегда могут достучаться до публики без приложений или платформ. Также в социальных сетях правило «публичного права на информацию» имеет циклический эффект, поскольку новизна увеличивается и уменьшается по мере доступа. Обеспечение неограниченных связей с политиками дает им влияние и делает их выступления интересными.

В случае с Трампом компании социальных сетей позволяют ему годами угрожать и подстрекать к насилию, часто с помощью лжи. Например, Facebook вмешался только тогда, когда он явно нарушил свою политику в отношении дезинформации о COVID-19, пока, наконец, не заблокировал свою учетную запись. 7, спустя много времени после того, как его последователи нарушили Капитолий. Ожидая, когда произойдет насилие, общества установили свои правила против подстрекательства к беззубому насилию.

Любое окончательное решение Facebook запретить бывшего президента будет принято слишком поздно, чтобы предотвратить ущерб, нанесенный нашей демократии онлайн-подстрекательством и дезинформацией. У технологических компаний есть мощные инструменты для обеспечения соблюдения своих правил в отношении такого контента. Им просто нужно эффективно их использовать.

Сьюзан Бенеш — основатель и директор проекта «Опасная речь», который изучает речь, которая вдохновляет на межгрупповое насилие, и способы его предотвращения, одновременно защищая свободу слова. Она также является преподавателем Центра Беркмана Кляйна по Интернету и обществу Гарвардского университета.


[

among us hack
among us mod menu
watch online
watch online
free coin master SPINS
free coin master SPINS
watch online
xbox gift card generator
free fortnite skins generator
free coin master SPINS
free fortnite skins generator
free fortnite skins generator
psn free gift card generator
psn free gift card generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free robux
robux free generator
robux free generator
free roblox gift cards generator working
free roblox gift cards generator working
free roblox gift cards generator working
free v bucks
clash royale hack
free v bucks
free v bucks
xbox gift card generator
xbox gift card generator
free fire hack
watch online
watch online
gta 5 free money
free netflix account generator
onlyfans premium account
free robux
robux free generator
robux free generator
free v bucks
watch online
watch online
watch online
watch online

]

Add a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *