Добавить новость
smi24.net
News in English
Сентябрь
2022

The Most Famous Blunder Of Content Moderation: Do NOT Quote The Princess Bride

0

We’ve written stories about people having difficulty recognizing people joking around quoting movies. Sometimes it ends up ridiculously, like the guy who was arrested for quoting Fight Club and had to spend quite some time convincing people he wasn’t actually looking to shoot up an Apple store. We’ve also talked a lot about the impossibility of doing content moderation well at scale. Here’s a story where the two collide (though in a more amusing way).

Kel McClanahan is a well known lawyer in national security/FOIA realm, and the other day on Twitter was lucky enough to have a discussion with Cary Elwes, the actor perhaps best known for his role as Westley in the best movie ever made, The Princess Bride. Kel did what one does after getting to have such a discussion, which was to celebrate it on Twitter.

As one does once the discussion turns to The Princess Bride, people start quoting the movie, which remains one of the most quotable movies of all time.

At one point in the ensuing conversation, Kel had a chance to trot out one of those quotable lines:

That’s Kel saying “I’ll most likely kill you in the morning,” the classic line (SPOILERS!) that Westley says was told to him each night by the Dread Pirate Roberts.

Take a guess what happened next? Yup.

That’s Twitter telling Kel that his tweet, quoting The Princess Bride violated its policies on “abuse and harassment” and asking him to delete it to get back into his account. Eventually Twitter reversed course and gave Kel his account back.

It’s easy to laugh this off (because, well, it is funny). But, it’s also a useful lesson in the impossibility of content moderation. In general, absent any context, “I’ll most likely kill you in the morning” sure could come off as a threatening statement, one that could be seen as abusive or harassing. In many scenarios, that statement would be abusive or harassing and would make users on a social media platform feel unwelcome and threatened.

But, in context, it’s quite clear that this is a joke, a quote from a funny movie.

The issue is that so much of content moderation involves context. This is something that critics of content moderation (both those who want more and those who want less) never seem to fully grasp. How does a content moderator (whether AI or human) have enough context to handle all sorts of issues like this? Do you need to train your AI on classic movies? Do you need to make sure that everyone you hire has seen every popular movie and knows them by heart and can recognize when someone is quoting them?

How do you deal with a situation where someone tries to hide behind the quote — but is actually threatening someone? (Not what Kel did here, but just noting, you can’t just say “okay, leave this line if it’s quoting a movie”).

The point is that it’s ridiculously complicated.

Many people — especially policymakers and the media — seem to think that content moderation is obvious. You take down the bad stuff, and you leave up the good stuff.

But a ridiculous amount of content moderation involves trying to interpret statements where you don’t (or, more often, can’t) know the actual context. Is the comment between friends joking around? Is the comment made to be threatening? Is there a deeper meaning behind it? Is it quoting a movie? What if it’s an inside joke between people?

These things are not easy because there is no easy answer.

And that includes “do nothing.” Because if you do nothing at all you end up in a world in which the world’s worst people embrace that to legitimately threaten and harass people.

This is why I keep saying content moderation is impossible to do well. It’s not that people aren’t trying hard enough. It’s that it’s literally impossible to fully understand all the context. And it’s silly to expect that anyone can.

I asked Kel if he had any thoughts on all this, and here’s his take on the whole thing:

I’m bemused that Twitter’s AI suspended me for a comment that the purported target of the “threat” liked and responded to, but I guess if I’m going to go to Twitter Jail for posting a movie quote, the best way to do so is with the OG movie star in the thread.








Аукцион за часть дачи Пугачевой опровергли

Дети играют, родители отдыхают

Рэпер Баста открыл свой ресторан в Marins Park Hotel Екатеринбург

118 лет назад, 25 июля 1907 года, Ставропольская психиатрическая больница приняла первых 47 пациентов


Madeline Brewer Marries Jack Thompson-Roylance in England!

La UFC anuncia un mes de octubre mayúsculo

Brit Who Fought Usyk Calls For Daniel Dubois To ‘Leave The Sport’ After Staying Down In Rematch

Adil Rami carga contra Lamine: "No puedo ni verlo, que le den..."


НПС построит новые съезды с Северо-Восточной хорды

Снижены цены на самый дорогой кроссовер Chery в России

В депо «Чита» будет установлен первый цифровой весоизмерительный комплекс системы подачи песка под колесные пары локомотива

Невозможное возможно: две подопечные фонда «Жизнь в Движении» с ограниченными возможностями покорят вершину Эльбруса


Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

Brütal Legend is free in honor of Ozzy Osbourne, but only for 666 minutes

Первый трейлер Battlefield 6

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'



Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка

В депо «Чита» будет установлен первый цифровой весоизмерительный комплекс системы подачи песка под колесные пары локомотива


«Провокация азербайджанской диаспоры»: в Москве уроженец Азербайджана угрожал насилием соседям и кичился своими связями

«Каникулы с Росгвардией» проходят в регионах Центральной России

В студии Детского радио прошла церемония гашения почтовой марки

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


«Провокация азербайджанской диаспоры»: в Москве уроженец Азербайджана угрожал насилием соседям и кичился своими связями

МЧС предупредило москвичей о жаре до +30℃

Патрушев: НАТО усиливает давление у морских границ России

На Крымском мосту восстановили движение автотранспорта


Елена Рыбакина вызвала восхищение на старте турнира в Вашингтоне. Видео

Сидоренко из России одержал победу и стал чемпионом по настольному теннису на Универсиаде.

Медведев пробился в четвертьфинал турнира в Вашингтоне

Медведев победил У Ибина и вышел в четвертьфинал турнира ATP в Вашингтоне


Патрушев: НАТО усиливает давление у морских границ России

МЧС предупредило москвичей о жаре до +30℃

Движение по Крымскому мосту временно перекрыли

Как выбрать студию для съемки на маркетплейсы


Музыкальные новости

Баскова, Киркорова и Лазарева погнали с экранов: попались на непотребщине

Врач Шуров: Оззи Осборн мог умереть от паркинсонизма

Певец Стас Пьеха признался, что задумался о прожитой жизни из-за ухода Осборна

Концерт «Шуман. Шуберт. Шопен» покажут на портале мэра Москвы вечером 23 июля


Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

В депо «Чита» будет установлен первый цифровой весоизмерительный комплекс системы подачи песка под колесные пары локомотива

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка


«Каникулы с Росгвардией» проходят в регионах Центральной России

Рискнул на 100 тысяч рублей: инженер из Смоленска купил более 1,7 тысячи лотерейных билетов и выиграл автомобиль от «Национальной Лотереи» и РОЛЬФ на VK Fest

Клуб Медиалиги «Амкал» предлагал Овечкину сыграть в Кубке России по футболу

Okko и ТНТ выпустят драмеди про трёх сестёр «Хай, систерс»


В столичном главке Росгвардии проведён смотр спецтехники

В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)

На МКАД в Москве произошло массовое ДТП, движение затруднено

Водитель Audi сбил трех пешеходов, переходивших дорогу на западе Москвы


У Путина есть роскошный подарок для Китая: США схватились за голову, узнав о нем

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

"Ультиматум Трампа: потенциальные последствия для Путина"

Соболезнования в связи с авиакатастрофой в Амурской области выразили зарубежные лидеры


Депздрав: новый штамм коронавируса «стратус» фиксируют в Москве с мая

Штамм коронавируса "стратус" захватил 22% всех вирусных заболеваний в Москве

Депздрав Москвы оценил ситуацию с распространением нового штамма коронавируса

Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая



Пластический хирург Софья Абдулаева: подтяжка груди нитями - эффективно ли это

Новый штамм коронавируса "стратус" фиксируют в Москве с мая

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка



Две трети россиян считают, что спортсмены зарабатывают слишком много

«Каникулы с Росгвардией» проходят в регионах Центральной России

Игровые терминалы в ТЦ: союз ради будущего

"Монсон о спортсменах, которые меняют гражданство в сложный период для России"


Лукашенко посоветовал не злить его и не допускать падежа в животноводстве

Лукашенко поделился мнением о самой идеальной профессии.

Лукашенко с иронией отнесся к санкциям, запрещающим ему въезд в Эстонию

Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне


Собянин: Около 10 тыс. москвичей начали переселение по реновации этим летом

Сергей Собянин. Главное за день

Мэр Москвы: Улучшим транспортную доступность Южного и Северного Бутова

Сергей Собянин поздравил москвича — победителя международной олимпиады по физике


Бурмистров: лисы могут появляться на улицах Москвы в период расселения

Исследование выявило снижение инвестиций в экологически чистую энергетику США.

Москвичи теперь должны платить за зарядку своих электромобилей

В центре внимания: CorpSoft24 вошел в рейтинг крупнейших ИТ-компаний России


Участник ЛизаАлерт из Бурятии помог спасти мужчину в лесу подмосковья

Движение по Крымскому мосту временно перекрыли

Тихий и опасный. Новые виды коронавируса пошли в наступление и лишают голоса

На МКАД в Москве произошло массовое ДТП, движение затруднено


В Нарьян-Маре из-за холодов возобновили подачу отопления в дома

70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Настольный термотрансферный принтер штрих-кодов iDPRT iE4P

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.


В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями

Россияне выбирают Крым для отдыха с детьми – названы города-лидеры

"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

Прогноз погоды в Крыму на 25 июля


Тихий и опасный. Новые виды коронавируса пошли в наступление и лишают голоса

На Крымском мосту восстановили движение автотранспорта

Месяц в открытом море: студенты ДВФУ отправятся в экспедицию на Камчатку

МЧС предупредило москвичей о жаре до +30℃














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *