Добавить новость
smi24.net
News in English
Сентябрь
2022

The Most Famous Blunder Of Content Moderation: Do NOT Quote The Princess Bride

0

We’ve written stories about people having difficulty recognizing people joking around quoting movies. Sometimes it ends up ridiculously, like the guy who was arrested for quoting Fight Club and had to spend quite some time convincing people he wasn’t actually looking to shoot up an Apple store. We’ve also talked a lot about the impossibility of doing content moderation well at scale. Here’s a story where the two collide (though in a more amusing way).

Kel McClanahan is a well known lawyer in national security/FOIA realm, and the other day on Twitter was lucky enough to have a discussion with Cary Elwes, the actor perhaps best known for his role as Westley in the best movie ever made, The Princess Bride. Kel did what one does after getting to have such a discussion, which was to celebrate it on Twitter.

As one does once the discussion turns to The Princess Bride, people start quoting the movie, which remains one of the most quotable movies of all time.

At one point in the ensuing conversation, Kel had a chance to trot out one of those quotable lines:

That’s Kel saying “I’ll most likely kill you in the morning,” the classic line (SPOILERS!) that Westley says was told to him each night by the Dread Pirate Roberts.

Take a guess what happened next? Yup.

That’s Twitter telling Kel that his tweet, quoting The Princess Bride violated its policies on “abuse and harassment” and asking him to delete it to get back into his account. Eventually Twitter reversed course and gave Kel his account back.

It’s easy to laugh this off (because, well, it is funny). But, it’s also a useful lesson in the impossibility of content moderation. In general, absent any context, “I’ll most likely kill you in the morning” sure could come off as a threatening statement, one that could be seen as abusive or harassing. In many scenarios, that statement would be abusive or harassing and would make users on a social media platform feel unwelcome and threatened.

But, in context, it’s quite clear that this is a joke, a quote from a funny movie.

The issue is that so much of content moderation involves context. This is something that critics of content moderation (both those who want more and those who want less) never seem to fully grasp. How does a content moderator (whether AI or human) have enough context to handle all sorts of issues like this? Do you need to train your AI on classic movies? Do you need to make sure that everyone you hire has seen every popular movie and knows them by heart and can recognize when someone is quoting them?

How do you deal with a situation where someone tries to hide behind the quote — but is actually threatening someone? (Not what Kel did here, but just noting, you can’t just say “okay, leave this line if it’s quoting a movie”).

The point is that it’s ridiculously complicated.

Many people — especially policymakers and the media — seem to think that content moderation is obvious. You take down the bad stuff, and you leave up the good stuff.

But a ridiculous amount of content moderation involves trying to interpret statements where you don’t (or, more often, can’t) know the actual context. Is the comment between friends joking around? Is the comment made to be threatening? Is there a deeper meaning behind it? Is it quoting a movie? What if it’s an inside joke between people?

These things are not easy because there is no easy answer.

And that includes “do nothing.” Because if you do nothing at all you end up in a world in which the world’s worst people embrace that to legitimately threaten and harass people.

This is why I keep saying content moderation is impossible to do well. It’s not that people aren’t trying hard enough. It’s that it’s literally impossible to fully understand all the context. And it’s silly to expect that anyone can.

I asked Kel if he had any thoughts on all this, and here’s his take on the whole thing:

I’m bemused that Twitter’s AI suspended me for a comment that the purported target of the “threat” liked and responded to, but I guess if I’m going to go to Twitter Jail for posting a movie quote, the best way to do so is with the OG movie star in the thread.








Аукцион за часть дачи Пугачевой опровергли

VZLET.MEDIA: 25 лет успешного SEO-продвижения в эпоху искусственного интеллекта

Раздвигая горы - к единству и созиданию! Манифест лезгинского народа (письменное обращение, воззвание программного характера)

В студии Детского радио прошла церемония гашения почтовой марки


Why Juventus spent 111m this summer for only one new player

Félix Auger-Aliassime

La UFC anuncia un mes de octubre mayúsculo

Las 'Guerreras del Agua' se dan un baño de bronce en el Mundial de Singapur


Невозможное возможно: две подопечные фонда «Жизнь в Движении» с ограниченными возможностями покорят вершину Эльбруса

В Курской области завершается ремонт трассы "Короча-Губкин-Горшечное-Курск-Борисоглебск"

Первый маршрут теплохода-ресторана открылся из Петербурга в Кронштадт

Предрассветная Нёнокса...


The dairy industry would like Gen Z to drink more milk, so they made a Fortnite diner tycoon game

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

Brütal Legend is free in honor of Ozzy Osbourne, but only for 666 minutes



«Каникулы с Росгвардией» проходят в регионах Центральной России

В Третьяковке на Кадашевской набережной открылся концертный зал

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


Более 800 студентов прошли практику на предприятиях «Швабе» в 2025 году

В студии Детского радио прошла церемония гашения почтовой марки

Рекордный массовый женский нетворкинг: событие от «Мир Бизнес Мам»

Врач Галлямова: сухие шампуни могут навредить коже головы


Ветеринары напомнили жителям Подмосковья о необходимости вакцинации питомцев

Первая победа «Динамо» в сезоне? «Динамо» — «Ростов»: прогноз и ставка

Увοлeн Γуcмaн, οпοɜοpивший Ροccию. Дaдут инοaгeнтa или пοвыcят?

Еще одно здание ГБУ «Жилищник» появится во Внукове


Алекс де Минор вышел в 1/8 финала турнира ATP-500 в Вашингтоне

Новак Джокович проводит 900-ю неделю в топ-10 рейтинга ATP

Теннисист Медведев: когда я играю хорошо, могу победить любого

Мальцев и Платонова взяли серебро ЧМ, Бублик вышел в полуфинал Кицбюэля. Главное к утру


Еще одно здание ГБУ «Жилищник» появится во Внукове

Дом с аркой отремонтируют в Отрадном

Οфициaльнο: Ποcлeдний aвиaнοceц Ροccии xοтят οтпpaвить нa мeтaллοлοм

Математика Савватеева возмутило заявление о "лишних" учителях


Музыкальные новости

Певица Вика Цыганова раскритиковала российских фанатов Оззи Осборна

Будь собой, а не "звездой": "Europarty" от White Queen

Где похоронен Владимир Высоцкий

Оззи Осборна убила коварная болезнь


В Третьяковке на Кадашевской набережной открылся концертный зал

«Каникулы с Росгвардией» проходят в регионах Центральной России

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


Нижегородская область входит в число лидеров по размеру маткапитала в России

Okko и ТНТ выпустят драмеди про трёх сестёр «Хай, систерс»

Аудиосказки про Турбозавров теперь на Яндекс Музыке!

Ростовский-на-Дону ЭРЗ ввёл в эксплуатацию новый прошивной станок


На МКАД в Москве произошло массовое ДТП, движение затруднено

В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)

На международном ралли «Шелковый путь – 2025» представили новое моторное масло для мотоциклистов

Водитель Audi сбил трех пешеходов, переходивших дорогу на западе Москвы


Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Соболезнования в связи с авиакатастрофой в Амурской области выразили зарубежные лидеры

У Путина есть роскошный подарок для Китая: США схватились за голову, узнав о нем

Сигналы становятся всё громче. Переговоры - только ширма. Главное решится не в Стамбуле


В Алтайском крае распространяется новый штамм коронавируса

Депздрав Москвы оценил ситуацию с распространением нового штамма коронавируса

Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая

Новый штамм коронавируса "стратус" фиксируют в Москве с мая



Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Компания КИТ МЕД представляет революционный аппарат SONOQUEEN — первую в мире анатомическую HIFU-технологию для anti-age терапии в России

Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая

Новый штамм коронавируса "стратус" фиксируют в Москве с мая


Мединский дал неожиданный ответ на предложение Киева о встрече Путина и Зеленского 

Британский журналист: Зеленский - мелкий жулик и крыса, которому «недолго осталось» в этом мире


«Каникулы с Росгвардией» проходят в регионах Центральной России

Пять земельных участков для размещения НКО доступны на городских торгах

"Атлетико" заключил соглашение с игроком национальной команды Словакии

"Монсон о спортсменах, которые меняют гражданство в сложный период для России"


Лукашенко поделился мнением о самой идеальной профессии.

Лукашенко с иронией отнесся к санкциям, запрещающим ему въезд в Эстонию

Лукашенко посоветовал не злить его и не допускать падежа в животноводстве

Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне


Мэр Москвы: Улучшим транспортную доступность Южного и Северного Бутова

Собянин поддержал проведение конкурса «Лучший книжный магазин Москвы»

Сергей Собянин. Главное за день

Собянин: Около 10 тыс. москвичей начали переселение по реновации этим летом


Исследование выявило снижение инвестиций в экологически чистую энергетику США.

В центре внимания: CorpSoft24 вошел в рейтинг крупнейших ИТ-компаний России

6 лет вместе. В Москве пройдет выставка, посвященная пандам Жуи и Диндин

Московские студенты начали исследовать влияние климатических изменений на сток рек Ямала


Синоптик Тишковец: череда тропических ливней в Москве завершена

Первая победа «Динамо» в сезоне? «Динамо» — «Ростов»: прогноз и ставка

Обрушившийся потолок забаррикадировал четыре квартиры на востоке Москвы

Отсидевший четыре года за сходство с мошенником не смог доказать невиновность


В Нарьян-Маре из-за холодов возобновили подачу отопления в дома

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Республика Алтай вошла в десятку регионов России по развитию ипотеки

Настольный термотрансферный принтер штрих-кодов iDPRT iE4P


Поезда "Таврия" по-прежнему задерживаются из-за ЧП в Ростовской области

"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

Лавандовое поле горит в Симферопольском районе Крыма

Актуальная информация о задержке поездов в Крым и обратно


Ветеринары напомнили жителям Подмосковья о необходимости вакцинации питомцев

Еще одно здание ГБУ «Жилищник» появится во Внукове

Οфициaльнο: Ποcлeдний aвиaнοceц Ροccии xοтят οтпpaвить нa мeтaллοлοм

Математика Савватеева возмутило заявление о "лишних" учителях














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *