Добавить новость
smi24.net
News in English
Декабрь
2024

How artificial intelligence can be weaponized for harassment

0

Beyond the popularity of AI emerges a significant issue: it supercharges harms, including non-consensual intimate imagery (NCII)

Originally published on Global Voices

 

Illustration by Tactical Tech, with visual elements from Yiorgos Bagakis and Alessandro Cripsta.

This article was written by Safa Ghnaim in collaboration with Goethe-Institut Brazil and originally published on DataDetoxKit.org. An edited version is republished by Global Voices under a partnership agreement. 

Artificial Intelligence (AI) tools — especially those that generate images, videos, and audio — have been marketed as “creativity apps” for individuals and “efficiency tools” for businesses, but there are few ways to control how they’re actually used and the harms that these artificially created visuals can cause.

It may come as no surprise that AI tools are making the problem of online harassment even worse, such as through the creation and sharing of non-consensual intimate imagery (NCII) — these are intimate photos or videos, including nudity or sexually suggestive or explicit images exposing someone's real or AI-generated body, shared without their permission.

NCII affects many people — not just the celebrities you might hear about in the media — and it’s not easy to deal with. Even platforms and law enforcement are struggling to keep up.

The problem is bigger than you might think

The technology is advancing so quickly that now it only takes one image of someone (and it could even be a totally wholesome picture) to be able to create sexually explicit content using one of many AI-powered tools.

While certain AI tools supercharge the problem of harassment, making it easy to create NCII of anyone, other AI tools are being used to tackle it. However, AI-powered tools that are trained to detect AI images are not perfect, and much of the work to identify and take them down still falls on the people working as content moderators.

One of the most resonant cases in 2024 involved sexually explicit AI-generated deepfake images of Taylor Swift. These images first appeared on 4chan and, within minutes, spread like wildfire across various social media sites. One of the images was seen over 47 million times before it was removed. It’s possible that these images are still being shared online since there is no real way to completely wipe them off the internet.

But this is not an isolated case. According to a 2021 study, 41 percent of over 10,000 survey respondents in the US said that they had personally experienced a form of online harassment. Of the respondents under 35 years old, 33 percent of women and 11 percent of men said they had specifically experienced sexual harassment online.

On a similar note, a 2023 analysis of over 95,000 deepfake videos found that up to 98 percent of them were deepfake pornography, and, of those, 99 percent of the individuals targeted were women. Other vulnerable groups, such as minors and LGBTQ+ people, are also disproportionately victims of online sexual harassment.

What steps can you take to protect yourself from this kind of harassment?

There are some guardrails in place by online platforms to support you in locking down your information from unwanted eyes. While these tips won’t build you an impenetrable fortress, they can make it harder for bullies or those trying to do harm to get to you.

Every platform is different and has settings and options accessible to users. As an example, here are a few things you can do to tighten controls on your Instagram and TikTok:

  • Set your profile to “private.” On platforms like Instagram and TikTok, you can set your profile to private so that only people who you approve as followers can see what you share in most cases. However, they can still see comments you make on other people’s posts and can even still send you messages. Learn to set your profile to private on Instagram and TikTok.
  • Remove followers or block people. If someone is giving you a hard time or making you feel uneasy, you can remove them as a follower or block them altogether. But if you know the person in real life, you’ll need a different strategy. Learn how to block people on Instagram and TikTok.

It takes a village

Looking at how many people are getting targeted by online harassment, it seems logical to assume there are a lot of harassers, too. But the fact is, it only takes one bad actor to do widespread harm. Would you consider someone who re-shares NCII a harasser, even if they didn’t originally generate the images? In the example of Taylor Swift, it took only a few people to create the NCII of her, but it wouldn’t have gone viral without many people sharing it.

So, how can you be an ally to someone who is being targeted and harassed? No matter which social media platform you use, it likely will have a “report” function. On apps like Instagram, you can report specific posts or entire profiles or accounts if you spot anything that looks like abuse or harassment. Reporting on Instagram is a great option to flag problematic people or things you see or hear. Instagram won’t share the identity of the person reporting with the person being reported.

When you “report” on Instagram, the platform may remove the post or may warn, deactivate, or ban the profile or account, depending on what happened and whether it goes against their Community Guidelines. Worth noting is that Meta’s Community Guidelines are not always helpful, and post takedowns and account bans have caused recent controversies.

If you personally know the person who is being targeted, gently reach out to them if you feel comfortable doing so. It might be that they had no idea this was happening and could react with strong distress, anger, or sadness. If you feel prepared to support them, you can offer them resources (like those linked at the end of this guide) and help them monitor and document the harassment.

Even though you most likely will not want to look at the harassment again, it might be helpful to document it before it’s taken down. Consider taking a video capture or screenshot of the post or comment that includes the account name of the other person and the date. Save the documentation somewhere safe and out of sight on your phone or computer. For example, on some phones you can set up a password-protected “secure folder.”

Documentation, when done well, can be useful in case the person being targeted decides to bring the issue to law enforcement and needs some sort of evidence.

It’s important that the person being targeted decides what they want to do. Do they want to contact law enforcement, get a lawyer, or reach out to their school, university, or workplace? Or would they rather keep it confidential as much as they can? Especially in a situation of NCII, so much choice is being taken away from them, so make sure to support them in getting back in control.

Know where to go for help

If you or someone you know is targeted with NCII, know that there are dedicated organizations out there who are ready to help. You don’t have to deal with it alone. Here are just a few supporting English-speakers:

  • Chayn (worldwide): Chayn provides resources and support to survivors of gender-based violence.
  • StopNCII (worldwide): StopNCII has a bank of resources as well as a tool that can help you get non-consensual intimate images taken down.
  • Take Back the Tech (worldwide): Take Back the Tech offers explainers and resources like Hey Friend, with tips on how you can support your friends when they are targets of harassment.
  • RAINN's National Sexual Assault Hotline (USA): RAINN provides a private hotline where you can chat online or call a staff member who has undergone crisis training.
  • Take It Down (USA): Take It Down helps you, step-by-step, to file a removal request for NCII.
  • Cyber Civil Rights Initiative (CCRI) (USA): CCRI includes step-by-step guidance and lists of US-based attorneys and laws. They have a list of international resources, too.
  • Revenge Porn Helpline (United Kingdom): The Revenge Porn Helpline gives advice to adults who have been targeted.
  • Umi Chatbot (Australia): The Umi Chatbot is a quick way to get information about how to deal with NCII. The website also has resources about collecting evidence and reporting.

For more tips and resources on how to deal with online harassment:

 








Модель Анастасия Решетова перенесла вирус с осложнениями

Мичков внесен в Книгу знаменитых людей Кунгура, сообщил директор кунгурского музея: «Никаких его трофеев в музее пока нет, к сожалению»

Дети играют, родители отдыхают

В России обнаружено более 100 случаев заболевания новым штаммом COVID-19


Stanford dropout Sam Altman says college is ‘not working great’ for most people—and predicts major change in the next 18 years

UFC Abu Dhabi live blog: Shara Bullet vs. Marc-Andre Barriault

Brit Who Fought Usyk Calls For Daniel Dubois To ‘Leave The Sport’ After Staying Down In Rematch

Juventus and Roma weigh up McKennie & Cristante swap


Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы

Юный мотоциклист попал в больницу в результате аварии в центре Орла

В Курской области прокурор требует компенсацию для рабочего, придавленного погрузчиком

Свято Боголюбский Женский Монастырь


Quarantine Zone creator reveals 3 reasons the zombie sim went viral on TikTok

Первый трейлер Battlefield 6

Ninja Party можно предзаказать в мобильных маркетах с релизом в конце июля

Brütal Legend is free in honor of Ozzy Osbourne, but only for 666 minutes



"НАТО следит за Россией: как медиа рассказывают о воздушной разведке"

Ni Mash: пловец из Москвы умер во время заплыва на Волге в Нижнем Новгороде

«Спартак» разгромно проиграл «Балтике» после двух удалений

Уникальная возможность пройти эстетические процедуры с большими скидками


знаменит магнит гагарина а не николева

В Ярославской области прошел финал турнира по шахматам на Кубок губернатора

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

Елена Игоревна Вселенная — писатель, публицист, автор масштабного многотомного проекта «Наследие России»


Рита Дакота заявила, что ей «запретили» петь в России

Китай и Индия поддержали идею Лаврова о возрождении РИК в преддверии саммита ШОС

Московская область выиграла первый командный чемпионат России по гольфу

"Спартак" – "Балтика" 0:3: Заболотный, Карасёв и разгром на "Лукойл Арене"


Болбой раздавил спасенного теннисисткой Cаккари жука на турнире WTA-500 в США

Сидоренко из России одержал победу и стал чемпионом по настольному теннису на Универсиаде.

«Краснодар» — «Локо», UFC и матч Калинской: что посмотреть сегодня

Теннисист Медведев не прошел в полуфинал турнира ATP в Вашингтоне


"Спартак" – "Балтика" 0:3: Заболотный, Карасёв и разгром на "Лукойл Арене"

Пловец из Москвы погиб во время заплыва на Волге

Российское юр. лицо Microsoft подало заявление о банкротстве

Сергей Собянин. Главное за день


Музыкальные новости

Симона Юнусова честно высказалась о популярности своего сына Тимати

Смерть Сорина, Яковлева и сестры, расставания с любимыми. Почему пил Андрей Григорьев-Апполонов

Ильназ Бах представил песню, посвященную памяти своего отца

Большинство эпизодов с ним Высоцкий снимался спиной к камере и подсказывал текст роли другу.


«Спартак» разгромно проиграл «Балтике» после двух удалений

Ni Mash: пловец из Москвы умер во время заплыва на Волге в Нижнем Новгороде

Уникальная возможность пройти эстетические процедуры с большими скидками

Пловец из Москвы погиб во время заплыва на Волге


Лео Канделаки и Анжелика Стубайло сыграют в новую трэвел-игру «Кто куда» на ТНТ

В Смоленской области пройдёт IT-фестиваль «Мой Бизнес. Табтабус 2025»

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Менеджер Артиста. Менеджер по работе с артистами.


Подмосковные власти ужесточили контроль за платными дорогами

В центре Москвы крупная авария парализовала движение автомобилей

"КАМАЗ" одержал выездную победу над "Волгой" в матче Первой лиги.

На Московской столкнулись электровелосипед и легковушка


Почтовая карточка в честь основателя авиации внутренних войск

«Личная боль Путина, а им всё равно»: Военный не сдержался после выходки в Москве. Капитан тремя словами подписал себе «приговор»


Профессор Баранова рассказала, кому опасен новый штамм коронавируса



"Осторожен за свое здоровье": Станкович высказался о усталости после игры с "Балтикой".

Ликсутов: в Москве увеличивают объем выпуска и ассортимент продуктов для здорового питания

Клиника гнатологии в Москве

Профессор Баранова рассказала, кому опасен новый штамм коронавируса


Турция заявила о договоренности по возможной встрече Путина и Зеленского

Киев — часть России. Официально: О чём забыли Зеленский и Алиев, сговорившись о "деоккупации"

Почему Израилю можно ВСЁ: Аннексия Палестины и молчание мира


Ni Mash: пловец из Москвы умер во время заплыва на Волге в Нижнем Новгороде

"Локомотив" победил действующего чемпиона РПЛ

Пловец из Москвы погиб во время заплыва на Волге

«Спартак» разгромно проиграл «Балтике» после двух удалений



Собянин: Москвичи победили на Международной олимпиаде по биологии в Филиппинах

Собянин рассказал, каким будет новый детский сад в Очаково-Матвеевском

Сергей Собянин. Главное за день

Собянин: Строительство детского сада в Очаково-Матвеевском завершится в 2026


В стране, любимой российскими туристами, срочно установили новые правила.

"Зеленая партия" в Тюрингии все чаще дистанцируется от политической активности.

Греция обратилась к Евросоюзу с просьбой предоставить шесть самолетов для борьбы с лесными пожарами.

Катар предупредил Европу о возможности прекращения поставок газа.


Пловец из Москвы скончался во время заплыва по Волге в Нижнем Новгороде

Московская область выиграла первый командный чемпионат России по гольфу

Медведев призвал Африку бороться с неоколониализмом

Когда россияне снова смогут покупать дома и машины


В Архангельске началось обучение бойцов СВО, сообщил Цыбульский.

В музее-заповеднике «Архангельское» пройдут «Jazzовые сезоны»

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский


"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

Прогноз погоды в Крыму на 26 июля

К парню с костылем подошли трое с требованием уступить. Он был готов, но заступилась бабушка по соседству

В Севастополе спасли двух охотниц за селфи на Кадыковском карьере


Пловец из Москвы погиб во время заплыва на Волге

"Спартак" – "Балтика" 0:3: Заболотный, Карасёв и разгром на "Лукойл Арене"

Китай и Индия поддержали идею Лаврова о возрождении РИК в преддверии саммита ШОС

Рита Дакота заявила, что ей «запретили» петь в России














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *