Should creators be concerned about Instagram’s AI developments?
On April 22, journalist Emanuel Maiberg of 404 Media published a disturbing investigation into Instagram’s ad ecosystem. The report revealed that Instagram is profiting from multiple ads that explicitly invite people to create nonconsensual deepfake nudes with AI apps. One particularly egregious ad had a picture of Kim Kardashian with text that read, “Undress any girl for free. Try It.”
These ads ran on Facebook, Instagram, Facebook Messenger, and Meta’s in-app ad network from April 10 to 20. The report is particularly troubling given that deepfakes are an issue specifically impacting teenage girls — a demographic Meta has repeatedly been criticized for harming.
Only a few states have any laws addressing deepfakes. However, Meta reps have said it does ban nonconsensual deepfakes. The company also bans ads containing adult content, saying it uses a mix of AI detection systems and human review to identify this content. Meta deleted these deepfake ads after 404 Media ran its story. But it clearly failed to detect and address them properly on its own.
So why did this happen? Well, as 404 puts it, it’s clear Instagram is either “unwilling or unable” to enforce its own policies about AI. And perhaps that’s because it has some twisted priorities when it comes to the AI tools it is investing in.
How is Instagram enforcing its AI policies?
“Instagram and Facebook are both decaying platforms that don't just enable criminal behavior but actively profit from it and either don't know or don't care how to stop it,” Jason Koebler of 404 Media said on X. “Content moderation is hard. But Meta is at a point now where they are regularly unable to find obvious illegal content unless a journalist sends them a direct link to it.”
This is hardly the first time Meta has failed to enforce its own policies when it comes to AI. Back in March, NBC News found that it was running other ads for sexually explicit deepfake services. One even advertised blurred nude image of an underage actress ...
In Today's Newsletter:
Sign up to receive the Daily Dot’s Internet Insider newsletter for urgent news from the frontline of online.
The post Should creators be concerned about Instagram’s AI developments? appeared first on The Daily Dot.
В Корпоративном университете «ЛокоТех» за первое полугодие 2025 года обучено более 2500 человек и создано 8 новых программ
Сеть клиник «Будь Здоров» открыла первый травмпункт сети на базе клиники на Сретенке
3% россиян теряют на пляжах ценности дороже миллиона рублей
Приключения в Дагестане: Comedy Radio рекомендует «Атель-Матель»
Is eBay actually sexy again as the ecommerce old-timer’s stock surges to an all-time high?
Nvidia’s Jensen Huang hauled before China’s cyber cops to explain ‘backdoor safety risks’ in H20 chips
All the news from Nintendo’s July 2025 Direct showcase
AI and robots can help the world grow more food—even if they’re still not quite as good as a human farmer
В Корпоративном университете «ЛокоТех» за первое полугодие 2025 года обучено более 2500 человек и создано 8 новых программ
Александр Михайлов (GSOC): «Безопасность IT-экосистемы — это зона нулевого доверия к подрядчикам»
Календарь мошенника: как фишеры используют праздники для кражи данных
If you'd like to see Meta's AI gunk purged from WhatsApp, a new antitrust investigation in Italy might just do the trick
Color Maze Adventure 2.0.0
Разработчики The Seven Deadly Sins: Origin ответили на частые вопросы игроков
«Деньги не пахнут»: Как Blox World наживается на доверии игроков Roblox
В Корпоративном университете «ЛокоТех» за первое полугодие 2025 года обучено более 2500 человек и создано 8 новых программ
Сооружения сервисного участка «Свердловск-Пассажирский» стали арт-объектом
«ЛокоТех» проводит комплексную оценку знаний специалистов службы качества
Олеся Шергина из Екатеринбурга взошла на Эльбрус: история смелости, вдохновения и преодоления девушки с протезом
Слушатели ENERGY отправятся на «Пикник Афиши» в Петербурге
Дженнифер Лопес удивила отдыхающих на пляже Астаны во время мирового тура
Экспортная пошлина на пшеницу из России поднимется до 19,4 рубля за тонну
Главред оштрафован на 400 тыс. рублей за пропаганду нетрадиционных отношений
Без воды. Как составить хорошее резюме для устройства на работу
На 82-м году жизни умер режиссер Театра Моссовета Юрий Ерёмин
В мире определили самое неаппетитное блюдо. Это блюдо оказалось из России - делимся рецептом
Собянин поздравил победителей конкурса «Большая перемена»
Александрова проиграла 493-й ракетке мира во втором круге турнира WTA в Монреале
Калинская вышла в третий раунд турнира в Монреале
Прямая трансляция матча Елены Рыбакиной на престижном турнире
Рахимова уступила Свитолиной во втором круге турнира WTA в Монреале
Жительница Москвы проглотила зубную щетку: уникальная операция спасла жизнь
Климат в Москве меняется: жара и ливни в июле 2025 года на 219% выше нормы
Давыдов: «За «Спартак» болеет вся Россия»
Житель Москвы надругался над незнакомкой около подъезда
Музыкальные новости
В Тамбовскую области на фестиваль "Прима Домра" приедет Юрий Башмет
Светлана Сурганова устроит в Воронеже «летник» с оркестром
Последний путь Князя тьмы: фанаты и близкие простились с Оззи Осборном
Варвава Визбор рассказала об особом отношении к деду Юрию Визбору
Сооружения сервисного участка «Свердловск-Пассажирский» стали арт-объектом
«ЛокоТех» проводит комплексную оценку знаний специалистов службы качества
В Корпоративном университете «ЛокоТех» за первое полугодие 2025 года обучено более 2500 человек и создано 8 новых программ
Забайкальский филиал "ЛокоТех-Сервис" показал уверенный рост в первом полугодии
Желдорреммаш подводит итоги работы за первое полугодие 2025 года
Сергей Собянин сообщил о завершении первого этапа обновления «Коломенского»
Что известно о задержках рейсов в аэропортах РФ 1 августа 2025 года
У сервисных локомотивных депо «Амурское» и «Новый Ургал» Дальневосточного филиала появился собственный пассажирский транспорт
Женщина-пешеход погибла при столкновении двух машин в Ясенево
В Подмосковье на видео сняли, как мужчины пытались перевернуть авто после ДТП
В Москве росгвардейцы задержали курьера, подозреваемого в краже техники
Народный депутат призвал к действиям после встречи Путина с Лукашенко
Путин поручил оптимизировать строительство высокоскоростной магистрали Москва — Петербург
Трамп встречает Иванку, Не Москва, 1987
Кремль заявил, что Путин никогда не обращается за официальным отпуском
NYT сообщает, что ЕК не сохранила переписку фон дер Ляйен с руководством Pfizer
Врач-косметолог Зухра Балакеримова: какие косметологические процедуры стоит сделать именно летом
В столичном главке Росгвардии оттачивают навыки тактической медицины на инструкторско-медицинских сборах
Олеся Шергина из Екатеринбурга взошла на Эльбрус: история смелости, вдохновения и преодоления девушки с протезом
Пластический хирург Софья Абдулаева: как используют собственный жир для омоложения лица
Путин: если Киев считает, что сейчас не время для переговоров, Москва готова ждать
«Хромая утка» Зеленский с ужасом ждет «майдана вдов» и бунта военных – нардеп Рады
Активист, сравнивший Зеленского с псиной, пойдёт под суд
Президент Польши Навроцкий потребовал от Зеленского изменить историческую политику Киева
Точно в цель – топ-3 гольф-клубов в окружении «Москва-Сити»
Викторины и квесты пройдут на столичной ВДНХ в честь 86-летия выставки
Сотрудники Минпросвещения и «Артека», педагоги, наставники и тренеры отмечены высокими наградами
Мероприятия в рамках акции «Каникулы с Росгвардией» проходят в регионах Центральной России
Путин и Лукашенко встретятся для переговоров на Валааме
Лукашенко: никому не удастся поставить Минск и Москву на колени
Путин и Лукашенко соберутся на неформальные переговоры
Лукашенко заявил о готовности к переговорам с ЕС по мигрантам
Еще немного. Мэр Собянин запустил проходку тоннеля от «Липовой рощи»
Сергей Собянин. Главное за день
Собянин: 220 тыс. семей переезжают в новые дома по программе реновации Москвы
Собянин: 23 ученика столичных 5–7-х классов стали победителями «Большой перемены»
Климатологи прогнозируют изменение климата в Москве в сторону субтропиков
Казахстан положил глаз на Волгу: Россия когда-то отказала, но Астана нашла обходной путь
В России за сутки ликвидировано 66 лесных пожаров
Жители Первомайского района «одобрили» строительство мусорного завода, хотя власти все еще в «раздумьях»
Фестивали и маркеты Москвы помогают бизнесу зарабатывать в летний сезон
Жительница Москвы проглотила зубную щетку: уникальная операция спасла жизнь
Навка выразила довольство возможностью предоставить лед для группы Жулина
Посол сообщил о преимуществах запуска прямого авиасообщения между Россией и Саудовской Аравией
В Красногорске дали старт строительству тоннеля от будущей станции метро «Липовая роща»
Еще немного. Мэр Собянин запустил проходку тоннеля от «Липовой рощи»
Заболевание клещевым энцефалитом в Подмосковье: 10,5 тыс. случаев укусов
В администрации Нарьян-Мара обнаружены следы коррупции
Пожар в Инкермане полностью ликвидирован - МЧС
Правительство РФ планирует приватизировать известные ликеро-водочные заводы
Инфраструктура новостроек: что важно для комфортной жизни
Крыму и еще 27 регионам списали долги по бюджетным кредитам на 58 млрд
Главное экономическое приключение лета: в парке искусств «Музеон» открылся павильон «Экономика Москвы»
Климат в Москве меняется: жара и ливни в июле 2025 года на 219% выше нормы
Россияне рассказали, как относятся к жаре
Проект строительства гостиницы на Большой Покровской прошел экспертизу
