Добавить новость
smi24.net
News in English
Март
2023

How unbelievably realistic fake images could take over the internet

0
Vox 
An AI-generated image created using the prompt: “Cinematic, off-center, two-shot, 35mm film still of a 30-year-old french man, curly brown hair and a stained beige polo sweater, reading a book to his adorable 5-year-old daughter, wearing fuzzy pink pajamas, sitting in a cozy corner nook, sunny natural lighting, sun shining through the glass of the window, warm morning glow, sharp focus, heavenly illumination, unconditional love,” | Nick St. Pierre/Midjourney V5

AI image generators like DALL-E and Midjourney are getting better and better at fooling us.

Last week, a 31-year-old construction worker took a few psychedelics and thought it might be fun to use AI image generator Midjourney to create a photorealistic image of Pope Francis wearing a big white Balenciaga-style puffer jacket. A lot of people who saw it thought it was fun, too, so they spread it around social media. Most of them probably had no idea that it wasn’t real.

Now, the Pope having that drip isn’t the worst nor most dangerous deployment of photorealistic AI-generated art, in which new images are created from text prompts. But it is an example of just how good this technology is becoming, to the point that it can even trick people who are usually more discerning about spreading misinformation online. You might even call it a turning point in the war against mis- and disinformation, which the people fighting were, frankly, already losing simply because social media exists. Now we have to deal with the prospect that even the people who are fighting that war may inadvertently help spread the disinformation they’re trying to combat. And then what?

It’s not just Coat Pope. In the last two weeks, we’ve seen several ominous AI-image stories. We had Trump’s fake arrest and attempted escape from the long AI-generated arm of the law, which was capped by a set of poorly rendered fingers. We had Levi’s announcing it would “supplement” its human models with AI-generated ones in the name of diversity (hiring more diverse human models was apparently not an option). Microsoft unleashed its Bing Image Creator in its new AI-powered Bing and Edge browser, and Midjourney, known for its photorealistic images, released its latest version.

Finally, there’s the news that AI image generators are getting better at drawing hands, which had been one of the tell-tale signs to detect if an image is fake. Even as convincing as Coat Pope appeared, a close look at his right hand would have revealed its AI origins. But soon, we may not even have that. Levi’s will be able to use AI models to show off its gloves, while the rest of us might be thrown into a new world where we have absolutely no idea what we can trust — one that’s even worse than the world we currently inhabit.

“We’ve had this issue with text and misinformation on social platforms. People are conditioned to be skeptical with text,” said Ari Lightman, a professor of digital media and marketing at Carnegie Mellon University. “An image ... adds some legitimacy in the user’s mind. An image of video creates more resonance. I don’t think our blinders are up yet.”

In just a few short years, AI-generated images have come a long way. In a more innocent time (2015) Google released “DeepDream,” which used Google’s artificial neural network programs — that is, artificial intelligence that’s been trained to learn in a way that mimics a human brain’s neural networks — to recognize patterns in images and make new images from them. You’d feed it an image, and it would spit back something that resembled it but with a bunch of new images weaved in, often things approximating eyeballs and fish and dogs. It wasn’t meant to create images so much as to show, visually, how the artificial neural networks detected patterns. The results looked like a cross between a Magic Eye drawing and my junior year of college. Not particularly useful in practice, but pretty cool (or creepy) to look at.

These programs got better and better, training on billions of images that were usually scraped from the internet without their original creators’ knowledge or permission. In 2021, OpenAI released DALL-E, which could make photorealistic images from text prompts. It was a “breakthrough,” says Yilun Du, a PhD student at MIT’s Computer Science and Artificial Intelligence Laboratory who studies generative models. Soon, not only was photorealistic AI-generated art shockingly good, but it was also very much available. OpenAI’s Dall-E 2, Stability AI’s Stable Diffusion, and Midjourney were all released to the general public in the second half of 2022.

The expected ethical concerns followed, from copyright issues to allegations of racist or sexist bias to the possibility that these programs could put a lot of artists out of work to what we’ve seen more recently: convincing deepfakes used to spread disinformation. And while the images are very good, they still aren’t perfect. But given how quickly this technology has advanced so far, it’s safe to assume that we’ll soon be hitting a point where AI-generated images and real images are nearly impossible to tell apart.

Take Nick St. Pierre’s work, for example. St. Pierre, a New York-based 30-year-old who works in product design, has spent the last few months showing off his super-realistic AI art creations and explaining how he got them. He may not have the artistic skills to compose these images on his own, but he has developed a skill for getting them out of Midjourney, which he says he uses because he thinks it’s the best one out there. St. Pierre says he dedicated the month of January to 12-hour days of working in Midjourney. Now he can create something like this in just about two hours.

“When you see a digital image on the internet and it’s AI generated, it can be cool, but it doesn’t, like, shock you,” St. Pierre said. “But when you see an image that’s so realistic and you’re like, ‘wow, this is a beautiful image’ and then you realize it’s AI? It makes you question your entire reality.”

But St. Pierre doesn’t usually put real people in his work (his rendering of Brad Pitt and John Oliver as female Gucci models from the ‘90s is an exception, though few people would look at either and think they were actually Brad Pitt or John Oliver). He also thinks social media companies will continue to develop better tools to detect and moderate problematic content like AI-generated deepfakes.

“I’m not as concerned about it as a lot of people are,” he said. “But I do see the obvious dangers, especially in the Facebook world.”

Nick St. Pierre/Midjourney V5
Two of Nick St. Pierre’s AI-generated images. You can find the prompts he used to create them here (left image ) and here (right image).

Du, from MIT, thinks we’re at least a few years away from AI being able to produce images and videos that flood our world with fake information. It’s worth noting that, as realistic as St. Pierre’s images are, they’re also the end product of hours and hours of training. Coat Pope was made by someone who said he’d been playing around with Midjourney since last November. So these aren’t yet images that anyone can just spin up with no prior experience. Lightman, from Carnegie Mellon, says the question now is whether we’ll be ready for that possibility.

Of course, a lot of this depends on the companies that make these programs, the platforms that host them, and the people who create the images to act responsibly and do everything possible to prevent this from happening.

There are plenty of signs that they won’t. Bing Creator won’t generate an image of a real person, but Midjourney — the source of both Coat Pope and Fugitive Trump — clearly does (it has since banned the creators of both images from the platform but did not respond to request for comment). They all have their own rules for what is or isn’t allowed. Sometimes, there aren’t any rules at all. Stable Diffusion is open source, so anyone with any motives can build their own thing on top of it.

Social media platforms have struggled for years to figure out what to do about the disinformation campaigns that run wild through them, or if and how they should curb the spread of misinformation. They don’t seem very well-equipped to deal with deepfakes either. Expecting all of humanity to do the right thing and not try to trick people or use AI images for malicious purposes is impossibly naive.

And while many leaders of the AI movement signing a letter from an effective altruism-linked nonprofit that urged a six-month moratorium on developing more advanced AI models is better than nothing, it’s also not legally compelling. Nor has it been signed by everyone in the industry.

This all assumes that most people care a lot about not being duped by deepfakes or other lies on the internet. If the past several years have taught us anything, it’s that, while a lot of people think fake news is a real issue, they often don’t care or don’t know how to check that what they’re consuming is real — especially when that information conforms to their beliefs. And there are people who are happy enough to take what they see at face value because they don’t have the time or perhaps the knowledge to question everything. As long as it comes from a trusted source, they will assume it’s true. Which is why it’s important that those trusted sources are able to do the work of vetting the information they distribute.

But there are also people who do care and see the potential damage that deepfakes that are indistinguishable from reality pose. The race is on to come up with some kind of solution to this problem before AI-generated images get good enough for it to be one. We don’t yet know who will win, but we have a pretty good idea of what we stand to lose.

Until then, if you see an image of Pope Francis strolling around Rome in Gucci jeans on Twitter, you might want to think twice before you hit retweet.

A version of this story was first published in the Vox technology newsletter. Sign up here so you don’t miss the next one!








Анна Седокова раскрыла, как изменился для неё Майами после смерти Яниса Тиммы

Один год в двадцатилетней истории Marins Москва Пражская

Обложка песни. Обложки альбомов песен. Сделать обложку для песни.

Павел Воля примет участие в комедийном сериале «Три сестры» с Ларисой Гузеевой и Павлом Деревянко


Chat log from R20 of 2025: Richmond vs Collingwood

UFC Abu Dhabi live blog: Shara Bullet vs. Marc-Andre Barriault

Kolo Muani: Juventus prepare new offer but face Man United and Chelsea threat

The Great Indian Kapil Show: Raghav Chadha reveals telling Parineeti Chopra to manifest he will never become the PM; says ‘Yeh jo bolti hai wo ulta hota hai’


ТСМ готовит территорию под реконструкцию ростовского участка трассы М-4

Нагорный Карабах - сторона конфликта в переговорном процессе в рамках Минской группы ОБСЕ. ВИДЕО

Александр Михайлов (GSOC): «Безопасность IT-экосистемы — это зона нулевого доверия к подрядчикам»

Летний внчер в Кимже...


Ninja Party можно предзаказать в мобильных маркетах с релизом в конце июля

«Если бы у Наруто и AC Shadows был ребёнок»: Разбор англоязычной версии Where Winds Meet

Первый трейлер Battlefield 6

Quarantine Zone creator reveals 3 reasons the zombie sim went viral on TikTok



Александр Михайлов (GSOC): «Безопасность IT-экосистемы — это зона нулевого доверия к подрядчикам»

Росгвардия обеспечила безопасность празднования Дня ВМФ и футбольного матча в Москве

Где живут и на чем ездят самые аварийные водители России?

Адвокат Гаврилова раскрыла, чего добивается семья Тиммы после его смерти


Пловец из Москвы скончался во время заплыва по Волге в Нижнем Новгороде

Педагоги из Китая, Монголии, Таиланда и Узбекистана получили сертификаты Иркутского политеха

Елена Игоревна Вселенная — писатель, публицист, автор масштабного многотомного проекта «Наследие России»

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры


Прошла испытания система дистанционной передачи данных для корректировки навигационных карт

Более 60% работ по замене асфальта на Садовом кольце уже выполнено

В Петрозаводске жених пришел на свадьбу в костюме Дарта Вейдера

Новый роман, скандалы и поддержка оппозиции: что сейчас с Сашей Бортич


Боузкова одержала победу на теннисном турнире в Праге

«Краснодар» — «Локо», UFC и матч Калинской: что посмотреть сегодня

Калинская повысила свои позиции на 17 мест в рейтинге WTA

Весной его дисквалифицировали за мат, а теперь он герой Универсиады. Кто такой Владимир Сидоренко?


Первый прямой рейс из Москвы приземлился в КНДР

Завершились съемки документального фильма о дилогии Балабанова «Брат навсегда»

Прошла испытания система дистанционной передачи данных для корректировки навигационных карт

В пробке на Крымском мосту застряли более 1000 машин


Музыкальные новости

Мигель жестко прошелся по Zivert после успеха ее шоу в Москве: «Идите вы все!»

Высоцкий снова на сцене: цифровой аватар легендарного барда выступит в Москве

Дирижер оркестра «Глобалис» признался в желании побеседовать с Паганини

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


Адвокат Гаврилова раскрыла, чего добивается семья Тиммы после его смерти

Александр Михайлов (GSOC): «Безопасность IT-экосистемы — это зона нулевого доверия к подрядчикам»

Росгвардия обеспечила безопасность празднования Дня ВМФ и футбольного матча в Москве

Где живут и на чем ездят самые аварийные водители России?


Рекордный массовый женский нетворкинг: событие от «Мир Бизнес Мам»

В депо «Чита» будет установлен первый цифровой весоизмерительный комплекс системы подачи песка под колесные пары локомотива

Где живут и на чем ездят самые аварийные водители России?

Путин поднял флаг на атомном подлодке "Князь Пожарский" в Северодвинске


НПС построит два велопешеходных моста через Москву-реку

На МКАД авария затруднила движение авто

Где живут и на чем ездят самые аварийные водители России?

В Кот-д'Ивуаре в результате аварии с участием автобуса и самосвала погибли 16 человек.


Путин поздравил Жапарова с юбилеем подписания декларации о союзничестве.

«Внезапно»: Запад встревожен новым указом Путина

Путин в День ВМФ прибыл на территорию Главного Адмиралтейства в Санкт-Петербурге

СМИ: Путин на этой неделе отправил США ominous сигнал.


Приговор экс-руководителю компании по производству вакцин против ковида был смягчен.



Optima Development: Новый сквер и фитнес-клуб

Ночные перекусы в отпуске: доктор Садыков о том, как они влияют на микрофлору и вес

Вспомнить прошлое. Врач Романов объяснил появление метастазов через годы

Клиника гнатологии – лечение ВНЧС и восстановление прикуса


Кто заставил Зеленского предложить России новый раунд переговоров: В Британии показали пальцем

Киевский режим применил все 18 пакетов санкций ЕС

Запад ударил Зеленского по самому больному месту – кошельку: Киев показательно лишили 1,5 миллиардов помощи

Зеленский настаивает: встреча с Путиным до конца августа с участием Европы


Команда столичного управления МЧС России готовится к участию во Всероссийских соревнованиях по пожарно-спасательному спорту

Росгвардия обеспечила безопасность празднования Дня ВМФ и футбольного матча в Москве

Чемпионат по военно-спортивному многоборью среди росгвардейцев завершился в Грозном

Чемпионат по военно-спортивному многоборью среди росгвардейцев завершился в Грозном


Лукашенко получил приглашения от стран Латинской Америки и Азии для визитов.

Лукашенко дал интервью одному из американских СМИ

«Беларусь-1»: Лукашенко дал интервью одному из американских СМИ


Собянин в День работника МФЦ поздравил сотрудников центров госуслуг Москвы

Сергей Собянин. Главное за день

Собянин: На территории промзоны «Кирпичные улицы» будет создана социнфраструктура

Сергей Собянин назвал инновационные разработки, которые внедрили в Москве


Зачем Минприроды Свердловской области планирует организовать полигон отходов на участке, где идёт поиск питьевой воды?

Почему технологии ПВВК безопасны и эффективны, химия и экология воды по мнению Алексея Горшкова

В Феодосии ликвидировали пожар на площади

Самолёт совершил первый прямой авиарейс из Москвы в Пхеньян


Экс-футболист «Зенита» отказался от перехода в «Спартак», пишут СМИ

В пробке на Крымском мосту застряли более 1000 машин

Завершились съемки документального фильма о дилогии Балабанова «Брат навсегда»

Команда столичного управления МЧС России готовится к участию во Всероссийских соревнованиях по пожарно-спасательному спорту


70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

В музее-заповеднике «Архангельское» пройдут «Jazzовые сезоны»

В Архангельске представили киноальманах «Север, я люблю тебя!» по произведениям современных писателей


В Севастополе пройдет масштабная выставка картин Александра Дейнеки

К парню с костылем подошли трое с требованием уступить. Он был готов, но заступилась бабушка по соседству

В Крыму из-за дыма от пожара столкнулись девять автомобилей

Прогноз погоды в Крыму на 27 июля


Новый роман, скандалы и поддержка оппозиции: что сейчас с Сашей Бортич

"Аэрофлот" сообщил об отмене 42 рейсов из Москвы из-за сбоя информсистем

В Кузбассе проходят торжества в честь празднования Крещения Руси

Синоптики предупреждают: в Москве воздух прогреется до +30














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *