Добавить новость
smi24.net
News in English
Июль
2023

This new tool could protect your pictures from AI manipulation

0

Remember that selfie you posted last week? There’s currently nothing stopping someone taking it and editing it using powerful generative AI systems. Even worse, thanks to the sophistication of these systems, it might be impossible to prove that the resulting image is fake. 

The good news is that a new tool, created by researchers at MIT, could prevent this 

The tool, called PhotoGuard, works like a protective shield by altering photos in tiny ways that are invisible to the human eye but prevent them from being manipulated. If someone tries to use an editing app based on a generative AI model such as Stable Diffusion to manipulate an image that has been “immunized” by PhotoGuard, the result will look unrealistic or warped. 

Right now, “anyone can take our image, modify it however they want, put us in very bad-looking situations, and blackmail us,” says Hadi Salman, a PhD researcher at MIT who contributed to the research. It was presented at the International Conference on Machine Learning this week. 

PhotoGuard is “an attempt to solve the problem of our images being manipulated maliciously by these models,” says Salman. The tool could, for example, help prevent women’s selfies from being made into nonconsensual deepfake pornography.

The need to find ways to detect and stop AI-powered manipulation has never been more urgent, because generative AI tools have made it quicker and easier to do than ever before. In a voluntary pledge with the White House, leading AI companies such as OpenAI, Google, and Meta committed to developing such methods in an effort to prevent fraud and deception. PhotoGuard is a complementary technique to another one of these techniques, watermarking: it aims to stop people from using AI tools to tamper with images to begin with, whereas watermarking uses similar invisible signals to allow people to detect AI-generated content once it has been created.

The MIT team used two different techniques to stop images from being edited using the open-source image generation model Stable Diffusion. 

The first technique is called an encoder attack. PhotoGuard adds imperceptible signals to the image so that the AI model interprets it as something else. For example, these signals could cause the AI to categorize an image of, say, Trevor Noah as a block of pure gray. As a result, any  attempt to use Stable Diffusion to edit Noah into other situations would look unconvincing. 

The second, more effective technique is called a diffusion attack. It disrupts the way the AI models generate images, essentially by encoding them with secret signals that alter how they’re processed by the model.  By adding these signals to an image of Trevor Noah, the team managed to manipulate the diffusion model to ignore its prompt and generate the  image the researchers wanted. As a result, any AI-edited images of Noah would just look gray. 

The work is “a good combination of a tangible need for something with what can be done right now,” says Ben Zhao, a computer science professor at the University of Chicago, who developed a similar protective method called Glaze that artists can use to prevent their work from being scraped into AI models

Tools like PhotoGuard change the economics and incentives for attackers by making it more difficult to use AI in malicious ways, says Emily Wenger, a research scientist at Meta, who also worked on Glaze and has developed methods to prevent facial recognition. 

“The higher the bar is, the fewer the people willing or able to overcome it,” Wenger says. 

A challenge will be to see how this technique transfers to other models out there, Zhao says. The researchers have published a demo online that allows people to immunize their own photos, but for now it works reliably only on Stable Diffusion. 

And while PhotoGuard may make it harder to tamper with new pictures, it does not provide complete protection against deepfakes, because users’ old images may still be available for misuse, and there are other ways to produce deepfakes, says Valeriia Cherepanova, a PhD researcher at the University of Maryland who has developed techniques to protect social media users from facial recognition

In theory, people could apply this protective shield to their images before they upload them online, says Aleksander Madry, a professor at MIT who contributed to the research. But a more effective approach would be for tech companies to add it to images that people upload into their platforms automatically, he adds. 

It’s an arms race, however. While they’ve pledged to improve protective methods, tech companies are still also developing new, better AI models at breakneck speed, and new models might be able to override any new protections. 

The best scenario would be if the companies developing AI models would also provide a way for people to immunize their images that works with every updated AI model, Salman says. 

Trying to protect images from AI manipulation at the source is a much more viable option than trying to use unreliable methods to detect AI tampering, says Henry Ajder, an expert on generative AI and deepfakes. 

Any social media platform or AI company “needs to be thinking about protecting users from being targeted by [nonconsensual] pornography or their faces being cloned to create defamatory content,” he says. 








Рэпер Баста открыл свой ресторан в Marins Park Hotel Екатеринбург

«Это лучшее, что я видела за последнее время». «Тату» вернулись и уже дают концерты. Почему за ними следит вся страна?

Игровые терминалы в ТЦ: союз ради будущего

Мичков внесен в Книгу знаменитых людей Кунгура, сообщил директор кунгурского музея: «Никаких его трофеев в музее пока нет, к сожалению»


Brit Who Fought Usyk Calls For Daniel Dubois To ‘Leave The Sport’ After Staying Down In Rematch

La UFC anuncia un mes de octubre mayúsculo

Las 'Guerreras del Agua' se dan un baño de bronce en el Mundial de Singapur

Stanford dropout Sam Altman says college is ‘not working great’ for most people—and predicts major change in the next 18 years


В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Свято Боголюбский Женский Монастырь

В Фатеже два человека пострадали в ДТП

Вредоносный код в Firefox: атака на цепочку поставок через NPM-пакеты


'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'

Первый трейлер Battlefield 6

Краткая биографическая справка о центральных персонажах Mafia: The Old Country

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'



Росгвардия и МЧС провели совместные учения в Москве

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры


Chef's table и новое пространство ресторана «Интеллигенция»

Мартинс: Не думаю, что в матче с «Балтикой» будет битва именно флангов атаки

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы


Прогноз погоды на сегодня, 25 июля

Месяц в открытом море: студенты ДВФУ отправятся в экспедицию на Камчатку

Обломки сбитых дронов повредили контактную сеть на станциях в двух регионах РФ

Первая победа «Динамо» в сезоне? «Динамо» — «Ростов»: прогноз и ставка


Медведев пробился в четвертьфинал турнира в Вашингтоне

Мирра Андреева из России удерживает пятую позицию в рейтинге WTA.

Винус Уильямс: Если Серена вернется, она даст вам знать

Винус Уильямс проиграла во втором раунде турнира в Вашингтоне.


Врач Соловьева: прокрастинация может быть симптомом депрессии

Сотрудники органов принудительного исполнения обеспечивают безопасность судебных процессов

Бодрость духа, грация и пластика: памяти Владимира Высоцкого

На МКАД в Москве произошло массовое ДТП, движение затруднено


Музыкальные новости

Кабинет Артиста. Яндекс кабинет артиста.

Баста трогательно поздравил жену с днём рождения: «Вечная любовь»

Наталья Фриске показала дочь в костюме врача и поведала о своем самочувствии

Менеджер Артиста. Менеджер по работе с артистами.


Технологии будущего: MGIMO Ventures объявляет старт четвертого сезона акселерационной программы

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Росгвардия и МЧС провели совместные учения в Москве


Группа Аквилон передала государству первые квартиры

Нижегородская область входит в число лидеров по размеру маткапитала в России

Лео Канделаки и Анжелика Стубайло сыграют в новую трэвел-игру «Кто куда» на ТНТ

Клуб Медиалиги «Амкал» предлагал Овечкину сыграть в Кубке России по футболу


На МКАД в Москве произошло массовое ДТП, движение затруднено

В столичном главке Росгвардии проведён смотр спецтехники

На Крымском мосту восстановили движение автотранспорта

В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)


У Путина есть роскошный подарок для Китая: США схватились за голову, узнав о нем

"Ультиматум Трампа: потенциальные последствия для Путина"

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Соболезнования в связи с авиакатастрофой в Амурской области выразили зарубежные лидеры


Депздрав: новый штамм коронавируса «стратус» фиксируют в Москве с мая

Новый штамм коронавируса "стратус" фиксируют в Москве с мая

Депздрав Москвы оценил ситуацию с распространением нового штамма коронавируса



Utrace запускает услугу по валидации IT-систем для фармацевтического рынка

Фитнес-марафоны на паузе: суд продлил домашний арест блогеру Лерчек

Пластический хирург Софья Абдулаева: подтяжка груди нитями - эффективно ли это

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.



«Каникулы с Росгвардией» проходят в регионах Центральной России

Игровые терминалы в ТЦ: союз ради будущего

"Монсон о спортсменах, которые меняют гражданство в сложный период для России"

Две трети россиян считают, что спортсмены зарабатывают слишком много


Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне

Лукашенко поделился мнением о самой идеальной профессии.

Лукашенко посоветовал не злить его и не допускать падежа в животноводстве


Сергей Собянин. Главное за день

Сергей Собянин поздравил москвича — победителя международной олимпиады по физике


Исследование выявило снижение инвестиций в экологически чистую энергетику США.

В центре внимания: CorpSoft24 вошел в рейтинг крупнейших ИТ-компаний России


Пять земельных участков для размещения НКО доступны на городских торгах

Еще одно здание ГБУ «Жилищник» появится во Внукове

На МКАД в Москве произошло массовое ДТП, движение затруднено

Дом с аркой отремонтируют в Отрадном


В Архангельске началось обучение бойцов СВО, сообщил Цыбульский.

Настольный термотрансферный принтер штрих-кодов iDPRT iE4P

70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.


"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

В центре Балаклавы изменят дорожное движение – причины и сроки

Прогноз погоды в Крыму на 25 июля

В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями


Дом с аркой отремонтируют в Отрадном

ВДНХ приглашает волонтёров для помощи посетителям выставки

«Был пар и вибрация»: пассажиры жаловались на состояние Ан-24 перед катастрофой

Девушка Рая отреагировала на использование ее лица во время выступления Элджея














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *