Добавить новость
smi24.net
News in English
Апрель
2024

AI’s dark side: deepfakes explained as it poses growing threat

0

We live in a world where anything seems possible with artificial intelligence. While there are significant benefits to AI in certain industries, such as healthcare, a darker side has also emerged. It has increased the risk of bad actors mounting new types of cyber-attacks, as well as manipulating audio and video for fraud and virtual kidnapping. Among these malicious acts, are deepfakes, which have become increasingly prevalent with this new technology.

What are deepfakes?

Deepfakes use AI and machine learning (AI/ML) technologies to produce convincing and realistic videos, images, audio, and text showcasing events that never occurred. At times, people have used it innocently, such as when the Malaria Must Die campaign created a video featuring legendary soccer player David Beckham appearing to speak in nine different languages to launch a petition to end malaria.

However, given people’s natural inclination to believe what they see, deepfakes do not need to be particularly sophisticated or convincing to effectively spread misinformation or disinformation.

According to the U.S. Department of Homeland Security, the spectrum of concerns surrounding ‘synthetic media’ ranged from “an urgent threat” to “don’t panic, just be prepared.”

The term “deepfakes” originates from how the technology behind this form of manipulated media, or “fakes,” relies on deep learning methods. Deep learning is a branch of machine learning, which in turn is a part of artificial intelligence. Machine learning models use training data to learn how to perform specific tasks, improving as the training data becomes more comprehensive and robust. Deep learning models, however, go a step further by automatically identifying the data’s features that facilitate its classification or analysis, training at a more profound, or “deeper,” level.

The data can include images and videos of anything, as well as audio and text. AI-generated text represents another form of deepfake that poses an increasing problem. While researchers have pinpointed several vulnerabilities in deepfakes involving images, videos, and audio that help in their detection, identifying deepfake text proves to be more difficult.

How do deepfakes work?

Some of the earliest forms of deepfakes were seen in 2017 when the face of Hollywood star Gal Gadot was superimposed onto a pornographic video. Motherboard reported at the time that it was allegedly the work of one person—a Redditor who goes by the name ‘deepfakes.’

The anonymous Reddit user told the online magazine that the software relies on multiple open-source libraries, such as Keras with a TensorFlow backend. To compile the celebrities’ faces, the source mentioned using Google image search, stock photos, and YouTube videos. Deep learning involves networks of interconnected nodes that autonomously perform computations on input data. After sufficient ‘training,’ these nodes then organize themselves to accomplish specific tasks, like convincingly manipulating videos in real-time.

These days, AI is being used to replace one person’s face with another’s on a different body. To achieve this, the process might use Encoder or Deep Neural Network (DNN) technologies. Essentially, to learn how to swap faces, the system uses an autoencoder that processes and maps images of two different people (Person A and Person B) into a shared, compressed data representation using the same settings.

After training the three networks, to replace Person A’s face with Person B’s, each frame of Person A’s video or image is processed by a shared encoder network and then reconstructed using Person B’s decoder network.

Now, apps such as FaceShifter, FaceSwap, DeepFace Lab, Reface, and TikTok make it easy for users to swap faces. Snapchat and TikTok, in particular, have made it simpler and less demanding in terms of computing power and technical knowledge for users to create various real-time manipulations.

A recent study by Photutorial states that there are 136 billion images on Google Images and that by 2030, there will be 382 billion images on the search engine. This means that there are more opportunities than ever for criminals to steal someone’s likeness.

Are deepfakes illegal?

With that being said, unfortunately, there have been a swathe of sexually explicit images of celebrities. From Scarlett Johannson to Taylor Swift, more and more people are being targeted. In January 2024, deepfake pictures of Swift were reportedly viewed millions of times on X before they were pulled down.

Woodrow Hartzog, a professor at Boston University School of Law specializing in privacy and technology law, stated: “This is just the highest profile instance of something that has been victimizing many people, mostly women, for quite some time now.”

Speaking to Billboard, Hartzog said it was a “toxic cocktail”, adding: “It’s an existing problem, mixed with these new generative AI tools and a broader backslide in industry commitments to trust and safety.”

In the U.K., starting from January 31, 2024, the Online Safety Act has made it illegal to share AI-generated intimate images without consent. The Act also introduces further regulations against sharing and threatening to share intimate images without consent.

However, in the U.S., there are currently no federal laws that prohibit the sharing or creation of deepfake images, but there is a growing push for changes to federal law. Earlier this year, when the UK Online Safety Act was being amended, representatives proposed the No Artificial Intelligence Fake Replicas And Unauthorized Duplications (No AI FRAUD) Act.

The bill introduces a federal framework to safeguard individuals from AI-generated fakes and forgeries, criminalizing the creation of a ‘digital depiction’ of anyone, whether alive or deceased, without consent. This prohibition extends to unauthorized use of both their likeness and voice.

The threat of deepfakes is so serious that Kent Walker, Google’s president for global affairs, said earlier this year: “We have learned a lot over the last decade and we take the risk of misinformation or disinformation very seriously.

“For the elections that we have seen around the world, we have established 24/7 war rooms to identify potential misinformation.

Featured image: DALL-E / Canva

The post AI’s dark side: deepfakes explained as it poses growing threat appeared first on ReadWrite.








В Третьяковке на Кадашевской набережной открылся концертный зал

Арбуз, кукуруза и холодные напитки: диетолог Садыков назвал продукты, которые портят ваш сон летом

Paul Oakenfold возвращается в Россию: легенда электронной музыки даст концерты в Москве и Петербурге спустя 7 лет

Аукцион за часть дачи Пугачевой опровергли


Las 'Guerreras del Agua' se dan un baño de bronce en el Mundial de Singapur

Brit Who Fought Usyk Calls For Daniel Dubois To ‘Leave The Sport’ After Staying Down In Rematch

Adil Rami carga contra Lamine: "No puedo ni verlo, que le den..."

La UFC anuncia un mes de octubre mayúsculo


В Фатеже два человека пострадали в ДТП

Свято Боголюбский Женский Монастырь

Axenix и RightStep стали партнерами в области комплексной цифровизации промышленных предприятий

Какие зарплаты нужны для получения льготного автокредита в 2025 году


'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

Brütal Legend is free in honor of Ozzy Osbourne, but only for 666 minutes

Краткая биографическая справка о центральных персонажах Mafia: The Old Country



Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

В Москве завершился сбор с руководителями финансово-экономических подразделений Центрального округа Росгвардии

В Третьяковке на Кадашевской набережной открылся концертный зал

«Каникулы с Росгвардией» проходят в регионах Центральной России


Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Кара небесная: людей какого типа молния поражает смертельным ударом

Три кузбасских ветерана СВО выступят на чемпионате «Абилимпикс» в Казани

Вредоносный код в Firefox: атака на цепочку поставок через NPM-пакеты


В МЧС Москвы предупредили о сильной жаре в столице

Эксперимент без гарантий. История «Маруси», которая променяла Калифорнию на алтайские поля

Как мы в Fix Price автоматизировали создание рекламных видео

Игровые терминалы в ТЦ: союз ради будущего


Алькарас рассказал, считает ли Синнера своим другом после поражения в финале Уимблдона

«Следующая остановка — Монреаль!» Потапова полетела в Канаду для участия в «тысячнике»

Соболенко сохраняет первое место в чемпионской гонке WTA.

Медведев пробился в четвертьфинал турнира в Вашингтоне


После ареста иномарки в Подмосковье должник погасил задолженность по алиментным платежам

Несколько автомобилей столкнулись на внешней стороне 92-го км МКАД

В Правительстве прошщло совещание по реализации проекта строительства ВСМ Москва – Санкт-Петербург

Игровые терминалы в ТЦ: союз ради будущего


Музыкальные новости

Алексей Учитель снимает фильм о Дмитрии Шостаковиче

Наталья Фриске показала дочь в костюме врача и поведала о своем самочувствии

Алгоритмы Яндекс Музыки. Алгоритмы продвижения в Яндекс Музыка.

Концерт «Шуман. Шуберт. Шопен» покажут на портале мэра Москвы вечером 23 июля


Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

В Москве завершился сбор с руководителями финансово-экономических подразделений Центрального округа Росгвардии

«Каникулы с Росгвардией» проходят в регионах Центральной России


Губернатор Архангельской области доложил Путину о поддержке новых территорий.

Питчинг Релиза. Отправить релиз на Питчинг.

«Единая Россия» заключила договор с Российским экспортным центром

«Плюнули в лицо сотням тысяч молдаван»: как Санду готовит тотальный захват власти в Молдове


В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)

Поезда не будут ходить на участке Сокольнической линии метро с 26 по 28 июля

Несколько автомобилей столкнулись на внешней стороне 92-го км МКАД

Водитель Audi сбил трех пешеходов, переходивших дорогу на западе Москвы


У Путина есть роскошный подарок для Китая: США схватились за голову, узнав о нем

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Соболезнования в связи с авиакатастрофой в Амурской области выразили зарубежные лидеры

"Ультиматум Трампа: потенциальные последствия для Путина"


Депздрав: новый штамм коронавируса «стратус» фиксируют в Москве с мая

Обнаружен новый штамм коронавируса: он очень заразный и забирает голос

Депздрав Москвы оценил ситуацию с распространением нового штамма коронавируса

Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая



Компания КИТ МЕД представляет революционный аппарат SONOQUEEN — первую в мире анатомическую HIFU-технологию для anti-age терапии в России

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Фитнес-марафоны на паузе: суд продлил домашний арест блогеру Лерчек

Новый штамм коронавируса "стратус" фиксируют в Москве с мая


Британский журналист: Зеленский - мелкий жулик и крыса, которому «недолго осталось» в этом мире


"Монсон о спортсменах, которые меняют гражданство в сложный период для России"

"Атлетико" заключил соглашение с игроком национальной команды Словакии

«Каникулы с Росгвардией» проходят в регионах Центральной России

Игровые терминалы в ТЦ: союз ради будущего


Лукашенко с иронией отнесся к санкциям, запрещающим ему въезд в Эстонию

Лукашенко посоветовал не злить его и не допускать падежа в животноводстве

Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне

Лукашенко поделился мнением о самой идеальной профессии.


Мэр Москвы: Улучшим транспортную доступность Южного и Северного Бутова

Сергей Собянин поздравил москвича — победителя международной олимпиады по физике

Собянин поддержал проведение конкурса «Лучший книжный магазин Москвы»

Сергей Собянин. Главное за день


Детеныш краснокнижной боливийской обезьяны появился на свет в Московском зоопарке

6 лет вместе. В Москве пройдет выставка, посвященная пандам Жуи и Диндин

Исследование выявило снижение инвестиций в экологически чистую энергетику США.

Московские студенты начали исследовать влияние климатических изменений на сток рек Ямала


Сотрудники органов принудительного исполнения обеспечивают безопасность судебных процессов

Ученый Толстых объяснил, что московские ливни вызваны мощным атлантическим циклоном

Больше 20 поездов задерживаются из-за падения обломков БПЛА на юге России (Обновлено!)

После ареста иномарки в Подмосковье должник погасил задолженность по алиментным платежам


70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Настольный термотрансферный принтер штрих-кодов iDPRT iE4P

В Нарьян-Маре из-за холодов возобновили подачу отопления в дома

Республика Алтай вошла в десятку регионов России по развитию ипотеки


Прогноз погоды в Крыму на 25 июля

Лавандовое поле горит в Симферопольском районе Крыма

Россияне выбирают Крым для отдыха с детьми – названы города-лидеры

В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями


Ученый Толстых объяснил, что московские ливни вызваны мощным атлантическим циклоном

Несколько автомобилей столкнулись на внешней стороне 92-го км МКАД

После ареста иномарки в Подмосковье должник погасил задолженность по алиментным платежам

Больше 20 поездов задерживаются из-за падения обломков БПЛА на юге России (Обновлено!)














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *