Добавить новость
smi24.net
News in English
Апрель
2024

AI’s dark side: deepfakes explained as it poses growing threat

0

We live in a world where anything seems possible with artificial intelligence. While there are significant benefits to AI in certain industries, such as healthcare, a darker side has also emerged. It has increased the risk of bad actors mounting new types of cyber-attacks, as well as manipulating audio and video for fraud and virtual kidnapping. Among these malicious acts, are deepfakes, which have become increasingly prevalent with this new technology.

What are deepfakes?

Deepfakes use AI and machine learning (AI/ML) technologies to produce convincing and realistic videos, images, audio, and text showcasing events that never occurred. At times, people have used it innocently, such as when the Malaria Must Die campaign created a video featuring legendary soccer player David Beckham appearing to speak in nine different languages to launch a petition to end malaria.

However, given people’s natural inclination to believe what they see, deepfakes do not need to be particularly sophisticated or convincing to effectively spread misinformation or disinformation.

According to the U.S. Department of Homeland Security, the spectrum of concerns surrounding ‘synthetic media’ ranged from “an urgent threat” to “don’t panic, just be prepared.”

The term “deepfakes” originates from how the technology behind this form of manipulated media, or “fakes,” relies on deep learning methods. Deep learning is a branch of machine learning, which in turn is a part of artificial intelligence. Machine learning models use training data to learn how to perform specific tasks, improving as the training data becomes more comprehensive and robust. Deep learning models, however, go a step further by automatically identifying the data’s features that facilitate its classification or analysis, training at a more profound, or “deeper,” level.

The data can include images and videos of anything, as well as audio and text. AI-generated text represents another form of deepfake that poses an increasing problem. While researchers have pinpointed several vulnerabilities in deepfakes involving images, videos, and audio that help in their detection, identifying deepfake text proves to be more difficult.

How do deepfakes work?

Some of the earliest forms of deepfakes were seen in 2017 when the face of Hollywood star Gal Gadot was superimposed onto a pornographic video. Motherboard reported at the time that it was allegedly the work of one person—a Redditor who goes by the name ‘deepfakes.’

The anonymous Reddit user told the online magazine that the software relies on multiple open-source libraries, such as Keras with a TensorFlow backend. To compile the celebrities’ faces, the source mentioned using Google image search, stock photos, and YouTube videos. Deep learning involves networks of interconnected nodes that autonomously perform computations on input data. After sufficient ‘training,’ these nodes then organize themselves to accomplish specific tasks, like convincingly manipulating videos in real-time.

These days, AI is being used to replace one person’s face with another’s on a different body. To achieve this, the process might use Encoder or Deep Neural Network (DNN) technologies. Essentially, to learn how to swap faces, the system uses an autoencoder that processes and maps images of two different people (Person A and Person B) into a shared, compressed data representation using the same settings.

After training the three networks, to replace Person A’s face with Person B’s, each frame of Person A’s video or image is processed by a shared encoder network and then reconstructed using Person B’s decoder network.

Now, apps such as FaceShifter, FaceSwap, DeepFace Lab, Reface, and TikTok make it easy for users to swap faces. Snapchat and TikTok, in particular, have made it simpler and less demanding in terms of computing power and technical knowledge for users to create various real-time manipulations.

A recent study by Photutorial states that there are 136 billion images on Google Images and that by 2030, there will be 382 billion images on the search engine. This means that there are more opportunities than ever for criminals to steal someone’s likeness.

Are deepfakes illegal?

With that being said, unfortunately, there have been a swathe of sexually explicit images of celebrities. From Scarlett Johannson to Taylor Swift, more and more people are being targeted. In January 2024, deepfake pictures of Swift were reportedly viewed millions of times on X before they were pulled down.

Woodrow Hartzog, a professor at Boston University School of Law specializing in privacy and technology law, stated: “This is just the highest profile instance of something that has been victimizing many people, mostly women, for quite some time now.”

Speaking to Billboard, Hartzog said it was a “toxic cocktail”, adding: “It’s an existing problem, mixed with these new generative AI tools and a broader backslide in industry commitments to trust and safety.”

In the U.K., starting from January 31, 2024, the Online Safety Act has made it illegal to share AI-generated intimate images without consent. The Act also introduces further regulations against sharing and threatening to share intimate images without consent.

However, in the U.S., there are currently no federal laws that prohibit the sharing or creation of deepfake images, but there is a growing push for changes to federal law. Earlier this year, when the UK Online Safety Act was being amended, representatives proposed the No Artificial Intelligence Fake Replicas And Unauthorized Duplications (No AI FRAUD) Act.

The bill introduces a federal framework to safeguard individuals from AI-generated fakes and forgeries, criminalizing the creation of a ‘digital depiction’ of anyone, whether alive or deceased, without consent. This prohibition extends to unauthorized use of both their likeness and voice.

The threat of deepfakes is so serious that Kent Walker, Google’s president for global affairs, said earlier this year: “We have learned a lot over the last decade and we take the risk of misinformation or disinformation very seriously.

“For the elections that we have seen around the world, we have established 24/7 war rooms to identify potential misinformation.

Featured image: DALL-E / Canva

The post AI’s dark side: deepfakes explained as it poses growing threat appeared first on ReadWrite.








Раздвигая горы - к единству и созиданию! Манифест лезгинского народа (письменное обращение, воззвание программного характера)

Зеленая миссия примет участие в международном экоакселераторе

VZLET.MEDIA: 25 лет успешного SEO-продвижения в эпоху искусственного интеллекта

Модель Анастасия Решетова перенесла вирус с осложнениями


Félix Auger-Aliassime

Why Juventus spent 111m this summer for only one new player

Adil Rami carga contra Lamine: "No puedo ni verlo, que le den..."

La UFC anuncia un mes de octubre mayúsculo


Россияне стали чаще покупать автозапчасти на маркетплейсах

В Фатеже два человека пострадали в ДТП

Специалисты Нацпроектстроя надвигают путепровод СБВ над путями МЦД-2

Раздвигая горы - к единству и созиданию! Манифест лезгинского народа (письменное обращение, воззвание программного характера)


Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

The dairy industry would like Gen Z to drink more milk, so they made a Fortnite diner tycoon game

Настройки GameHub и Winlator для игры в Prey (2017) на Android

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'



Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Квалификационные испытания на право ношения знака отличия полицейского спецназа Росгвардии завершились в Подмосковье (видео)

В Москве завершился сбор с руководителями финансово-экономических подразделений Центрального округа Росгвардии

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


Более 800 студентов прошли практику на предприятиях «Швабе» в 2025 году

Минюст РФ внес две НПО, связанные с Институтом Сахарова, в список нежелательных

Трое российских бойцов две недели ползли к своим позициям

Ефимов: за лето к переселению по реновации приступили 10 тыс. москвичей


Что случилось к этому часу: главные новости дня к 19:00 24 июля

В Роспотребнадзоре оценили риск распространения нового штамма коронавируса в Крыму

Young Posse впервые выступят в России. Партнер – Like FM

На съёмках фильма «Война и мир» возле храма Василия Блаженного. Москва, 1963 год


Медведев сравнил матчи с Опелкой в Нидерландах и США

Винус Уильямс: Если Серена вернется, она даст вам знать

Рублев вместе с чешской теннисисткой заявился в микст на US Open

Сидоренко из России одержал победу и стал чемпионом по настольному теннису на Универсиаде.


Мартинс: Не думаю, что в матче с «Балтикой» будет битва именно флангов атаки

В Москве выросла доля ипотечных сделок с первичным жильем

Фитнес-марафоны на паузе: суд продлил домашний арест блогеру Лерчек

Запад почувствовал слабость Баку: Зря Азербайджан бил по России - проморгал удар по себе


Музыкальные новости

Баскова, Киркорова и Лазарева погнали с экранов: попались на непотребщине

«А у кого нет проблем?»: Филипп Киркоров заговорил про здоровье после полученного ожога

Высоцкий снова на сцене: цифровой аватар легендарного барда выступит в Москве

Полина Гагарина открыла официальную часть VK Fest в Москве


Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Квалификационные испытания на право ношения знака отличия полицейского спецназа Росгвардии завершились в Подмосковье (видео)

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

«Каникулы с Росгвардией» проходят в регионах Центральной России


«Каникулы с Росгвардией» проходят в регионах Центральной России

Движение к победе: в России стартует премия «Мы верим твердо в героев спорта»

Акция «Каникулы с Росгвардией» продолжается в Чеченской Республике

Отношения с Трампом не сложились: Путин зол. Ультиматум США вышел боком


Водитель Audi сбил трех пешеходов, переходивших дорогу на западе Москвы

На международном ралли «Шелковый путь – 2025» представили новое моторное масло для мотоциклистов

В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)

В Подмосковье на видео попало, как школьник на питбайке разбился в жестком ДТП


Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Путин отметил успех российских школьников на олимпиаде по физике.

Сигналы становятся всё громче. Переговоры - только ширма. Главное решится не в Стамбуле

Отношения с Трампом не сложились: Путин зол. Ультиматум США вышел боком


В Алтайском крае распространяется новый штамм коронавируса

Обнаружен новый штамм коронавируса: он очень заразный и забирает голос

Новый штамм коронавируса "стратус" фиксируют в Москве с мая

Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая



Компания КИТ МЕД представляет революционный аппарат SONOQUEEN — первую в мире анатомическую HIFU-технологию для anti-age терапии в России

Косметолог-эстетист Наталья Рябинова: как правильно использовать масло для губ

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

В Алтайском крае распространяется новый штамм коронавируса


Британский журналист: Зеленский - мелкий жулик и крыса, которому «недолго осталось» в этом мире

«Затрудняет путь в ЕС»: Урсула ждёт от Киева разъяснений по поводу ограничения полномочий НАБУ

Мединский дал неожиданный ответ на предложение Киева о встрече Путина и Зеленского 


"Монсон о спортсменах, которые меняют гражданство в сложный период для России"

Делегация «ЛокоТех» посетила финал II чемпионата профессионалов ОАО «РЖД» в Екатеринбурге

«Каникулы с Росгвардией» проходят в регионах Центральной России

"Атлетико" заключил соглашение с игроком национальной команды Словакии


Лукашенко поделился мнением о самой идеальной профессии.

Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне

Лукашенко с иронией отнесся к санкциям, запрещающим ему въезд в Эстонию

Лукашенко посоветовал не злить его и не допускать падежа в животноводстве


Собянин поддержал проведение конкурса «Лучший книжный магазин Москвы»

Собянин: Около 10 тыс. москвичей начали переселение по реновации этим летом

Мэр Москвы: Улучшим транспортную доступность Южного и Северного Бутова

Сергей Собянин. Главное за день


В центре внимания: CorpSoft24 вошел в рейтинг крупнейших ИТ-компаний России

6 лет вместе. В Москве пройдет выставка, посвященная пандам Жуи и Диндин

Московские студенты начали исследовать влияние климатических изменений на сток рек Ямала

Детеныш краснокнижной боливийской обезьяны появился на свет в Московском зоопарке


Нижегородская область вошла в топ‑3 регионов по количеству заявок на Слёт Всемирного фестиваля молодёжи

В Москве выросла доля ипотечных сделок с первичным жильем

Мартинс: Не думаю, что в матче с «Балтикой» будет битва именно флангов атаки

Запад почувствовал слабость Баку: Зря Азербайджан бил по России - проморгал удар по себе


В Нарьян-Маре из-за холодов возобновили подачу отопления в дома

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Республика Алтай вошла в десятку регионов России по развитию ипотеки


Лавандовое поле горит в Симферопольском районе Крыма

"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями

Поезда "Таврия" по-прежнему задерживаются из-за ЧП в Ростовской области


Путин выразил соболезнования близким погибших в авиакатастрофе с Ан-24

Власти начали расследование в отношении заместителя мэра Химок.

Полицейского из Белгорода арестовали по делу о получении взяток от канала Baza

Детские центры поделились, как привлечь новых клиентов через «Лето в Москве»














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *