Добавить новость
smi24.net
News in English
Июль
2023

I accidentally created 40,000 chemical weapons when AI experiment backfired, it could kill us all, says expert

0

WHEN Dr Sean Ekins moved to America to continue his research into life-saving medicine, he never expected to come face-to-face with the President. 

The Cleethorpes born pharmacologist and his co-workers reveal in a new Netflix documentary how he worked tirelessly to harness an AI technology that discovered non-toxic molecules to cure diseases. 

NETFLIX
Dr Sean’s AI technology accidentally created a “chemical weapons cook book”[/caption]
NETFLIX
He ran the experiment on his six-year-old Mac computer[/caption]

But when he was asked to deliver a speech to experts about the dangers of AI – a simple test he devised to show off its capabilities went drastically wrong, and he was called into the White House. 

Overnight, his supposedly life-saving machinery had come up with ideas for 40,000 chemical weapons, many of them more lethal than the deadly VX and Novichok

The lethal nerve agents have most notably been used to assassinate Malaysian police chief Kim Jong-Nam and Sergei and Yulia Skripal in Salisbury in 2018. 

And all Sean, and his co-worker Dr Fabio Urbina, had to do was – instead of asking the machine to find molecules that could cure diseases – ask the AI to find the most toxic molecules possible. 

Computational toxicology expert reveals in new Netflix documentary Unknown: Killer Robots: “There’s a dark side of AI I never thought I would go to. 

“I was invited to give a presentation on the potential misuse of AI. I just wanted to make the point ‘Could AI technology to design deadly molecules?’. 

“We asked the machine to, instead of drive away from toxicity, drive towards toxicity, and that’s it. We thought it was going to fail.

“The computer did the work, it was cranking through generating thousands of molecules, and we didn’t have to do anything other than just push ‘go’.

“The hairs on the back of my neck literally stood on end when I saw the result. I was blown away. The computer had made tens of thousands of ideas for new chemical weapons.

“Most of these molecules were predicted to be even more deadly than VX. We had opened Pandora’s Box.

“When we were doing this experiment I was thinking, ‘What’s the worst that could possibly happen?’ But now I’m like, ‘We were naive’.

“The thing that terrified me is anyone can do what we did. All it took was the flip of a switch.”

Despite the dangers, Dr Sean and his research lab went on to deliver their findings in a presentation with AI experts before releasing their study to the public in online papers. 

While the details of the molecules were hidden, Sean and his team were keen to “warn the world” and “mitigate the misuse of AI” to create chemical weapons. 

Before they knew it, hundreds of thousands of people had read about their experiment gone wrong – and weeks later, they got the call from the White House.  

Sean adds: “The anticipated consequences of doing that simple experiment went way too far.

“I was invited to the White House. They asked questions about how much computing power we needed, we told them it was nothing special, a standard run of the mill six-year-old Apple Mac. 

“That blew them away. The folks that are in change of understanding chemical warfare and governmental agencies, they had no idea of this potential.

“We had got this cookbook to make chemical weapons, and in the hands of a bad actor that has malicious intent, it could be utterly horrifying.”

The molecule expert warns that neural networks such as AI could pose a risk to life as we know it – if we don’t act now to control and monitor how AI is used.  

“AI is a dual-edged sword,” the Brit scientist goes on. “It can be used for good, which is what we would use it for, but at the flip of the switch the technology becomes something that could be lethal.

“People have to sit up and listen – the potential for lethality, it’s terrifying.

“If we don’t act now, it’s too late. It may already be too late.”

Dr Sean is just one scientist warning about the immense danger AI poses in the world of warfare in the new Netflix documentary, released to the streaming site today.

He is joined by Emilia Javorsky, director of the Future of Life Institute – a non-profit organisation working to halt catastrophic risks posed by the use of artificial intelligence. 

“If it’s not used wisely, it popes a risk to every single person on the planet,” Emilia agrees. 

“With AI, we are essentially creating non-human intelligence that is very unpredictable. It also gets more and more powerful – so where are the red lines we are going to draw on how we are going to use it? 

“This is the time that we need to act, because the window we have to contain this risk is rapidly closing. 

“Once the genie is out of the bottle, it is out – and it is very difficult to put it back in.”

Unknown: Killer Robots is available to stream on Netflix today

NETFLIX
Fabio helped Dr Sean with the AI experiment gone wrong[/caption]
NETFLIX
Dr Sean was called into the White House after the experiment gone wrong[/caption]







Ваше душевное благополучие важно: когда и как лечение в стационаре становится шагом к себе

Лео Канделаки и Анжелика Стубайло сыграют в новую трэвел-игру «Кто куда» на ТНТ

Американский рэпер Деруло высказал намерение купить жилье в Белоруссии

Любовь в сердце и в «Тропикана Парк»


Félix Auger-Aliassime

Why Juventus spent 111m this summer for only one new player

Tourism is increasing over prepandemic levels, overwhelming popular destinations

The founder of Deliciously Ella started a blog when suffering from severe chronic pain. Now, her multimillion-dollar snack empire is going global


Компания MONT расширила ИБ-портфель отечественной системой exploitDog

В Курской области завершается ремонт трассы "Короча-Губкин-Горшечное-Курск-Борисоглебск"

Вредоносный код в Firefox: атака на цепочку поставок через NPM-пакеты

Вечер в Кулогорах...


Краткая биографическая справка о центральных персонажах Mafia: The Old Country

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

Настройки GameHub и Winlator для игры в Prey (2017) на Android



Более 800 студентов прошли практику на предприятиях «Швабе» в 2025 году

В студии Детского радио прошла церемония гашения почтовой марки

Вредоносный код в Firefox: атака на цепочку поставок через NPM-пакеты

Navicon представляет комплексную систему для интегрированного управления данными


Нападающий из НХЛ Даниэль Спронг выбрал ЦСКА вместо «Ак Барса»

В студии Детского радио прошла церемония гашения почтовой марки

Shot: князя Александра Трубецкого госпитализировали в Москве

СЕНСАЦИЯ! СССР МОГУТ СНОВА НЕ СДЕЛАТЬ. Россия, США, Европа могут улучшить отношения и здоровье общества!


"Росатом" связал задержки зарплат на стройке АЭС в Турции с блокировкой денег

Как доказать, что машина брошенная, чтобы убрать ее со двора?

19-летний москвич на «Танке» устроил ДТП в Кош-Агачском районе

За пять месяцев 2025 года более 2,2 тыс. татарстанцев пострадали от укусов собак


Теннисистка Мур высказалась о проблемах в антидопинговой системе.

Вероника Кудерметова оценила экстрим-парк «Урам» в Казани

Новак Джокович проводит 900-ю неделю в топ-10 рейтинга ATP

Александр Бублик получил хорошую новость от ATP после завоевания титула


В Новой Каледонии выступили против идеи о создании государства в составе Франции

Экстремизм под видом гимнастики. Суд вынес приговор лидеру запрещенной секты Миненковой: подробности

Детеныш краснокнижной боливийской обезьяны появился на свет в Московском зоопарке

В Москве суд приговорил женщину-лидера китайской секты к 4 годам колонии


Музыкальные новости

Флигель усадьбы Шаляпина внесли в реестр объектов культурного наследия столицы

Семейная Зарница 2025

Гергиев отреагировал на отмену его концерта в Италии

Собчак прокомментировала смерть Оззи Осборна


ДельтаЛизинг продолжает раскрывать секреты успеха российских предпринимателей

В студии Детского радио прошла церемония гашения почтовой марки

Вредоносный код в Firefox: атака на цепочку поставок через NPM-пакеты

Более 800 студентов прошли практику на предприятиях «Швабе» в 2025 году


Новая модель Hyundai Elantra уже доступна в России: какие изменения произошли

Рите необходимa операция, чтобы исправить асимметрию лицa

Рискнул на 100 тысяч рублей: инженер из Смоленска купил более 1,7 тысячи лотерейных билетов и выиграл автомобиль от «Национальной Лотереи» и РОЛЬФ на VK Fest

В Пулково перенаправили 22 летевших в Москву авиарейса


Столичные росгвардейцы оказали помощь мотоциклистке, пострадавшей в ДТП

Любовница Михаила Ефремова купила квартиру в Новой Москве, пока ждала актера из колонии

Москвича приговорили к 4,5 годам тюрьмы за работу поджигателем иномарок

В ДТП на Киевском шоссе погиб водитель «Газели»



В России выявлено 114 случаев заражения новым штаммом коронавируса



Врач-гигиенист клиники «Мегастом» Инна Гришина: сколько нужно чистить зубы

Ученые освоили бактерии для создания лекарств.

Онищенко допустил подъем заболеваемости COVID-19 из-за варианта «Стратус»

Трихолог Мадина Осман: типы алопеции и методы борьбы с ними


Axios: закон о НАБУ может спровоцировать Трампа на новую волну критики Киева

В центре Киева митингуют против реформ Зеленского

«Затрудняет путь в ЕС»: Урсула ждёт от Киева разъяснений по поводу ограничения полномочий НАБУ


Движение к победе: в России стартует премия «Мы верим твердо в героев спорта»

ЦСКА активировал опцию выкупа за Пиняева

Росгвардия обеспечила безопасность финиша международного ралли «Шелковый путь»

ЦСКА подписал контракт с нападающим Спронгом, выступавшим в НХЛ



Сергей Собянин: Растим поколение первооткрывателей

Собянин: Предприниматели регулярно направляют помощь в зону СВО


Специалист поделился советами по зарядке электромобиля в дождливую и грозовую погоду.

Экологию, АПК региона и обращение с ТКО обсудил с вице-премьером РФ воронежский губернатор

Детеныш краснокнижной боливийской обезьяны появился на свет в Московском зоопарке

Мишустин поучаствует в Международной экологической конференции на Алтае


Детеныш краснокнижной боливийской обезьяны появился на свет в Московском зоопарке

В Новой Каледонии выступили против идеи о создании государства в составе Франции

NetEase: у Путина есть шикарный подарок для КНР, который грозит США проблемами

Экстремизм под видом гимнастики. Суд вынес приговор лидеру запрещенной секты Миненковой: подробности


В Башкирии ревнивец ранил жену шампуром и сдался полиции

Защищённый планшет корпоративного класса Saotron RT-W16

Настольный термотрансферный принтер штрих-кодов iDPRT iE4P

Республика Алтай вошла в десятку регионов России по развитию ипотеки


В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями

Актуальная информация о задержке поездов в Крым и обратно

Поезда "Таврия" по-прежнему задерживаются из-за ЧП в Ростовской области

Поезда в Крым и из Крыма следуют с задержками до пяти часов


Рассказ врача, вернувшегося из зоны боевых действий

32-летний водитель иномарки погиб в страшном ДТП на «встречке» под Кстовом

В Москве суд приговорил россиянку к 4 годам колонии за запрещенное в КНР учение

19-летний москвич на «Танке» устроил ДТП в Кош-Агачском районе














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *