Добавить новость
smi24.net
News in English
Июль
2023

I accidentally created 40,000 chemical weapons when AI experiment backfired, it could kill us all, says expert

0

WHEN Dr Sean Ekins moved to America to continue his research into life-saving medicine, he never expected to come face-to-face with the President. 

The Cleethorpes born pharmacologist and his co-workers reveal in a new Netflix documentary how he worked tirelessly to harness an AI technology that discovered non-toxic molecules to cure diseases. 

NETFLIX
Dr Sean’s AI technology accidentally created a “chemical weapons cook book”[/caption]
NETFLIX
He ran the experiment on his six-year-old Mac computer[/caption]

But when he was asked to deliver a speech to experts about the dangers of AI – a simple test he devised to show off its capabilities went drastically wrong, and he was called into the White House. 

Overnight, his supposedly life-saving machinery had come up with ideas for 40,000 chemical weapons, many of them more lethal than the deadly VX and Novichok

The lethal nerve agents have most notably been used to assassinate Malaysian police chief Kim Jong-Nam and Sergei and Yulia Skripal in Salisbury in 2018. 

And all Sean, and his co-worker Dr Fabio Urbina, had to do was – instead of asking the machine to find molecules that could cure diseases – ask the AI to find the most toxic molecules possible. 

Computational toxicology expert reveals in new Netflix documentary Unknown: Killer Robots: “There’s a dark side of AI I never thought I would go to. 

“I was invited to give a presentation on the potential misuse of AI. I just wanted to make the point ‘Could AI technology to design deadly molecules?’. 

“We asked the machine to, instead of drive away from toxicity, drive towards toxicity, and that’s it. We thought it was going to fail.

“The computer did the work, it was cranking through generating thousands of molecules, and we didn’t have to do anything other than just push ‘go’.

“The hairs on the back of my neck literally stood on end when I saw the result. I was blown away. The computer had made tens of thousands of ideas for new chemical weapons.

“Most of these molecules were predicted to be even more deadly than VX. We had opened Pandora’s Box.

“When we were doing this experiment I was thinking, ‘What’s the worst that could possibly happen?’ But now I’m like, ‘We were naive’.

“The thing that terrified me is anyone can do what we did. All it took was the flip of a switch.”

Despite the dangers, Dr Sean and his research lab went on to deliver their findings in a presentation with AI experts before releasing their study to the public in online papers. 

While the details of the molecules were hidden, Sean and his team were keen to “warn the world” and “mitigate the misuse of AI” to create chemical weapons. 

Before they knew it, hundreds of thousands of people had read about their experiment gone wrong – and weeks later, they got the call from the White House.  

Sean adds: “The anticipated consequences of doing that simple experiment went way too far.

“I was invited to the White House. They asked questions about how much computing power we needed, we told them it was nothing special, a standard run of the mill six-year-old Apple Mac. 

“That blew them away. The folks that are in change of understanding chemical warfare and governmental agencies, they had no idea of this potential.

“We had got this cookbook to make chemical weapons, and in the hands of a bad actor that has malicious intent, it could be utterly horrifying.”

The molecule expert warns that neural networks such as AI could pose a risk to life as we know it – if we don’t act now to control and monitor how AI is used.  

“AI is a dual-edged sword,” the Brit scientist goes on. “It can be used for good, which is what we would use it for, but at the flip of the switch the technology becomes something that could be lethal.

“People have to sit up and listen – the potential for lethality, it’s terrifying.

“If we don’t act now, it’s too late. It may already be too late.”

Dr Sean is just one scientist warning about the immense danger AI poses in the world of warfare in the new Netflix documentary, released to the streaming site today.

He is joined by Emilia Javorsky, director of the Future of Life Institute – a non-profit organisation working to halt catastrophic risks posed by the use of artificial intelligence. 

“If it’s not used wisely, it popes a risk to every single person on the planet,” Emilia agrees. 

“With AI, we are essentially creating non-human intelligence that is very unpredictable. It also gets more and more powerful – so where are the red lines we are going to draw on how we are going to use it? 

“This is the time that we need to act, because the window we have to contain this risk is rapidly closing. 

“Once the genie is out of the bottle, it is out – and it is very difficult to put it back in.”

Unknown: Killer Robots is available to stream on Netflix today

NETFLIX
Fabio helped Dr Sean with the AI experiment gone wrong[/caption]
NETFLIX
Dr Sean was called into the White House after the experiment gone wrong[/caption]







VZLET.MEDIA: 25 лет успешного SEO-продвижения в эпоху искусственного интеллекта

Модель Анастасия Решетова перенесла вирус с осложнениями

Дети играют, родители отдыхают

Раздвигая горы - к единству и созиданию! Манифест лезгинского народа (письменное обращение, воззвание программного характера)


Félix Auger-Aliassime

Adil Rami carga contra Lamine: "No puedo ni verlo, que le den..."

La UFC anuncia un mes de octubre mayúsculo

Why Juventus spent 111m this summer for only one new player


Продукты линейки СУБД ЛИНТЕР совместимы с ОС «АльтерОС»

Движение к победе: в России стартует премия «Мы верим твердо в героев спорта»

Специалисты Нацпроектстроя надвигают путепровод СБВ над путями МЦД-2

В студии Детского радио прошла церемония гашения почтовой марки


Настройки GameHub и Winlator для игры в Prey (2017) на Android

Краткая биографическая справка о центральных персонажах Mafia: The Old Country

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'



В Москве завершился сбор с руководителями финансово-экономических подразделений Центрального округа Росгвардии

«Каникулы с Росгвардией» проходят в регионах Центральной России

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


Вредоносный код в Firefox: атака на цепочку поставок через NPM-пакеты

Еще двух полицейских арестовали по делу о журналистах Telegram-канала Baza

В студии Детского радио прошла церемония гашения почтовой марки

СК возбудил дело из-за находки трех тел рабочих в канализационном люке в Москве


Время в деталях. Как антиквары Барнаула сохраняют историю

«Пугачёвскую плесень» окончательно решили убрать

Полицейский из Белгорода признал вину во взятках от журналистов Baza

Синоптики спрогнозировали потепление до +29 градусов в Москве 25 июля


Алекс де Минор вышел в 1/8 финала турнира ATP-500 в Вашингтоне

Болбой раздавил спасенного теннисисткой Cаккари жука на турнире WTA-500 в США

Сидоренко из России одержал победу и стал чемпионом по настольному теннису на Универсиаде.

Соболенко сохраняет первое место в чемпионской гонке WTA.


Reuters: Россия скоро ужесточит экспорт бензина

Chef's table и новое пространство ресторана «Интеллигенция»

ТАСС: главред Baza Трифонов отказался от права не свидетельствовать против себя

Замоскворецкий суд арестовал полицейского Селиванова из Белгорода по делу о взятке Baza


Музыкальные новости

«Чем твои генералы лучше студентов?»: как Владимир Высоцкий выступал в Калинине

«А у кого нет проблем?»: Филипп Киркоров заговорил про здоровье после полученного ожога

В сквере Цоя на Зверинской сделали граффити с Оззи Осборном

Ростовский-на-Дону ЭРЗ ввёл в эксплуатацию новый прошивной станок


Квалификационные испытания на право ношения знака отличия полицейского спецназа Росгвардии завершились в Подмосковье (видео)

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

«Каникулы с Росгвардией» проходят в регионах Центральной России

В Москве завершился сбор с руководителями финансово-экономических подразделений Центрального округа Росгвардии


Уже не крепкий орешек: как Брюс Уиллис живет с неизлечимой болезнью

Нижегородская область входит в число лидеров по размеру маткапитала в России

Делегация «ЛокоТех» посетила финал II чемпионата профессионалов ОАО «РЖД» в Екатеринбурге

Водитель Audi сбил трех пешеходов, переходивших дорогу на западе Москвы


В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)

Специалисты Нацпроектстроя надвигают путепровод СБВ над путями МЦД-2

На международном ралли «Шелковый путь – 2025» представили новое моторное масло для мотоциклистов

В Подмосковье на видео попало, как школьник на питбайке разбился в жестком ДТП


У Путина есть роскошный подарок для Китая: США схватились за голову, узнав о нем

Сигналы становятся всё громче. Переговоры - только ширма. Главное решится не в Стамбуле

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Отношения с Трампом не сложились: Путин зол. Ультиматум США вышел боком


Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая

Обнаружен новый штамм коронавируса: он очень заразный и забирает голос

В Алтайском крае распространяется новый штамм коронавируса

Депздрав Москвы оценил ситуацию с распространением нового штамма коронавируса



Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая

Новый штамм коронавируса "стратус" фиксируют в Москве с мая

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Компания КИТ МЕД представляет революционный аппарат SONOQUEEN — первую в мире анатомическую HIFU-технологию для anti-age терапии в России


Британский журналист: Зеленский - мелкий жулик и крыса, которому «недолго осталось» в этом мире

Мединский дал неожиданный ответ на предложение Киева о встрече Путина и Зеленского 


"Атлетико" заключил соглашение с игроком национальной команды Словакии

«Каникулы с Росгвардией» проходят в регионах Центральной России

Фитнес-марафоны на паузе: суд продлил домашний арест блогеру Лерчек

"Монсон о спортсменах, которые меняют гражданство в сложный период для России"


Лукашенко посоветовал не злить его и не допускать падежа в животноводстве

Лукашенко поделился мнением о самой идеальной профессии.

Лукашенко с иронией отнесся к санкциям, запрещающим ему въезд в Эстонию

Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне


Собянин поддержал проведение конкурса «Лучший книжный магазин Москвы»

Сергей Собянин. Главное за день

Собянин: Около 10 тыс. москвичей начали переселение по реновации этим летом

Сергей Собянин поздравил москвича — победителя международной олимпиады по физике


Исследование выявило снижение инвестиций в экологически чистую энергетику США.

Детеныш краснокнижной боливийской обезьяны появился на свет в Московском зоопарке

В центре внимания: CorpSoft24 вошел в рейтинг крупнейших ИТ-компаний России

6 лет вместе. В Москве пройдет выставка, посвященная пандам Жуи и Диндин


Синоптики спрогнозировали ясную погоду на выходных в Москве

Chef's table и новое пространство ресторана «Интеллигенция»

Замоскворецкий суд арестовал полицейского Селиванова из Белгорода по делу о взятке Baza

Время в деталях. Как антиквары Барнаула сохраняют историю


В Нарьян-Маре из-за холодов возобновили подачу отопления в дома

Настольный термотрансферный принтер штрих-кодов iDPRT iE4P

70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.


В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями

"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

Актуальная информация о задержке поездов в Крым и обратно

Лавандовое поле горит в Симферопольском районе Крыма


Chef's table и новое пространство ресторана «Интеллигенция»

«Пугачёвскую плесень» окончательно решили убрать

В 128 домах Тамбова качество горячего водоснабжения не соответствует нормативам

Reuters: Россия скоро ужесточит экспорт бензина














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *