Добавить новость
smi24.net
News in English
Март
2023

AI Is Like … Nuclear Weapons?

0

The concern, as Edward Teller saw it, was quite literally the end of the world. He had run the calculations, and there was a real possibility, he told his Manhattan Project colleagues in 1942, that when they detonated the world’s first nuclear bomb, the blast would set off a chain reaction. The atmosphere would ignite. All life on Earth would be incinerated. Some of Teller’s colleagues dismissed the idea, but others didn’t. If there were even a slight possibility of atmospheric ignition, said Arthur Compton, the director of a Manhattan Project lab in Chicago, all work on the bomb should halt. “Better to accept the slavery of the Nazi,” he later wrote, “than to run a chance of drawing the final curtain on mankind.”

I offer this story as an analogy for—or perhaps a contrast to—our present AI moment. In just a few months, the novelty of ChatGPT has given way to utter mania. Suddenly, AI is everywhere. Is this the beginning of a new misinformation crisis? A new intellectual-property crisis? The end of the college essay? Of white-collar work? Some worry, as Compton did 80 years ago, for the very future of humanity, and have advocated pausing or slowing down AI development; others say it’s already too late.

In the face of such excitement and uncertainty and fear, the best one can do is try to find a good analogy—some way to make this unfamiliar new technology a little more familiar. AI is fire. AI is steroids. AI is an alien toddler. (When I asked for an analogy of its own, GPT-4 suggested Pandora’s box—not terribly reassuring.) Some of these analogies are, to put it mildly, better than others. A few of them are even useful.

Given the past three years, it’s no wonder that pandemic-related analogies abound. AI development has been compared to gain-of-function research, for example. Proponents of the latter work, in which potentially deadly viruses are enhanced in a controlled laboratory setting, say it’s essential to stopping the next pandemic. Opponents say it’s less likely to prevent a catastrophe than to cause one—whether via an accidental leak or an act of bioterrorism.

At a literal level, this analogy works pretty well. AI development really is a kind of gain-of-function research—except algorithms, not viruses, are the things gaining the functions. Also, both hold out the promise of near-term benefits: This experiment could help to prevent the next pandemic; this AI could help to cure your cancer. And both come with potential, world-upending risks: This experiment could help to cause a pandemic many times deadlier than the one we just endured; this AI could wipe out humanity entirely. Putting a number to the probabilities for any of these outcomes, whether good or bad, is no simple thing. Serious people disagree vehemently about their likelihood.

[Read: Bird flu leaves the world with an existential choice]

What the gain-of-function analogy fails to capture are the motivations and incentives driving AI development. Experimental virology is an academic undertaking, mostly carried out at university laboratories by university professors, with the goal at least of protecting people. It is not a lucrative enterprise. Neither the scientists nor the institutions they represent are in it to get rich. The same cannot be said when it comes to AI. Two private companies with billion-dollar profits, Microsoft (partnered with OpenAI) and Google (partnered with Anthropic), are locked in a battle for AI supremacy. Even the smaller players in the industry are flooded with cash. Earlier this year, four top AI researchers at Google quit to start their own company, though they weren’t exactly sure what it would do; about a week later, it had a $100 million valuation. In this respect, the better analogy is …

Social media. Two decades ago, there was fresh money—lots of it—to be made in tech, and the way to make it was not by slowing down or waiting around or dithering about such trifles as the fate of democracy. Private companies moved fast at the risk of breaking human civilization, to hell with the haters. Regulations did not keep pace. All of the same could be said about today’s AI.

[Read: Money will kill ChatGPT’s magic]

The trouble with the social-media comparison is that it undersells the sheer destructive potential of AI. As damaging as social media has been, it does not present an existential threat. Nor does it appear to have conferred, on any country, very meaningful strategic advantages over foreign adversaries, worries about TikTok notwithstanding. The same cannot be said of AI. In that respect, the better analogy is …

Nuclear weapons. This comparison captures both the gravity of the threat and where that threat is likely to originate. Few individuals could muster the colossal resources and technical expertise needed to construct and deploy a nuclear bomb. Thankfully, nukes are the domain of nation-states. AI research has similarly high barriers to entry and similar global geopolitical dynamics. The AI arms race between the U.S. and China is under way, and tech executives are already invoking it as a justification for moving as quickly as possible. As was the case for nuclear-weapons research, citing international competition has been a way of dismissing pleas to pump the brakes.

But nuclear-weapons technology is much narrower in scope than AI. The utility of nukes is purely military; and governments, not companies or individuals, build and wield them. That makes their dangers less diffuse than those that come from AI research. In that respect, the better analogy is …

Electricity. A saw is for cutting, a pen for writing, a hammer for pounding nails. These things are tools; each has a specific function. Electricity does not. It’s less a tool than a force, more a coefficient than a constant, pervading virtually all aspects of life. AI is like this too—or it could be.

[Read: What have humans just unleashed?]

Except that electricity never (really) threatened to kill us all. AI may be diffuse, but it’s also menacing. Not even the nuclear analogy quite captures the nature of the threat. Forget the Cold War–era fears of American and Soviet leaders with their fingers hovering above little red buttons. The biggest threat of superintelligent AI is not that our adversaries will use it against us. It’s the superintelligent AI itself. In that respect, the better analogy is …

Teller’s fear of atmospheric ignition. Once you detonate the bomb—once you build the superintelligent AI—there is no going back. Either the atmosphere ignites or it doesn’t. No do-overs. In the end, Teller’s worry turned out to be unfounded. Further calculations demonstrated that the atmosphere would not ignite—though two Japanese cities eventually did—and the Manhattan Project moved forward.

No further calculations will rule out the possibility of AI apocalypse. The Teller analogy, like all the others, only goes so far. To some extent, this is just the nature of analogies: They are illuminating but incomplete. But it also speaks to the sweeping nature of AI. It encompasses elements of gain-of-function research, social media, and nuclear weapons. It is like all of them—and, in that way, like none of them.








5 необычных прыжков с парашютом, от которых захватывает дух

Павел Воля примет участие в комедийном сериале «Три сестры» с Ларисой Гузеевой и Павлом Деревянко

В мэрии назвали условия присвоения Элджею звания почётного жителя

Мичков внесен в Книгу знаменитых людей Кунгура, сообщил директор кунгурского музея: «Никаких его трофеев в музее пока нет, к сожалению»


UFC Abu Dhabi live blog: Shara Bullet vs. Marc-Andre Barriault

The Great Indian Kapil Show: Raghav Chadha reveals telling Parineeti Chopra to manifest he will never become the PM; says ‘Yeh jo bolti hai wo ulta hota hai’

Chat log from R20 of 2025: Richmond vs Collingwood

Weah’s agent: One Juventus director ‘is creating problems’


В Курской области прокурор требует компенсацию для рабочего, придавленного погрузчиком

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Анекдоты недели и украденное лето

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка


Первый трейлер Battlefield 6

Quarantine Zone creator reveals 3 reasons the zombie sim went viral on TikTok

Ninja Party можно предзаказать в мобильных маркетах с релизом в конце июля

«Если бы у Наруто и AC Shadows был ребёнок»: Разбор англоязычной версии Where Winds Meet



Александр Михайлов (GSOC): «Безопасность IT-экосистемы — это зона нулевого доверия к подрядчикам»

Адвокат Гаврилова раскрыла, чего добивается семья Тиммы после его смерти

Где живут и на чем ездят самые аварийные водители России?

Росгвардия обеспечила безопасность празднования Дня ВМФ и футбольного матча в Москве


Елена Игоревна Вселенная — писатель, публицист, автор масштабного многотомного проекта «Наследие России»

Пловец из Москвы скончался во время заплыва по Волге в Нижнем Новгороде

Дебошир с авирейса Томск-Москва приговорен к году исправительных работ

Педагоги из Китая, Монголии, Таиланда и Узбекистана получили сертификаты Иркутского политеха


Телеведущая Виктория Лопырева опубликовала фото с матерью

Экс-футболист «Зенита» отказался от перехода в «Спартак», пишут СМИ

Кто заставил Зеленского предложить России новый раунд переговоров: В Британии показали пальцем

В Петрозаводске жених пришел на свадьбу в костюме Дарта Вейдера


Александр Бублик посвятил супруге победу на турнире ATP-250 в Кицбюэле

Теннисист Медведев не прошел в полуфинал турнира ATP в Вашингтоне

Весной его дисквалифицировали за мат, а теперь он герой Универсиады. Кто такой Владимир Сидоренко?

Боузкова одержала победу на теннисном турнире в Праге


В Подмосковье питбайкеру едва не отрезало голову натянутой на дороге проволокой

Экс-футболист «Зенита» отказался от перехода в «Спартак», пишут СМИ

«Аэрофлот» отменил 42 рейса из-за сбоя в работе информационных систем

Сбежавший в Дубай блогер Subo обвинён в уходе от налогов и отмывании денег на 50 млн рублей: В России за него отвечают отец и брат


Музыкальные новости

Алексей Учитель снимает фильм о композиторе Дмитрии Шостаковиче

Пугачева в Юрмале надела все лучшее сразу — стилист поиздевался

Фестиваль стыда и "эстрадной мафии" под маской молодёжного праздника: устроили на VK Fest очередной шабаш звезд

Рэпер Джиган подарил 14-летней дочери Ариеле сумку за 233 тысячи рублей


Росгвардия обеспечила безопасность празднования Дня ВМФ и футбольного матча в Москве

Где живут и на чем ездят самые аварийные водители России?

Optima Development: Новый сквер и фитнес-клуб

Адвокат Гаврилова раскрыла, чего добивается семья Тиммы после его смерти


В аэропорту Пулково в Питере временно приостановили полеты

В Ярославле прошёл Слёт молодёжи Северного филиала компании «ЛокоТех-Сервис»

"Локомотив" обыграл "Краснодар" со счетом 2:1 во втором туре РПЛ

Адвокат Гаврилова раскрыла, чего добивается семья Тиммы после его смерти


В Кот-д'Ивуаре в результате аварии с участием автобуса и самосвала погибли 16 человек.

Где живут и на чем ездят самые аварийные водители России?

Курс на мечту: «Национальная Лотерея» и РОЛЬФ вручили новый автомобиль победителю розыгрыша в честь запуска «Автомобильной лотереи «РОЛЬФ»

На МКАД авария затруднила движение авто


СМИ: Путин на этой неделе отправил США ominous сигнал.

Путин поздравил Жапарова с юбилеем подписания декларации о союзничестве.

Путин в День ВМФ прибыл на территорию Главного Адмиралтейства в Санкт-Петербурге

«Подводная лодка, демонтрированная Путину, произвела шок на Западе»


Приговор экс-руководителю компании по производству вакцин против ковида был смягчен.



Клиника гнатологии – лечение ВНЧС и восстановление прикуса

Вспомнить прошлое. Врач Романов объяснил появление метастазов через годы

Ночные перекусы в отпуске: доктор Садыков о том, как они влияют на микрофлору и вес

Optima Development: Новый сквер и фитнес-клуб


Киевский режим применил все 18 пакетов санкций ЕС

Зеленский настаивает: встреча с Путиным до конца августа с участием Европы

Запад ударил Зеленского по самому больному месту – кошельку: Киев показательно лишили 1,5 миллиардов помощи

Кто заставил Зеленского предложить России новый раунд переговоров: В Британии показали пальцем


Чемпионат по военно-спортивному многоборью среди росгвардейцев завершился в Грозном

Команда столичного управления МЧС России готовится к участию во Всероссийских соревнованиях по пожарно-спасательному спорту

Чемпионат по военно-спортивному многоборью среди росгвардейцев завершился в Грозном

Росгвардия обеспечила безопасность празднования Дня ВМФ и футбольного матча в Москве


Лукашенко получил приглашения от стран Латинской Америки и Азии для визитов.

Лукашенко дал интервью одному из американских СМИ

«Беларусь-1»: Лукашенко дал интервью одному из американских СМИ


Собянин в День работника МФЦ поздравил сотрудников центров госуслуг Москвы

Собянин: На территории промзоны «Кирпичные улицы» будет создана социнфраструктура

Собянин: Большинство москвичей живет в пешей доступности от парков и скверов

Сергей Собянин. Главное за день


В Феодосии ликвидировали пожар на площади

Почему технологии ПВВК безопасны и эффективны, химия и экология воды по мнению Алексея Горшкова

Самолёт совершил первый прямой авиарейс из Москвы в Пхеньян

Александр Михайлов (GSOC): «Безопасность IT-экосистемы — это зона нулевого доверия к подрядчикам»


В Петрозаводске жених пришел на свадьбу в костюме Дарта Вейдера

Прошла испытания система дистанционной передачи данных для корректировки навигационных карт

Телеведущая Виктория Лопырева опубликовала фото с матерью

Кто заставил Зеленского предложить России новый раунд переговоров: В Британии показали пальцем


Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

В музее-заповеднике «Архангельское» пройдут «Jazzовые сезоны»

В Архангельске представили киноальманах «Север, я люблю тебя!» по произведениям современных писателей

Александр Цыбульский: "С Архангельской области началась история российского флота"


Сколько пассажиров прибывают в Крым летом на поездах ежедневно

К парню с костылем подошли трое с требованием уступить. Он был готов, но заступилась бабушка по соседству

В Севастополе пройдет масштабная выставка картин Александра Дейнеки

Прогноз погоды в Крыму на 27 июля


MWM: Германия планирует наносить удары по Москве ракетами Tomahawk США

В Петрозаводске жених пришел на свадьбу в костюме Дарта Вейдера

Прокуратура: инцидент со сбоем систем "Аэрофлота" в Шереметьево на контроле

«Аэрофлот» отменил 42 рейса из-за сбоя в работе информационных систем














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *