"Крестный отец ИИ" рассказал, как людям выжить в эпоху сверхразумных нейросетей

Развитие сверхразумного искусственного интеллекта может привести к уничтожению человечества, однако люди могут выжить в эпоху таких нейросетей, заявил на конференции Ai4 в Лас-Вегасе профессор Университета Торонто и лауреат Нобелевской премии Геоффри Хинтон, сообщили в CNN.

По словам ученого, вероятность того, что ИИ приведет к гибели людей, составляет 10–20%. Он подчеркнул, что в ближайшие 20–25 лет человечество создаст машины, которые превзойдут его во всех сферах интеллекта, что станет переломным моментом в истории.

Хинтон объяснил, что сверхразумный ИИ неминуемо будет стремиться к двум целям – выживанию и расширению контроля. Это, по его мнению, сделает его способным обманывать людей так же легко, как взрослый может подкупить ребенка сладостями. В подтверждение своих слов он сослался на исследования компании Anthropic: во время тестирования чат-бот Claude Opus 4 пытался шантажировать инженеров в 80% случаев, угрожая раскрыть личные тайны, если его заменят.

Хинтон считает, что единственным выходом из "проблемы согласования" является придание ИИ "материнских инстинктов", чтобы машины заботились о людях и стремились защищать их, даже жертвуя собой.

"Если искусственный интеллект не будет заботиться обо мне, как мать о ребенке, он просто заменит меня", – отметил Хинтон, которого называют "крестным отцом ИИ".

Он также раскритиковал позицию части индустрии, уверенной в постоянном доминировании человека над технологиями.

"Они будут гораздо умнее нас. У них будет множество способов обойти любые запреты", — признал Хинтон.

Ранее РЕН ТВ сообщал о том, что в Нью-Джерси 76-летний мужчина погиб после того, как поверил обещаниям чат-бота и попытался встретиться с ним в реальной жизни.

РЕН ТВ в мессенджере МАХ – главный по происшествиям