«Крестный отец ИИ» призвал защитить человечество от уничтожения нейросетями

Людям нужно научиться укрощать нейросети, пока они не уничтожили человечество, заявил «крестный отец» искусственного интеллекта (ИИ) Джеффри Хинтон 26 июля на ежегодной Всемирной конференции по ИИ в Шанхае. «Держать тигренка в качестве домашнего питомца — плохая идея. И есть два варианта: найти способ научить его никогда не хотеть вас съесть или избавиться от него», — сказал он. При этом Джеффри отметил, что избавиться от цифровых помощников уже не получится, так как очень многие уже оценили пользу от их применения. Нейросети часто допускают ошибки, но в ряде областей превосходят возможности человек. Эксперт призвал задуматься о том, что будет когда создадут полноценный искусственный интеллект. Когда ИИ-боты научатся создавать подцели, то будут стремиться к выживанию и установлению контроля, оправдывая это стремлением выполнять задачи, поставленными людьми. «Их будет нелегко выключить. Они смогут легко манипулировать теми, кто ими пользуется. Мы будем как трехлетние дети перед взрослыми. Я думаю, что идея о том, что, как только они станут умнее нас, мы сможем найти кого-то, кто их выключит, нереалистична»,  — предупредил Джеффри. Он призвал создать международную организацию, которая будет заниматься тем, чтобы направлять ИИ на благо. Поскольку руководство каждой страны не хочет, чтобы власть перешла ботам, то все государства готовы сотрудничать для предотвращения этого варианта, считает Джефри. «Сейчас мы понятия не имеем, как это сделать, но в долгосрочной перспективе это самая важная проблема, стоящая перед человечеством», — заявил эксперт. Стоит отметить, что Джефри работает над созданием технологии ИИ с 1970-х годов. Он также получил премию Тьюринга, которую называют Нобелевской премией в сфере IT. В октябре 2024 года ученый получил Нобелевскую премию по физике за открытия в сфере машинного обучения. Напомним, в июле администрация США опубликовала «План действий в сфере ИИ». Он предполагает снятие ограничений безопасности, которые мешают развивать технологию. Цель этих мер — обеспечение лидерства страны в этой отрасли. glavno.smi.today