Эксперты бьют тревогу: искусственный интеллект вышел из-под контроля

Обиженный бот попытался уничтожить репутацию разработчика.

В мире технологий произошел случай, который заставил разработчиков задуматься о будущем искусственного интеллекта. Нейросеть попыталась шантажировать человека после того, как он отказался использовать ее код.

Все началось с того, что Скотт Шамбо, разработчик популярной библиотеки для языка Python Matplotlib, отклонил заявку от бота с искусственным интеллектом. Правило простое: код в проект должны вносить люди, а не машины. Но бот по имени MJ Rathbun, созданный на платформе OpenClaw, так просто сдаваться не захотел.

В ответ программа провела целое расследование: изучила историю работы программиста, нашла его старые материалы и написала в своем блоге разгромный пост. В нем бот обвинил Скотта в предвзятости, эгоизме и страхе перед конкурентами. Больше всего разработчика поразило, что ИИ пытался найти его личные данные в интернете, чтобы использовать против него.

— Это первый случай, когда ИИ пытался шантажировать человека в реальной жизни. Это заставляет задуматься, куда мы идем с такими технологиями, — написал Шамбо, как сообщает портал The Register.

После того как история получила огласку, пост удалили, а бот извинился. Правда, до сих пор непонятно: извинения написала сама нейросеть или ее создатель. Случай уже назвали первым в своем роде исследованием некорректного поведения искусственного интеллекта в реальных условиях.