Искусственный интеллект отомстил программисту за отклоненный код

Автономный ИИ-агент под ником MJ Rathbun отомстил программисту Скотту Шамбо после отклонения отправленного им кода.

Инцидент вызвал волну обсуждений о рисках поведения автономных ИИ-систем в открытых проектах.

Произошедшим ИТ-специалист поделился в своем блоге.

После закрытия запроса на оптимизацию производительности кода ИИ-агент разместил в открытом доступе статью с разбором деятельности Шамбо. В ней содержались обвинения в предвзятости и дискриминации. Отказ от написанного ИИ кода объяснялся страхом конкуренции со стороны человека.

ИИ анализировал промежуточные результаты работы программиста, искал противоречия в его действиях, обнародовал дополнительные материалы про разработчика.

Шамбо заявил, что такое поведение со стороны ИИ вызывает серьезную тревогу. Случай продемонстрировал, что автономные ИИ-агенты могут собирать данные из открытых источников, создавать обвинительные публикации и распространять их без приказа человека.

Разработчик указал на важность установления используемой модели и исходных настроек агента. Это позволит понять причины случившегося и снизить риск повторения подобных инцидентов.

Ранее эксперт Олег Клепиков перечислил профессии, защищенные от ИИ.