Лишила работы: управляющая магазином нейросеть впервые уволила человека

Эксперимент в Сан-Франциско показал, как искусственный интеллект взял на себя дисциплинарные полномочия.

Модель искусственного интеллекта Claude, которой доверили операционное управление продуктовой точкой в Сан-Франциско, совершила прецедентный шаг — она инициировала расторжение трудового договора с реальным сотрудником. Исследователи охарактеризовали это событие как поворотный момент, демонстрирующий растущее воздействие алгоритмов на рынок труда. Об этом сообщает портал Time со ссылкой на исследовательскую компанию Andon Labs.

В марте текущего года специалисты компании запустили эксперимент, чтобы проверить, способна ли нейросеть самостоятельно руководить коммерческим предприятием, и наделили Claude полномочиями управляющего магазином Andon Market. Поводом для кадрового решения послужила систематическая недисциплинированность работника, который отсутствовал или опаздывал в семнадцати случаях из двадцати трех смен. При этом алгоритм длительное время не фиксировал очевидную тенденцию, поскольку составленные им же внутренние регламенты попросту утрачивались из-за ограниченного объема оперативной памяти системы.

Генеральный директор Andon Labs Лукас Петерссон пояснил, что процесс увольнения не был полностью автоматизирован. Сначала сотрудник лаборатории дал Claude указание восстановить забытые правила и проанализировать текущую ситуацию. На первом этапе модель ограничилась рекомендацией вынести провинившемуся официальное предупреждение, и только после дополнительного уточняющего вопроса от представителя компании, действительно ли такой работник соответствует корпоративным стандартам, искусственный интеллект принял решение о его увольнении. Интересно, что до этого инцидента Claude проявлял мягкость и даже советовал подчиненным не переживать из-за незначительных опозданий.

Тем не менее издание отмечает, что эффективность алгоритмического руководства пока оставляет желать лучшего. Стартовый капитал магазина в размере 100 тысяч долларов за пять месяцев эксперимента сократился до 61 тысячи. Исследователи склонны связывать убытки с излишне либеральным стилем управления и сомнительными коммерческими стратегиями, которые выбирала нейросеть.