Сотрудники IT-гигантов не хотят сотрудничать с Пентагоном из-за вопросов этики
В пятницу (22 февраля) около 50 сотрудников Microsoft обратились с письмом к руководству компании. На следующий день само письмо и часть последующей переписки были опубликованы в сети, а также появились первые комментарии. Сотрудники требуют, во-первых, отказаться от контракта с Министерством обороны на разработку Интегрированной системы визуального слежения (IVAS). Во-вторых, вообще прекратить разработки любых технологий военного назначения и обнародовать соответствующую политику. И в-третьих, создать независимый комитет по этике, который будет следить за соблюдением этой политики.
Поводом для всего этого послужил контракт с Министерством Армии США (Department of the Army – одно из ведомств Пентагона) на сумму $479 млн, по которому Microsoft должны были передать военным 100 тысяч устройств HoloLens. Это технология так называемой гибридной, или смешанной, реальности, объединяющая виртуальную и расширенную реальности. Первая версия была представлена еще в 2016 году, и давала возможность в реальном окружении работать с виртуальными голографическими изображениями. Автономный голографический компьютер HoloLens – это очки, работающие под управлением специального голографического процессора, объединяющего данные с различных датчиков, в том числе, обрабатывает жесты и движения пользователя. Сейчас на сайте Microsoft указана стоимость устройства от 3 до 5 тысяч долларов, в зависимости от версии.
Разработчики, многие из которых трудились над проектом задолго до того, как возник контракт с военными, верили, что эта технология “поможет проектировать дома и автомобили, обучать хирургов и пианистов, откроет новые игровые возможности и позволит управлять (почившим в бозе) марсоходом”. Контракт, однако, подразумевает: “быструю разработку, тестирование и производство единой платформы, которую военные смогут использовать в боевых условиях, тренировках и обучении для улучшения поражающей способности, мобильности и контроля обстановки, необходимых для обеспечения превосходства над имеющимся или будущим противником.” Конечно, Microsoft и раньше сотрудничала с военными. Но, прежде компания никогда не “пересекла черту”, за которой начинается производство вооружений. А теперь: “HoloLens в составе IVAS предназначено для уничтожения людей”.
Дело серьезное. Пока идет обмен любезностями. Представитель Microsoft заверил, что “мы всегда ценили мнение наших сотрудников”. А президент и главный юрисконсульт компании Брэд Смит написал, что “сотрудники, которые не хотят иметь дело с военными, смогут продолжить работу в других подразделениях компании”. Конечно, так или иначе ситуация разрешится. Но ведь в Microsoft это не первый случай. Всего полгода назад возник скандал из-за сотрудничества компании с Иммиграционной и таможенной полицией. Вся прогрессивная общественность дружно поносит администрацию Трампа за то, что на границе разделяют семьи мигрантов. А тут пользователи сети обнаруживают, что Microsoft, оказывается, передавала властям технологию распознавания лиц и оказывала помощь в обработке данных. Около 100 сотрудников компании потребовали от руководства немедленно расторгнуть правительственные контракты и ввести запрет на сотрудничество с клиентами, нарушающими права человека. И вообще, сделать более прозрачным процесс сотрудничества с государственными структурами. Требования были опубликованы в открытом письме, направленным в The New York Times: “Мы – те, кто создает технологии, приносящие Microsoft прибыль, и мы отказываемся быть соучастниками”. Тогда генеральный исполнительный директор Microsoft Сатья Наделла был вынужден публично осудить действия Белого дома и заверить всех, что программное обеспечение компании используется исключительно для обычных офисных задач.
Но проблемы не только у Microsoft. В апреле прошлого года скандал возник в Google. В рамках проекта Maven компания сотрудничала с Пентагоном и разрабатывала алгоритмы компьютерного зрения и анализа видеоизображений, поступающих с дронов. Многие сотрудники были очень недовольны, а самые инициативные отправили руководству петицию. Требования все те же: прекратить работу над проектом и выработать публичную политику по вопросам участия в военных программах. Около десятка сотрудников вообще предпочли уволиться в знак протеста. В июне были опубликованы принципы Google в области искусственного интеллекта. В том числе, декларировалось, что компания не станет участвовать в разработке технологий, “основное предназначение или использование которых имеет целью причинение или содействие причинению ущерба здоровью людей”. В другом пункте компания обязалась не разрабатывать “технологии сбора и использования данных для целей контроля, нарушающего принятые международные нормы”.
Дальше больше. Уже в августе выяснилось, что Google работает над проектом поисковика Dragonfly, который должен был быть совместим с требованиями цензуры в Китае. Снова появилось протестное письмо, под которым подписались уже более 400 сотрудников, а некоторые, как и в прошлый раз, предпочли просто уволиться. Были, правда, и те, кто публично поддерживал проект, отмечая, в том числе, пользу, которую американский поисковик мог бы принести гражданам КНР.
В конце концов проект закрыли. А в октябре Google отказался от участия в 10-миллиардном тендере на облачную Инфраструктуру объединенной корпоративной обороны (JEDI). В официальном заявлении было сказано: имеются высокие риски того, что соответствующие работы могут оказаться несовместимы с принципами компании. С этим тендером вообще все непросто. По замыслу правительства по контракту предполагается всего один подрядчик. Потенциальные участники были недовольны, отмечая, что это ослабит технологическую конкуренцию и создаст долгосрочную зависимость Пентагона от единственного поставщика. Компания Oracle вообще подала в суд на правительство. А IBM пожаловались в Главное бюджетно-контрольное управление на Amazon.
Джефф Безос, основатель, президент и генеральный исполнительный директор Amazon, пожалуй, единственный крупный руководитель, открыто выступающий за сотрудничество с военными. В октябре, на бизнес-конференции Wired он сказал: “Если технологические гиганты собираются повернуться спиной к Министерству обороны, это значит, у нашей страны большие проблемы”. И добавил: “Это великая страна. И её нужно защищать.” Однако, внутри самого Amazon с Безосом согласны не все. Еще летом сотрудники компании пытались собрать какой-то инициативный комитет, чтобы “на общем собрании выступить против полицейских симпатий Безоса”. И хотя тогда не получилось, вряд ли они просто так откажутся от своих планов.
Похоже, мы наблюдаем начало очень интересного тренда, который, скорее всего, окажет серьезное влияние на индустрию. Хайтек вообще весьма специфическая среда. У тех, кто там работает свои представления о том, что такое хорошо, и что такое плохо. Это люди достаточно обеспеченные, социально активные, технически грамотные. Традиционно, и работники, и бизнес старались держаться в стороне от политики. Но ситуация меняется. Очень любопытно, что летом опять стали появляться слухи о каких-то профессиональных объединениях. Идея профсоюзов разработчиков не нова, первые попытки были еще в середине 1980-х. Однако всегда дело оканчивалось ничем. Сейчас же есть одно любопытное “но”. В отличие от обычных профсоюзов, основная задача которых обеспечение достойных условий труда и оплаты работников, теперь речь идет о “праве работников решать, что компания действует в соответствии с приемлемыми этическими нормами”.
Свои проблемы и у IT-гигантов. До сих пор они старались дистанцироваться от Вашингтона. А он, в общем, игнорировал их. Но только в прошлом году нескольких руководителей вызывали на различные ковры в столицу, в том числе, отчитываться перед Конгрессом. И чувствуют они себя там очень некомфортно. Не секрет, что хайтек многие недолюбливают, у них мало союзников в политике и в традиционном бизнесе. Их считают выскочками. Их побаиваются. Да и общество относится к ним достаточно настороженно, пусть даже не всегда это справедливо. А со СМИ по некоторым фронтам уже разворачивается настоящая война. И экономическая, и идеологическая.
Президентская администрация тоже не слишком их жалует. У Трампа другие приоритеты. И хотя сразу после своего избрания он встречался с руководством ведущих IT компаний, мероприятие получилось достаточно протокольным. Ну, а уж они его вообще терпеть не могут. Вот, Илон Маск, например, заявляет, что прошедшие выборы “не лучший момент для нашей демократии”, а самого Трампа называет “неподходящим для этого поста человеком”. И это еще цветочки. А работать как-то надо. И компаниям деньги зарабатывать. И правительству обеспечивать общественный порядок и оборону страны. И, что ни говори, без высоких технологий тут не обойтись. Тем более, что как и везде, в Америке действуют очень серьезные требования к соответствующим подрядчикам.
Читайте также: Облегченные AR-очки Hololens 2 с расширенным углом обзора показал Microsoft