Google Фото определил чернокожую пару в категорию "гориллы"

Компьютерные алгоритмы не всегда точны в своей работе и часто могут совершать ошибки, которые со стороны кажутся очень глупыми, нелепыми или даже невозможными. Недавно подобное произошло с системой распознавания лиц на фотографиях в новом фотографическом сервисе Google Фото от компании Google. Идентификация лиц, объектов или даже животных — одна из новых функций, поэтому в настоящее время она может производить неправильные распознавания.

Такой инцидент произошел с чернокожей парой влюбленных, которые сняли серию фотографий вместе и сохранили все сделанные фотографии в сервисе Google Фото. При осуществлении поиска по тегу «гориллы» (Gorillas) эти фотографии были неправильно помечены и включены в данную категорию. Пользователь, который обнаружил этот баг, быстро связался с одним из разработчиков Google в социальной сети Твиттер. За эту ошибку представители поискового гиганта, узнав о ней, искренне извинились и полностью удалили тег из Google Фото до полного разбирательства с ситуацией. Также Google сообщила, что уже работает над исправлением технологии идентификации животных в своем новом сервисе хранения фотографий и по состоянию на сейчас уже проделано достаточное количество работы.
Стоит отметить, что это не первый раз, когда автоматизированные технологии были обвинены в так называемых «расистких» ошибках. Не так давно компания HP попала под огонь с фирменными компьютерными веб-камерами, которые не могли определить людей с темным цветом кожи, а также пользователей азиатского происхождения. Что касается Google Фото, то Google предстоит еще много работы, ведь, помимо людей в категории горилл, сервис также как-то на днях определил кошку, как собаку.