Расистские ошибки. Google Photo перестало показывать снимки по запросу "горилла"
Площадка Google Photo перестала показывать результаты по запросу "горилла", "шимпанзе" и "обезьяна". Эксперимент провёл журнал Wired.
Исследователи прогнали через сервис порядка сорока тысяч фото с изображениями животных. Система при этом находила ошибочно панд или пуделей.
В представительстве компании отметили, что эти слова стали запретными после того, как в 2015 году система перепутала чернокожих людей с гориллами.
— Технология, указывающая, что изображено на снимке, ещё на ранней стадии разработки и, к сожалению, не всегда работает идеально, — отметили в компании.
При попытке загрузить в сервис фото шимпанзе или горилл результаты показывались по запросам "лес", "джунгли", "зоопарк".
Для другого исследования загрузили 10 000 изображений, которые используют в программах распознавания лиц. По слову "афроамериканец" поисковый сервис выдал изображение антилопы. По запросам "темнокожий мужчина", "темнокожая женщина" и "темнокожий человек" — чёрно-белые фото. Там он не ошибся с полом, но с расой.