Для обучения искусственного интеллекта его заставили отвлечься от важных деталей
Сверточные нейронные сети (CNN) – разновидность искусственных нейронных сетей, используемые для распознавания изображений. Они эффективно справляются со своими задачами, но настройка подобных программ по-прежнему зависит от метода проб и ошибок.
«CNN эффективны, но мы не до конца понимаем, как они работают», – признает преподаватель Гронингенского университета в Нидерландах Эстефания Талавера Мартинез. Она занимается исследованиями взаимодействия людей в процессе еды, и использовала нейросети для анализа фотографий с носимых камер.
Мартинез столкнулась с тем, что нейросеть не могла правильно определить обстановку, в которой люди принимают пищу, сообщает Science Daily. Она изучила, на основании чего нейросеть классифицирует обстановку на фото. Оказалось, что программа не обращала внимание на второстепенные детали. Например, если искусственный интеллект (ИИ) в процессе обучения решал, что кухню можно опознать по кружкам, то он причислял к кухням любые помещения, на фото которых находил кружки.
Вместе со своими испанскими коллегами Мартинез придумала способ изменить поведение ИИ в нужную сторону. Исследователи решили, что его необходимо научить отвлекаться от важных деталей изображения и анализировать второстепенные.
Для этого они обучили нейросеть типа CNN с помощью набора изображений самолетов и автомобилей. В процессе ученые выяснили, какие именно детали искусственный интеллект использует для распознания типа транспорта. После этого они размыли на изображениях эти элементы и заставили нейросеть пройти повторное обучение.
В результате ИИ научился гораздо лучше распознавать изображения, в том числе и те, которые Мартинез пыталась обрабатывать изначально. Метод, разработанный голландскими и испанскими учеными, оказался гораздо более простым и требует меньше компьютерных ресурсов по сравнению с методиками, которые используют другие специалисты по обучению распознающих изображения нейросетей.