Доцент Гамаюнов рассказал о разработке системы для проверки защищенности ИИ-решений
Специалисты Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ создали систему, которая позволяет проверять устойчивость ИИ-систем к кибератакам. Об сообщил RT со ссылкой на Фонд поддержки проектов НТИ. Ученые создали специальный сайт, на который можно загрузить модель машинного обучения и потом запустить автоматическое тестирование их устойчивости к кибератакам. По итогу выдается оценка безопасности, а также происходит дообучение ИИ новым способностям для отражения угроз. «В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — рассказал эксперт центра доцент факультета ВМК МГУ Денис Гамаюнов.