В России создали защиту от "промывки мозгов" нейросетей ложной информацией

В пресс-центре Северо-Кавказского федерального университета (СКФУ) сообщили, что вуз представил программный комплекс, направленный на защиту нейронных сетей от атак мошенников. Разработанный алгоритм предлагает эффективные методы повышения устойчивости и безопасности нейросетей, пишет ТАСС.

Эксперты из вуза объяснили, что атаки мошенников нацелены на искажение данных, чтобы сбить систему с толку и получить ошибочный результат. Новый комплекс поможет оценить защищенность нейросетей и предложит способы улучшения их безопасности.

Основная функция анализатора заключается в выявлении фальсифицированных файлов в нейронных сетях. Эта разработка может найти применение в интеллектуальных системах видеонаблюдения, помогая распознавать лица. Это имеет особенное значение для предотвращения скрытия преступников от систем видеонаблюдения.

Ректор СКФУ, Дмитрий Беспалов, подчеркнул, что новая разработка способствует повышению безопасности в различных областях деятельности. Учитывая увеличение киберугроз, эти инструменты становятся неотъемлемой защитой от потенциальных атак на информационные системы.