ИТ-эксперт Рыбальченко объяснил, как проверить нейросеть на духовные ценности

IT-эксперт Илья Рыбальченко сообщил, что проверить соответствие нейросети духовно-нравственным ценностям возможно через оценку ее ответов в разных сценариях. Для этого нужны провокационные запросы и независимая экспертиза, передает РИАМО .

Рыбальченко пояснил, что оценивать будут не «духовность» математической модели, а ее ответы в заданных сценариях. Нейросеть можно проверить с помощью тысяч размеченных запросов по темам истории, семьи, религии, межнациональных отношений, насилия, экстремизма и прав человека.

Для каждой категории необходимо определить приемлемые, неприемлемые и пограничные ответы. Эксперт отметил, что стандартного экзамена недостаточно: модель также нужно тестировать провокационными запросами, замаскированными инструкциями, многоступенчатыми диалогами и ролевыми играми.

Рыбальченко добавил, что соответствие законам оценить проще, поскольку легальные и запрещенные действия определены четче. Проверка ценностей должна учитывать контекст и устойчивость поведения модели. Для этого нужны скрытые тесты и повторная оценка после серьезных обновлений, пишет

NevaToday

.