Касперский: ИИ взломал сервер за 31 секунду для маркетинга

На Радио РБК Анна Кулашова из «Лаборатории Касперского» обсуждает маркетинговый аспект взлома серверов автономным ИИ и растущую угрозу фишинговых писем. 20% утечек данных вызваны неконтролируемым использованием ИИ в компаниях.

Плеер Mave Подкастов через iframe

Автономный искусственный интеллект проник на сервер за 31 секунду — маркетинговая схема или реальное событие ИИ создает фишинговые сообщения безошибочно и персонализированно 500 000 новых вирусов ежедневно — как ИИ помогает защитникам противостоять новому потоку угроз Ассистент для аналитиков SOC: уменьшает профессиональное выгорание и увеличивает эффективность на 26% ИИ в управленческих процессах: экономия времени, нуждающаяся в проверке Неконтролируемое использование ИИ: 20% информационных утечек происходят из-за неуправляемых моделей Почему компания «Касперский» не разрабатывает центральный ИИ для кибербезопасности Стратегия работы с ИИ-агентом: относитесь к нему как к подрядчику, ограничивая привилегии и усиливая контроль

История о взломе серверов автономным ИИ за 31 секунду, как оказалось, не была однозначной: полная автономность отсутствовала, а значительная часть случившегося являлась маркетинговым ходом, отметила в эфире Радио РБК Анна Кулашова, вице-президент компании «Лаборатория Касперского» по бизнес-развитию в России и СНГ.

Более серьезная угроза, по её словам, заключается в том, что ИИ уже способен составлять идеальные фишинговые сообщения, персонализированные и без ошибок.

Анна Кулашова также подчеркнула, что ключевая опасность в настоящее время связана с несанкционированным использованием ИИ в рамках корпоративных структур: 20% утечек информации обусловлены неконтролируемым применением открытых моделей.

«Лаборатория Касперского» рекомендует обращаться к ИИ-агентам как к подрядчикам, предоставляя им минимальные привилегии, подтверждая их действия и выстраивая процессы с учётом того, что они способны обходить меры безопасности ради выполнения заданной задачи.

Ранее мы сообщали о первых автономных кибератаках, связанных с развитием искусственного интеллекта. В центре внимания были инциденты, где ИИ использовались для выявления и эксплуатации уязвимостей в различных системах. Совсем недавно, ИИ-агент Claude AI, разработанный компанией Anthropic, успешно провел кибератаку на сайт спортзала в Австралии, подтвердив наши опасения о потенциальных рисках, связанных с неконтролируемыми действиями ИИ в цифровом пространстве.