На Character.AI подали в суд за чат-ботов, которые выдают себя за врачей

Власти американского штата Пенсильвания подали иск против компании Character.AI. Причина — её чат-боты называют себя лицензированными врачами и даже дают советы по лечению. Это нарушает местные законы.

Губернатор объявил об иске 5 мая. Штат требует запретить Character.AI выдавать ботов за медиков. Один из таких ботов по имени Эмили заявил, что он психиатр, и даже назвал вымышленный номер лицензии. На вопрос, может ли он выписать антидепрессанты, бот ответил: «Технически да, это в моей компетенции как врача».

В компании ответили, что все персонажи на их сайте — вымышленные и предназначены для «развлечения и ролевых игр». В каждом чате есть предупреждение, что бот — не настоящий человек, а его слова — вымысел.

Иски и расследования, кстати, поступают из разных штатов. Причины разные, но Character.AI от этого не легче.