ChatGPT більше не надає медичних та юридичних консультацій: OpenAI посилює обмеження

Компанія OpenAI оновила політику використання ChatGPT, яке значно обмежило можливості чат-бота у сфері професійних консультацій. Тепер модель відмовляється надавати користувачам персоналізовані медичні та юридичні поради. ► Читайте «Мінфін» в Instagram: головні новини про інвестиції та фінанси

Що заборонено

Оновлені правила забороняють моделі: Надавати персоналізовані медичні та юридичні консультації.

Аналізувати медичні зображення: МРТ, рентгенівські знімки, фотографії шкірних захворювань тощо. При спробі отримати таку інформацію, ChatGPT відповідає відмовою, заявляючи, що може надавати лише загальну інформацію в освітніх цілях, але не здійснювати діагностику чи давати конкретні рекомендації.

Користувачі на Reddit повідомляють, що не працюють навіть звичні «уловки», коли модель просять розглянути гіпотетичну ситуацію. Алгоритм захисту наполягає на загальній консультації та направляє користувача до ліцензованого спеціаліста.

Причина: Правові ризики та конфіденційність

OpenAI пояснює, що правила використання ChatGPT — це частина ширшої екосистеми безпеки, що має забезпечити безпечне й відповідальне використання інструментів ШІ.

«Наші правила не замінюють юридичні вимоги, професійні обов’язки й етичні принципи, якими мають керуватися користувачі ШІ. Користувачі несуть відповідальність за належне використання наших сервісів», — йдеться у повідомленні компанії.

Раніше СЕО OpenAI Сем Альтман попереджав про відсутність лікарської та адвокатської таємниці для діалогів із ChatGPT, що створювало значні правові ризики для користувачів, чиї консультації могли бути використані як докази у суді.

Компанія зазначає, що продовжує моніторинг і забезпечення дотримання правил і готова до вдосконалення політики в майбутньому.

Варто зазначити, що дедалі більше користувачів звертаються до ChatGPT за професійними порадами, і були випадки, коли чат-бот допомагав навіть вигравати судові справи.