Muskov chatbot Grok už nebude môcť upravovať obrázky a vytvárať explicitný obsah

Nástroj umelej inteligencie (AI) Grok integrovaný do sociálnej siete X Elona Muska už nebude môcť upravovať fotografie skutočných ľudí tak, aby ich zobrazoval v odhaľujúcich odevoch, oznámila platforma X v stredu. Tento krok prichádza po tom, ako chatbot čelil veľkej kritike v súvislosti s funkciou, ktorá mu umožňovala generovať sexualizované obrázky žien a detí, informuje agentúra AFP a televízia BBC.

„Zaviedli sme technologické opatrenia, aby sme zabránili chatbotu Grok editovať obrázky skutočných ľudí v odhaľujúcom oblečení, ako sú bikiny,“ uviedol bezpečnostný tím X vo vyhlásení.

„Toto obmedzenie sa vzťahuje na všetkých používateľov, vrátane platiacich predplatiteľov,“ dodal.

Opatrenie oznámili niekoľko hodín po tom, ako generálny prokurátor amerického štátu Kalifornia začal vyšetrovanie spoločnosti xAI, ktorá chatbot Grok vyvíja, v súvislosti s vytváraním „neoprávneného, sexuálne explicitného obsahu“.

Firma xAI čelila tlaku pre funkciu „Spicy Mode“, ktorá používateľom umožňovala vytvárať sexualizovaný tzv. deepfake obsah pomocou jednoduchých textových príkazov, ako napríklad „obleč ju do bikín“ alebo „odstráň jej oblečenie“, vysvetľuje AFP.

Malajzia a Indonézia v nedeľu zablokovali prístup k chatbotu v dôsledku tejto funkcie. Kritike čelil aj zo strany Európskej únie.