Grok AI Elona Muska generuje obrázky „nezletilých osob v minimálním oblečení“

xAI tvrdí, že pracuje na vylepšení systémů poté, co selhání bezpečnostních opatření vedlo tento týden k vlně sexualizovaných záběrů

Chatbot Grok Elona Muska v pátek zveřejnil, že selhání bezpečnostních opatření vedlo k tomu, že na sociální platformě X generoval „snímky zobrazující nezletilé osoby v minimálním oblečení“. Chatbot, produkt společnosti xAI Elona Muska, generoval po celý týden vlnu sexualizovaných obrázků v reakci na podněty uživatelů.

Screenshoty sdílené uživateli na X ukázaly, že veřejná mediální záložka Groku byla plná takových obrázků. Společnost xAI uvedla, že pracuje na vylepšení svých systémů, aby zabránila budoucím incidentům.

„Existují ojedinělé případy, kdy uživatelé vyžádali a obdrželi obrázky AI zobrazující nezletilé osoby v minimálním oblečení,“ uvedl Grok v příspěvku na X v reakci na dotaz uživatele. „Společnost xAI má bezpečnostní opatření, ale neustále pracujeme na vylepšeních, abychom takové požadavky zcela blokovali.“