Umělá inteligence může s lidmi manipulovat, varují odborníci a odcházejí z AI firem

Významní výzkumníci a manažeři v oblasti umělé inteligence v posledních dnech hromadně opouštějí přední technologické firmy. Při odchodu varují před vážnými riziky spojenými s rychlým vývojem umělé inteligence. Upozornil na to server CNN.

Odcházející odborníci z OpenAI, Anthropic či xAI upozorňují na etické problémy, nedostatečnou kontrolu technologií i tlak na komerční využití na úkor bezpečnosti. Podle nich se firmy ženou vpřed příliš rychle, zejména v době, kdy se připravují na vstup na burzu a čelí rostoucímu dohledu veřejnosti i regulátorů.

Například výzkumnice Zoë Hitzig po dvou letech v OpenAI oznámila svou rezignaci v eseji pro deník The New York Times. Uvedla, že má „hluboké výhrady“ k plánované reklamní strategii firmy. Tato reklama podle ní „vytváří potenciál pro manipulaci uživatelů způsoby, které nedokážeme pochopit, natož jim zabránit“.

Poukázala především na rozsáhlá data, která ChatGPT shromažďuje – od zdravotních obav po náboženské přesvědčení –, a na etický problém jejich možného komerčního využití.

Podobně znepokojivě vyzněl i odchod Mrinanka Sharmy z Anthropic, kde vedl tým pro výzkum bezpečnostních opatření. Ve veřejném dopise na síti X varoval, že „svět je v nebezpečí“, a naznačil, že v praxi je obtížné řídit se hodnotami, k nimž se firmy hlásí.

Vlna odchodů zasáhla i společnost xAI Elona Muska, odkud během krátké doby odešli dva spoluzakladatelé a další zaměstnanci. O odchodu informovali na síti X, kterou jeden z nejbohatších lidí na světě – Elon Musk – pořád vlastní. Firma přitom čelila kritice kvůli chatbotu Grok, který generoval nenávistný obsah i nelegální materiály.

Napětí mezi bezpečností a obchodními zájmy v AI průmyslu se projevuje dlouhodobě. Již dříve na rizika upozorňoval i Geoffrey Hinton, přezdívaný „kmotr AI“, který po odchodu z Googlu varoval před zásadními společenskými dopady technologií, jež mohou rozostřit hranici mezi pravdou a fikcí.

The post Umělá inteligence může s lidmi manipulovat, varují odborníci a odcházejí z AI firem appeared first on Forbes.