OpenAI a jeho zaměstnanci varují před nebezpečím, které plyne z využívání umělé inteligence. Co lidstvu hrozí, když si nedá pozor?
Několik současných i bývalých zaměstnanců společností OpenAI a Google DeepMind dnes sdílelo otevřený dopis, ve kterém varují před nebezpečím pokročilé umělé inteligence a současným nedostatečným dohledem nad společnostmi pracujícími na technologiích umělé inteligence.
OpenAI jako lídr v oblasti AI
Zaměstnanci naznačují, že vývoj AI nám hrozí řadou rizik, včetně dalšího upevňování stávajících nerovností, manipulace a dezinformací a ztráty kontroly nad autonomními systémy AI, což by podle dopisu mohlo vést k vyhynutí lidstva.
Společnosti zabývající se umělou inteligencí mají „silné finanční pobídky“, aby pokračovaly ve vývoji a vyhýbaly se sdílení informací o svých ochranných opatřeních a míře rizika. „Nemyslíme si, že se na ně všechny mohou spolehnout, že je budou sdílet dobrovolně,“ uvádí se v dopise, podle něhož je na současných a bývalých zaměstnancích, aby se ozvali.
Dokud nebude existovat účinný státní dohled nad těmito společnostmi, jsou současní a bývalí zaměstnanci jedni z mála lidí, kteří je mohou pohnat k odpovědnosti před veřejností. Přesto nám široké dohody o mlčenlivosti brání vyjádřit své obavy, s výjimkou samotných společností, které tyto problémy možná neřeší. Běžná ochrana whistleblowerů je nedostatečná, protože se zaměřuje na nezákonnou činnost, zatímco mnoho rizik, kterých se obáváme, zatím regulováno není.
Zaměstnanci nakonec vyzývají společnosti zabývající se umělou inteligencí, aby nabídly solidní ochranu oznamovatelů za to, že o rizicích spojených s umělou inteligencí mluví.
- Vyhněte se vytváření nebo prosazování dohod, které brání kritice v souvislosti s riziky.
- Nabídněte zaměstnancům ověřitelně anonymní proces, který jim umožní upozornit představenstvo, regulační orgány a nezávislé organizace s příslušnými odbornými znalostmi na obavy související s riziky.
- Podporujte kulturu otevřené kritiky, která umožní zaměstnancům vznášet obavy týkající se technologií souvisejících s riziky před veřejností, představenstvem, regulačními orgány a dalšími subjekty, pokud je chráněno obchodní tajemství.
- Vyvarujte se odvetných opatření vůči zaměstnancům, kteří veřejně sdílejí důvěrné informace související s riziky poté, co selhaly jiné postupy.
AI funkce hýbou světem
Dopis podepsalo celkem 13 zaměstnanců, včetně sedmi bývalých zaměstnanců OpenAI, čtyř současných zaměstnanců OpenAI, jednoho bývalého zaměstnance Google DeepMind a jednoho současného zaměstnance Google DeepMind. Společnost OpenAI vyhrožuje zaměstnancům, že za to, že se ozvou, přijdou o majetkové podíly, a nutí je podepisovat drakonické dohody o zachování důvěrnosti informací, které umlčují kritiku.
Dopis přichází v době, kdy se Apple chystá v pondělí oznámit několik funkcí poháněných umělou inteligencí pro iOS 18 a další aktualizace softwaru. Apple pracuje na vlastních funkcích AI, které budou integrovány do aplikací napříč operačním systémem, a navíc podepsal dohodu s OpenAI o integraci funkcí ChatGPT do iOS 18.
Chcete k tomu něco dodat? Napište krátce proč.