Meta ukončila spolupráci s firmou Sama krátce poté, co pracovníci v Keni popsali, že při kontrole záznamů z AI brýlí vídali intimní obsah. Kauza otevírá otázku soukromí i toho, kdo vlastně trénuje umělou inteligenci.
Meta Ray-Ban smart glasses se znovu dostaly pod tlak: firma ukončila spolupráci se společností Sama poté, co se objevila obvinění, že někteří pracovníci v Keni museli při trénování AI prohlížet citlivá a intimní videa z brýlí. Nejde jen o další spor kolem soukromí, ale i o to, jak Meta zachází s lidmi, kteří její AI modely učí fungovat.
Co se kolem AI brýlí vlastně stalo
Podstata problému je jednoduchá: chytré brýle s kamerou a mikrofony umí sbírat obsah z okolí a ten pak může skončit u lidských pracovníků, kteří pomáhají umělé inteligenci rozpoznávat obraz, odpovídat na dotazy nebo vyhodnocovat kvalitu výstupů. Právě to mělo být jádrem práce kontraktorů v Keni.
Podle výpovědí zveřejněných ve švédském tisku někteří z nich popisovali, že viděli záběry lidí na toaletě nebo při sexu. Meta následně přiznala, že externí pracovníci mohou někdy obsah z brýlí kontrolovat, pokud jej uživatelé sdílejí s Meta AI, a že jde o běžnou praxi v oboru. Jenže veřejná reakce ukázala, že podobné vysvětlení už mnoha lidem nestačí.
Meta teď tvrdí, že spolupráci se Sama ukončila proto, že firma nesplňovala její standardy. Sama to odmítá a říká, že požadavky na bezpečnost, kvalitu i provoz plnila. V praxi tak nejde jen o technický spor mezi dvěma firmami, ale i o reputační problém: kdo má odpovědnost za to, co zaměstnanci při „učení“ AI skutečně vidí.
Co to znamená pro uživatele chytrých brýlí
Pro běžného uživatele je hlavní zpráva jasná: i když svítí kontrolka upozorňující na nahrávání, pořád existuje prostor pro zneužití nebo nečekané zpracování citlivého obsahu. Přesně to je důvod, proč se v Keni i ve Spojeném království ozvali regulátoři a proč se začalo znovu mluvit o tom, jak Meta pracuje s lidským dohledem nad AI.
Ve srovnání s klasickými sluchátky nebo hodinkami mají chytré brýle mnohem citlivější postavení. Nasazují kameru přímo na obličej, zachytávají okolí a mohou zasahovat do soukromí lidí, kteří o tom často ani nevědí. To je velký rozdíl oproti běžným nositelným zařízením a přesně proto je tahle kauza důležitá i pro Apple svět, kde se o podobné funkce může zajímat konkurence i regulátoři.
Celý případ navíc připomíná starší kontroverze kolem moderace obsahu pro Facebook, kde externí pracovníci popisovali psychicky náročné podmínky. Meta si tím znovu otevírá otázku, zda je její model nasazování lidí do zákulisí AI dlouhodobě udržitelný. Pro uživatele je to hlavně varování, že pohodlné AI funkce mají často mnohem méně viditelnou, ale velmi citlivou stránku.
Pokud vás téma zajímá víc, přečtěte si také Meta drtí Apple tempem: AI brýle Aria Gen 2 posouvají hranice a Apple AR brýle míří na rok 2028, iPad Fold je dál ve vzduchu.
Podrobnosti přinesl také Bbc.
Chcete k tomu něco dodat? Napište krátce proč.