Google Earth krátce zpřístupnil AI nástroj pro úpravu satelitních snímků, ale po vlně kritiky jej během dne stáhl. Hlavní problém? Snazší výroba falešných záběrů skutečných míst.
Google Earth na chvíli dostal funkci, která dovolovala upravovat satelitní a 3D snímky pomocí generativní AI. Záměr zněl atraktivně, jenže v praxi šlo o nástroj, který mohl velmi snadno vyrábět falešně působící obraz skutečných míst. Po kritice odborníků tak Google funkci rychle stáhl.
Aktuální cenu produktu JBL Tune 770NC najdete na Alze.
AI v Google Earth narazila na problém důvěry
Nová možnost stavěla na modelu Nano Banana 2 a Google ji prezentoval jako způsob, jak tvořit „koncepty ukotvené v reálném světě“. Jenže právě to je u mapových a satelitních podkladů citlivé. Google Earth dlouhodobě slouží jako reference pro novináře, vyšetřovatele i běžné uživatele, kteří si podle něj ověřují, zda je určitá fotka nebo video skutečné.
Jakmile se do takového prostředí dostane jednoduchý generátor upravených scén, důvěra v celé prostředí začne slábnout. Uživatel už totiž neřeší jen to, co je na snímku vidět, ale i to, zda obraz vůbec odpovídá realitě. A právě to je problém, který Google zjevně podcenil.
Reakce odborníků byla okamžitá. Zvlášť ostrá kritika mířila na to, že z nástroje pro ověřování reality se během jedné funkce stal nástroj pro její přepisování. Některé příklady navíc ukázaly, že se v Google Earth dají během chvilky vytvořit scény, které vypadají přesvědčivě, ale ve skutečnosti nikdy neexistovaly.
Co to znamená pro běžné uživatele a ověřování informací
V praxi by taková funkce mohla výrazně zjednodušit tvorbu manipulovaných obrázků. Zatímco dřív bylo třeba použít několik nástrojů a postupů, nově by stačilo pár vět a hotový podvrh by vypadal jako satelitní záběr z reálného místa. To je přesně typ vývoje, který zhoršuje už tak složitý boj s dezinformacemi.
Google sice argumentoval vodoznakem SynthID, který má rozpoznat AI obsah, jenže i ten má své limity. Jakmile se obrázek uloží jako screenshot, přefotí mobilem nebo různě přepošle, ověřování se komplikuje. Navíc samotná existence vodoznaku neřeší hlavní problém: že lidé mohou falešné snímky vůbec vytvořit a šířit dál.
Pro uživatele je to připomínka, že žádný jednotlivý zdroj by neměl stačit k ověření citlivého materiálu. U satelitních snímků, reportáží z míst konfliktů nebo virálních obrázků se vyplatí porovnávat více zdrojů a sledovat časové razítko i kontext. Google sice funkci rychle vypnul a naznačil, že ji může jednou vrátit s přísnějšími omezeními, ale předběžná lekce je jasná: i dobře míněná AI funkce může u mapových podkladů způsobit víc škody než užitku.
Pokud vás téma zajímá víc, přečtěte si také Meta přiznala, že její AI model při testování pronikl do systémů jiné firmy a Poplach v OpenAI. Model Astra zastavili kvůli nebezpečně silným hackerským schopnostem.
Podrobnosti přinesl také Arstechnica.
Chcete k tomu něco dodat? Napište krátce proč.