Nové zjištění ukazuje nepříjemný problém App Storu: vyhledávání a reklamní pozice měly uživatele směrovat k nudify aplikacím. Apple po upozornění většinu z nich stáhl.
App Store se dostal pod palbu kvůli tomu, že jeho vlastní vyhledávání a reklamy měly uživatele navádět k nudify aplikacím. Pro majitele iPhonu je to důležité hlavně proto, že nejde jen o problém obsahu, ale i o důvěru v to, co Apple ve svém obchodu vůbec pustí na oči běžnému uživateli.
Vyhledávání i reklamy prý pomáhaly aplikace najít
Nová analýza tvrdí, že při hledání výrazů jako „nudify“, „undress“ nebo „deepnude“ App Store zobrazoval aplikace, které dokázaly vytvářet deepfake nahé nebo polonahé snímky žen. Podle zjištění se problém netýkal jen samotných výsledků, ale i doporučení ve vyhledávání a sponzorovaných pozic.
To je zásadní rozdíl oproti situaci, kdy by si podobnou aplikaci musel uživatel aktivně dohledávat mimo oficiální obchod. Tady se totiž problém dostává přímo do prostředí, které má Apple budovat jako bezpečné a kontrolované. A právě to je na celé věci nejcitlivější.
Vyšetřování také popisuje, že některé z aplikací se objevovaly vysoko ve výsledcích i pod zdánlivě nevinnějšími dotazy. V jednom případě měl App Store nabídnout reklamní výsledek už při hledání pojmu souvisejícího s deepfake obsahem, jindy zase autocomplete navrhoval frázi, která vedla k dalším aplikacím s podobným účelem.
Co to znamená pro uživatele i pro Apple
V praxi to znamená hlavně to, že i běžné vyhledávání v App Storu může člověka snadno zavést k aplikaci, kterou původně vůbec nehledal. Pokud navíc aplikace pracují s generováním explicitního obsahu nebo face swapem bez výrazných omezení, problém není jen morální, ale i bezpečnostní a reputační.
Pro Apple je to nepříjemné také proto, že firma dlouhodobě staví App Store jako přísně kontrolovaný ekosystém. Když se pak ukáže, že sám obchod pomáhá podobné aplikace objevovat, působí to jako selhání ve dvou vrstvách najednou: v moderaci obsahu i v nastavení doporučovacích systémů. To je přesně typ kauzy, který může vyvolat tlak na další zpřísnění pravidel.
Dobrou zprávou je, že Apple po upozornění většinu z identifikovaných aplikací z obchodu odstranil. To ale neřeší otázku, jak rychle se podobný obsah může do App Storu dostat znovu, nebo zda algoritmy vyhledávání nepomohou k jeho návratu jinou cestou. Pro uživatele je proto stále důležité kontrolovat, co instalují, a nedůvěřovat prvním výsledkům jen proto, že jsou v App Storu.
Pokud vás téma zajímá víc, přečtěte si také Skládací iPhone ještě nemá jméno. Apple řeší, jestli Fold, Ultra nebo Duo a iPhone Ultra má být první skládací iPhone. Chystá se šest zásadních změn.
Podrobnosti přinesl také 9to5mac.
