Sanfranciský městský právník vyzval Apple i Google, aby stáhly 13 aplikací s nástroji pro „rozpáčení“ fotek do explicitních deepfake snímků. Tlak míří i na jejich výdělek z plateb v aplikacích.
Apple i Google řeší nový právní tlak kvůli aplikacím, které z běžných fotek dokážou vytvářet nevyžádané nahé snímky. Sanfranciský městský právník je vyzval, aby z App Storu i Google Play odstranily 13 takzvaných nudify aplikací a přerušily spolupráci s jejich vývojáři.
Úřad požaduje stažení i ukončení výdělků
Podle výzvy nejde jen o samotné odstranění aplikací. Úřad chce také, aby obě firmy přestaly inkasovat podíl z nákupů uvnitř aplikací, protože podle něj tím fakticky pomáhají prodávat explicitní deepfake obsah. Zacíleno je na osm aplikací v App Storu a pět v Google Play, které se tváří jako běžné nástroje pro výměnu obličejů, ale v praxi slouží k „svlékání“ skutečných lidí na fotografiích.
To je zásadní rozdíl oproti běžným editorům fotek. U takových nástrojů nejde o zábavný filtr nebo úpravu pro sociální sítě, ale o funkci, která může velmi snadno zasáhnout soukromí konkrétního člověka. Právě proto úřad mluví o jednání, které je podle něj nezákonné, škodlivé a nepřijatelné.
Apple i Google přitom podobné aplikace neřeší poprvé. Obě platformy mají pravidla proti pornografii a v minulosti už odstranily celé skupiny podobných nástrojů poté, co na ně upozornili výzkumníci nebo média. V tomto případě navíc nejde o okrajový problém pár jednorázových aplikací, ale o opakovaný střet mezi kontrolou obchodu s aplikacemi a rychlostí, s jakou se podobný obsah dokáže vracet pod novými názvy.
Co to znamená pro uživatele i pro Apple
Pro běžné uživatele je důležité hlavně to, že Apple může v podobných případech zpřísňovat dohled nad aplikacemi v App Storu. Pokud se výzva promítne do dalšího čištění katalogu, některé aplikace mohou zmizet rychleji než dřív a vývojáři budou pod větším tlakem, aby nespoléhali na šedé zóny pravidel.
Google už uvedl, že kvůli porušení pravidel smazal stovky aplikací s funkcemi pro nudify obsah, včetně pěti jmenovaných v dopise. To ukazuje, že problém není jen na jedné platformě. Pro uživatele i rodiče je ale podstatné něco jiného: obchody s aplikacemi zůstávají první linií obrany proti nástrojům, které mohou zneužít jakoukoli obyčejnou fotografii.
Apple navíc v červnu zpřesnil znění pravidel App Storu ohledně odpovědnosti vývojářů za pornografický obsah. V praxi to znamená, že firma má o něco pevnější argument pro rychlejší zásahy proti aplikacím, které se tváří neškodně, ale končí u vytváření explicitních obrázků bez souhlasu. Pro platformu je to citlivé téma i reputačně, protože podobné aplikace podkopávají důvěru v celý ekosystém a ukazují, jak snadno lze technologii zneužít proti uživateli.
Pokud vás téma zajímá víc, přečtěte si také Epic chce, aby spor o provize z App Store pokračoval hned, Apple žádá o pauzu a Apple chce zmrazit válku s Epic Games. Do hry vstupuje Nejvyšší soud.
Podrobnosti přinesl také Macrumors.
Chcete k tomu něco dodat? Napište krátce proč.