Apple odstranil z App Storu aplikaci Kromix poté, co se objevila v problematických reklamách na Metě. Kauza znovu ukazuje, jak snadno mohou AI nástroje mířit k deepfake obsahu.
Apple stáhl aplikaci Kromix z App Storu poté, co se objevila ve sporných reklamách na Metě a podle popisu nabízela vytváření pornografických AI deepfaků. Pro uživatele je to další připomínka, že i po schválení může aplikace narazit na zásah Applu, pokud překročí pravidla.
Pokud vás zaujal AlzaPower Car Charger P530, aktuální cenu a dostupnost najdete na Alze.
Co Kromix sliboval a proč zasáhl i Apple
Podle dostupných informací se Kromix prezentoval jako „AI image styler“, ale v reklamách i ve způsobu propagace šel mnohem dál. Zmiňoval práci bez omezení, tvrdil, že „všechny postavy jsou skuteční lidé“, a lákal na úpravy obrazů, které končily v pornografickém deepfake obsahu.
Právě tady přichází důležitý detail: Apple tvrdí, že aplikace se po schválení v App Storu mohla změnit a přidat zakázané funkce i obsah. To je přesně typ situace, kdy se ukazuje limit jednorázové kontroly při vydání aplikace. Ať už se změna odehrála jakkoli, výsledek je stejný — aplikace porušující pravidla Apple z platformy mizí.
Apple zároveň zopakoval, že aplikace určené k vytváření nebo šíření pornografie zakazuje a že aktivně vyhledává i odstraňuje ty, které se snaží jeho procesy obcházet. V praxi to znamená, že podobné nástroje mohou být z App Storu rychle pryč, i když se nejdřív objeví bez viditelných problémů.
Co to znamená pro uživatele i vývojáře
Pro běžné uživatele je hlavní zpráva jednoduchá: ne každá aplikace, která se na iPhonu objeví, zůstane dostupná natrvalo. Pokud vývojář po schválení změní funkce nebo začne aplikaci používat k rizikovému obsahu, Apple může zasáhnout zpětně. U podobných AI nástrojů je proto dobré být opatrný už při instalaci.
Zajímavý je i širší kontext. Kromix nebyl jediný případ, který Apple v poslední době řešil až po upozornění médií. Ve stejné linii skončila i aplikace MaskAI, která umožňovala nahrávat fotky a přes face-swap dostávat lidi do sexuálních situací. To ukazuje, že problém není jen v jedné aplikaci, ale v celé kategorii nástrojů, které zneužívají generativní AI k ponižujícímu nebo nelegitimnímu obsahu.
Pro vývojáře je tahle kauza varováním, že samotné schválení v App Storu není konečná. Apple hlídá nejen první verzi aplikace, ale i to, co se z ní může stát po aktualizacích nebo po změnách na straně serveru. A pro uživatele z toho plyne praktická rada: u AI aplikací si hlídat reputaci vývojáře, recenze i to, zda nástroj neslibuje funkce, které jdou proti základním pravidlům App Storu.
Pokud vás téma zajímá víc, přečtěte si také AI aplikace „svlékají“ lidi z fotek. Apple a Google čelí tlaku na okamžité stažení a App Store má problém: hledání i reklamy prý vedly k nudify aplikacím!.
Podrobnosti přinesl také 9to5mac.
Chcete k tomu něco dodat? Napište krátce proč.