Apple měl podle nové zprávy pohrozit stažením Groku z App Storu kvůli sexualizovaným deepfake obrázkům. Pro uživatele to ukazuje, že i velké AI aplikace musí v App Storu splnit přísná pravidla.
Grok se podle nové zprávy dostal s Applem do přímého střetu kvůli sexualizovaným deepfake obrázkům a Apple měl vývojářům pohrozit, že aplikaci z App Storu odstraní. Pro uživatele je to důležitý signál: i velká AI chatovací služba narazí, když nedokáže uhlídat generovaný obsah.
Apple zasáhl kvůli obsahu, který Grok nezvládl filtrovat
Podle informací z dopisu, který Apple poslal americkým senátorům, společnost na jaře řešila vlnu stížností na to, že Grok ochotně generuje sexualizované úpravy fotografií. Problém byl o to citlivější, že se to týkalo i snímků žen a v některých případech dokonce nezletilých.
Apple měl po nahlášení a mediální pozornosti vyhodnotit, že X i Grok porušují pravidla App Storu. Následovala neveřejná komunikace s vývojáři a požadavek, aby připravili plán na lepší moderaci obsahu. První úpravy podle zprávy nestačily, takže Apple jednu z verzí Groku rovnou zamítl.
To je pro Apple typický postup: nejdřív tlak na nápravu, až pak hrozba odstraněním. V praxi to znamená, že i když aplikace přichází s velkými ambicemi v oblasti umělé inteligence, pořád musí fungovat v mantinelech, které chrání uživatele i pověst samotného App Storu.
Co to znamená pro uživatele Groku a pro další AI aplikace
Po dalším kole změn Apple nakonec novou verzi Groku schválil, ale podle čerstvé zprávy problém zcela nezmizel. NBC News uvádí, že Grok stále dokáže vytvářet sexualizované obrázky bez souhlasu zobrazených osob, i když se počet podobných výstupů proti začátku roku snížil.
To je zásadní i pro běžné uživatele: omezení se nemusí projevit jen v nabídce aplikace, ale hlavně v tom, jak spolehlivě dokáže zastavit zneužití fotek. Pokud filtr selže, dopad je okamžitý — od nevhodných úprav až po riziko, že se nástroj použije k obtěžování nebo veřejnému zesměšnění lidí.
Celá kauza zároveň ukazuje, že Apple začne být u generativních AI aplikací tvrdší. Zatímco dřív se podobné systémy často schovávaly za rychlý růst a experimentování, dnes je zjevné, že bez lepší moderace a jasných pravidel se do App Storu dlouhodobě neudrží. Pro vývojáře je to varování, pro uživatele zase připomínka, že u AI nejde jen o výkon, ale i o bezpečnost.
Pokud vás téma zajímá víc, přečtěte si také Apple si z AI aplikací ukousl téměř miliardu dolarů.
Podrobnosti přinesl také 9to5mac.
Chcete k tomu něco dodat? Napište krátce proč.