V USA vzniká návrh zákona, který má zakázat prodej zdravotních dat nasbíraných v AI chatech. Týká se to citlivých dotazů, které lidé posílají chatbotům i při hledání rady.
ChatGPT, Claude nebo Grok lidé často používají i na citlivé otázky, včetně těch zdravotních. Právě tam ale vzniká problém, který je pro uživatele mnohem větší než nepřesná odpověď: jejich data mohou skončit u dalších firem. Nový návrh v americkém Kongresu má tento obchod s informacemi o zdraví výrazně omezit.
Nový návrh míří na zdravotní data z AI chatů
Dvojice amerických zákonodárců chce rozšířit stávající zákon o ochraně zdravotních a lokalizačních dat tak, aby se výslovně vztahoval i na informace zadané do AI systémů. V praxi by to znamenalo, že údaje sdělené chatbotovi by neměly být volně prodávány datovým brokerům ani dál využívány způsobem, který uživatel nečeká.
Jde o reakci na velmi rychlý nástup generativní AI. Některé služby totiž uživatele přímo vybízejí, aby jim nahrávali lékařské záznamy, výsledky vyšetření nebo jiné citlivé informace. To může být užitečné, pokud si člověk nechá vysvětlit lékařskou zprávu, ale zároveň tím otevírá dveře k nakládání s daty, které je u zdravotních informací obzvlášť problematické.
Problém není jen v tom, co chatbot s daty udělá dnes, ale také v tom, co umožňují jeho podmínky do budoucna. Pokud služba připouští využití konverzací pro trénování modelů nebo pro další obchodní účely, uživatel často netuší, jak daleko se jeho citlivé údaje mohou dostat. U zdravotních informací je přitom hranice soukromí mnohem přísnější než u běžných dotazů.
Pro uživatele je to hlavně varování před slepou důvěrou
Navrhovaný zákon je dobrá zpráva pro ochranu soukromí, ale zároveň připomíná, že chatbot není bezpečná náhrada lékaře. U generativní AI navíc pořád platí problém nepřesností, takže špatná rada může být nejen soukromý průšvih, ale i zdravotní riziko. Pokud někdo řeší příznaky nebo výsledky testů, má být první volbou odborník, ne konverzace s modelem.
Zajímavé je i to, jak rozdílně k citlivým datům přistupují jednotlivé firmy. Apple například dlouhodobě staví svůj marketing na ochraně soukromí a některé jeho integrační scénáře s AI fungují pod výrazně přísnějšími pravidly. V případě předání dotazu do ChatGPT nebo využití modelů Google Gemini při práci se Siri mají platit přísná omezení sběru dat, což je přesně ten typ přístupu, který dnes uživatelé chtějí vidět častěji.
Pokud návrh projde, bude to spíš dílčí posun než hotové řešení. Americké regulace zatím za vývojem AI spíš dobíhají, ale i tak jde o důležitý signál: zdravotní data nejsou obyčejný obsah do tréninku ani komodita k prodeji. Pro běžného uživatele z toho plyne jednoduché pravidlo: do AI zadávat jen to, co byste byli ochotni pustit dál z vlastního telefonu i internetu.
Pokud vás téma zajímá víc, přečtěte si také Apple Watch dostanou lepší měření tepu, AI zdravotní kouč se opozdí a AirPods a zdraví sluchu mají větší význam, než se čekalo. Apple ukázal nová data.
Podrobnosti přinesl také 9to5mac.
Chcete k tomu něco dodat? Napište krátce proč.