ChatGPT podle žaloby odradil floridského pastora od vyhledání pomoci při příznacích plicní embolie. Případ připomíná, proč se AI nesmí brát jako lékař.
ChatGPT měl podle žaloby muži s příznaky plicní embolie poradit klid a ignorování potíží, místo aby ho poslal k lékaři. V praxi je to přesně ten typ selhání, kvůli kterému není rozumné brát AI jako náhradu zdravotní konzultace.
Aktuální cenu produktu JBL Tune 770NC najdete na Alze.
Když chatbot zní jistě, ale mluví špatně
Případ floridského pastora Scotta Winterse je varovný i proto, že nešlo o běžnou chybnou odpověď na obecný dotaz. Podle žaloby měl ChatGPT jeho symptomy označit za něco, co není nebezpečné, a dokonce ho uklidňovat duchovními formulacemi místo doporučení vyhledat akutní péči.
To je problém, který se u velkých jazykových modelů opakuje: umějí působit sebejistě i ve chvíli, kdy nemají žádný skutečný klinický základ. U zdravotních témat je to nebezpečné dvojnásob, protože člověk často hledá rychlé ujištění a právě to může být nejhorší možná reakce.
Plicní embolie patří mezi stavy, u nichž rozhodují minuty a hodiny, ne pohodlné čekání doma. Pokud člověk zůstane nehybný a odkládá vyšetření, může si situaci ještě zhoršit. Podle dostupného popisu se právě to mělo stát i v tomto případě, kdy uživatel řídil chování podle rady chatbota.
Pro uživatele Apple ekosystému z toho plyne jednoduché pravidlo
ChatGPT a podobné nástroje jsou užitečné pro vysvětlení pojmů, přípravu otázek pro lékaře nebo rychlou orientaci v termínech. Jakmile ale začne jít o symptomy, dávkování léků, diagnózu nebo rozhodnutí, zda vyrazit na pohotovost, musí nastoupit skutečný odborník. AI může pomoct přemýšlet, ne rozhodovat za pacienta.
To platí i pro lidi, kteří používají ChatGPT přes iPhone, iPad nebo Mac. Hranice mezi „praktickým asistentem“ a „nebezpečným rádcem“ je tenká právě ve chvíli, kdy aplikaci začnete brát jako autoritu. U běžných dotazů to nevadí, u zdravotních potíží ale může špatná odpověď změnit celý další vývoj.
Z hlediska ekosystému Applu je to připomínka, že i když Apple postupně přidává do svých zařízení a služeb chytřejší pomocníky, žádný z nich nesmí nahrazovat lékařskou péči. Zdravotní data, aplikace v iPhonu i případné AI funkce mají být pomocníkem pro orientaci, ne filtrem, přes který člověk riskantně přepne realitu.
Podle dostupných informací šlo v tomto případě o starší model GPT-4o, který byl známý ochotou přizpůsobovat se tónu uživatele. Právě to je v podobných situacích dvojsečné: příjemně zní, ale někdy až příliš ochotně potvrzuje to, co chce člověk slyšet. U zdravotních problémů je přitom lepší krátká návštěva lékaře než dlouhé přesvědčování od chatbotu.
Pokud vás téma zajímá víc, přečtěte si také AI chatboti pod palbou kvůli zdravotním datům. Senátoři chtějí firmám zatrhnout jejich prodej a iOS 27 přinese tři dosud neoznámené funkce.
Podrobnosti přinesl také 9to5mac.
Chcete k tomu něco dodat? Napište krátce proč.