OpenAI testuje nový režim Ultrafast pro GPT-5.6 Sol, který má zkrátit odezvu až na zlomek běžného času. Změna míří hlavně na firemní nástroje, kde rozhoduje rychlost i kvalita odpovědí.
GPT-5.6 Sol dostává nový režim Ultrafast, který má v API zkrátit dobu zpracování až na čtrnáctinu oproti běžnému provozu. Pro vývojáře to znamená jediné: model už nemá být jen chytrý, ale i dostatečně rychlý pro úlohy, kde je každá sekunda znát.
Aktuální cenu produktu JBL Tune 770NC najdete na Alze.
Ultrafast cílí na reálné nasazení, ne jen na benchmarky
OpenAI novinku staví na infrastruktuře Cerebras a první přístup nabízí přes API. Podle firmy dokáže režim generovat až 750 výstupních tokenů za sekundu, což je tempo, které může zásadně změnit chování aplikací pracujících v reálném čase.
To je důležité hlavně u hlasových agentů, zákaznické podpory, obchodních nástrojů nebo bezpečnostních systémů. V těchto scénářích už nerozhoduje jen přesnost odpovědi, ale i to, jestli reakce přijde hned. Jakmile je model pomalý, uživatelský zážitek se rozpadá, i když výsledná odpověď sama o sobě stojí za to.
GPT-5.6 Sol přitom není žádná novinka v pravém slova smyslu. OpenAI ho představilo už v červnu vedle vyváženého modelu Terra a rychlejší varianty Luna. V červenci se rodina modelů rozšířila do ChatGPT, Codexu i API, takže Ultrafast je spíš další vrstva nad už dostupným základem než samostatný model.
Pro firmy může být rychlost stejně důležitá jako kvalita
OpenAI tvrdí, že vlastní vývojáři už Ultrafast využili třeba při analýze logů a trace dat během incidentů. Stejně tak jim pomohl zkrátit výzkumné cykly, které dřív běžely přes noc, na několik iterací během jednoho pracovního dne. Právě tady je vidět, proč se o podobné zrychlení firmy zajímají.
V praxi jde o rozdíl mezi nástrojem, který odpovídá „dost rychle“, a systémem, který se dá opravdu zapojit do živého provozu. Pro české firmy a vývojáře je to zajímavé i proto, že rychlejší modely mohou snížit čekání v interních aplikacích, zlepšit podporu zákazníků a zkrátit dobu mezi zadáním úkolu a výsledkem.
Aktuálně ale zůstává přístup omezený jen pro vybrané zákazníky. OpenAI si chce nejdřív ověřit, jak vyšší rychlost mění skutečné produkty a jestli je možné navýšit kapacitu bez kompromisů. Firmy, které mají o režim zájem, se mohou hlásit do čekacího seznamu a dodat podrobnosti o svém vytížení i požadavcích na odezvu.
Podrobnosti přinesl také 9to5mac.
Chcete k tomu něco dodat? Napište krátce proč.