Ollama pro Macy s Apple Silicon nově zvládá lokální převod textu na řeč. Modely Phonon mluví průběžně, bez odesílání obsahu na vzdálené servery, češtinu však zatím nepodporují.
Ollama pro Mac nově umí převádět text na mluvené slovo přímo v počítači, a to díky modelům Phonon od společnosti Gradium. Jde o první podporu syntézy řeči v této aplikaci. Pro uživatele je podstatné hlavně to, že hlas může vznikat bez internetového připojení a bez nutnosti posílat zpracovávaný text do cloudu.
Aktuální cenu produktu Mac Mini M4 2024 najdete na Alze.
Phonon mluví průběžně a využívá výkon Apple Silicon
Ollama je nástroj pro stahování a lokální provoz otevřených AI modelů. Vedle modelů dostupných přes cloud tak umožňuje spouštět kompatibilní modely přímo na Macu. Na macOS k tomu využívá framework MLX, který je navržený pro architekturu Apple Silicon a její sdílenou paměť. Právě ta dovoluje efektivněji pracovat s AI úlohami přímo na počítači.
Nově podporovaná rodina Phonon přináší do Ollama syntézu řeči v reálném čase. Místo čekání na dokončení celého zvukového souboru lze poslouchat odpověď už ve chvíli, kdy ji model vytváří. To je praktické například pro hlasové čtení delších textů, prototypování vlastního hlasového rozhraní nebo aplikace, které mají na odpověď reagovat co nejrychleji.
V testu na MacBooku Pro s čipem M5 Max dosáhla implementace s MLX o 35 % rychlejšího generování řeči než vlastní řešení Gradium. Ollama zároveň uvádí shodnou chybovost slov oproti referenční implementaci v Hugging Face Transformers. Jde o konkrétní ukázku, proč se pro lokální AI úlohy na Macu neřeší jen výkon čipu, ale i to, jak dobře je model přizpůsobený systému.
Pro koho je novinka užitečná a kde jsou její limity
Phonon v současnosti nabízí samostatné modely pro angličtinu, francouzštinu, němčinu, španělštinu a portugalštinu. K dispozici je také vícejazyčná varianta pro všech pět jazyků. U vybraných modelů lze vybírat z různých hlasů a přízvuků, včetně americké a britské angličtiny. Čeština mezi podporovanými jazyky zatím není, takže pro přirozené české předčítání tato novinka v aktuální podobě řešením není.
V praxi mohou z nové funkce nejvíc vytěžit vývojáři, tvůrci nástrojů pro práci s anglickým či německým obsahem a lidé, kteří nechtějí citlivý text odevzdávat externí službě. Lokální provoz přináší více soukromí a funguje i offline, zároveň ale klade nároky na hardware. Rychlost i velikost použitelných modelů se budou výrazně lišit podle konkrétní konfigurace Macu.
Hlasové modely jsou nyní dostupné pro Macy s Apple Silicon v Ollama 0.40.11 a novější. Podpora pro Windows a Linux má následovat později. Ve srovnání s běžnými online generátory řeči není hlavní výhodou nejširší nabídka jazyků, ale kontrola nad tím, kde data zůstávají. Pro majitele Macu, kteří už Ollama používají pro lokální AI, je tak převod textu na řeč logickým rozšířením možností.
Pokud vás téma zajímá víc, přečtěte si také Top 5 VPS Providers for Self-Hosting Ollama AI Models.
Podrobnosti přinesl také 9to5mac.



Chcete k tomu něco dodat? Napište krátce proč.