YouTuber Dave Lee z kanálu Dave2D ukázal, jak nový Mac Studio s čipem M3 Ultra dokáže efektivně provozovat model AI DeepSeek R1, pokud je zařízení vybaveno maximální kapacitou 512 GB paměti. Podle jeho testů je možné spustit verzi modelu s 671 miliardami parametrů přímo na této pracovní stanici, ovšem vyžaduje to značné paměťové prostředky, včetně 404 GB úložiště a manuální alokace 448 GB video RAM pomocí příkazů v terminálu.
Mohlo by vás zajímat
Klíčovým prvkem úspěšného provozu je unifikovaná paměťová architektura čipu M3 Ultra, která umožňuje efektivní zpracování kvantizované 4bitové verze modelu DeepSeek R1. Tato kvantizace sice mírně snižuje přesnost, ale zároveň zachovává všechny parametry a poskytuje výkon přibližně 17–18 tokenů za sekundu, což je pro většinu praktických aplikací dostatečné. Impozantní je také energetická účinnost. Mac Studio zvládá provoz modelu s nižší spotřebou než 200 wattů, což je výrazný kontrast oproti tradičním PC systémům, kde by pro podobný výkon bylo zapotřebí více grafických karet s odběrem až desetinásobného množství energie. Možnost provozovat pokročilé AI modely lokálně přináší významné výhody zejména v oblastech, kde je důležité zabezpečení dat, například ve zdravotnictví nebo firemních aplikacích.
Fotogalerie
Takový výkon však stojí pořádný peníz. Mac Studio s M3 Ultra a 512GB RAM začíná na ceně kolem 10 tisíc dolarů. Plně vybavená konfigurace s 16TB SSD a čipem M3 Ultra s 32jádrovým CPU, 80jádrovým GPU a 32jádrovým Neural Engine vyjde na 14 099 dolarů.Apple uvádí, že M3 Ultra je dosud nejvýkonnější čip v historii Maců, přičemž jeho výkon je dosažen propojením dvou čipů M3 Max prostřednictvím technologie UltraFusion, která zdvojnásobuje jejich specifikace.
