Možná nejzajímavější novinkou, kterou Apple oznámil minulé pondělí na úvodní Keynote WWDC, je jeho zbrusu nový AI systém nesoucí název Apple Intelligence, jehož schopnosti by měly být velmi pokročilé. Daní za to je však to, že pro jeho provoz na iPhonu budou jablíčkáři potřebovat model 15 Pro (Max), potažmo novější, jakmile je Apple představí. A právě omezenost jen na nejnovější a nejdražší iPhony současnosti vyvolala mezi jablíčkáři otázky, proč tomu tak vlastně je, popřípadě zda se ze strany Applu nejedná jen o prodejní strategii.
Fotogalerie
Právě na toto téma se nyní jeho přední představitelé rozpovídali v Talk Show Live From WWDC 2024, které moderoval reportér John Gruber z Daring Fireball. Z Applu se pak této akce zúčastnili šéf AI/strojového účení John Giannandrea, šéf marketingu Applu Greg Joswiak a šéf softwarového inženýrství Craig Federighi. A John tyto muže vůbec nešetřil a hned ze začátku jim položil otázku, jak to vlastně s Apple Intelligence na iPhonech je a proč není dostupná na starších modelech.
Na to Giannandrea odpověděl: „Když tyto modely spouštíte za běhu, říká se tomu inference a inference velkých jazykových modelů je neuvěřitelně výpočetně náročná. A tak je to kombinace šířky pásma v zařízení, je to velikost Apple Neural Engine, je to síla zařízení, aby tyto modely byly skutečně dostatečně rychlé, aby byly užitečné. Teoreticky byste mohli tyto modely spustit na velmi starém zařízení, ale bylo by to tak pomalé, že by to nebylo užitečné.“ John Gruber se ho na to konto dotázal: „Takže to není plán, jak prodat nové iPhony?“, což rázně odmítl Joswiak slovy: „Vůbec ne. Kdyby tomu tak bylo, udělali bychom Apple Intelligence exkluzivní i pro naše nejnovější iPady a Macy, ne?“
Oba muže poté doplnil i Craig Federighi poměrně zajímavým „rozkrytím karet Applu“. Řekl totiž, že prvním krokem Applu při realizaci jakékoliv nové funkce je snaha přijít na to, jak ji dostat na co nejvíce starších iPhonů a kalifornský gigant se o to logicky snažil i u Apple Intelligence. Vzhledem k náročnosti na výkon však zde zkrátka nebyla jiná možnost než novinku omezit jen na řadu Pro. „Jen iPhony 15 Pro mají hardware, který je potřeba. Popravdě, je docela nevídané provozovat takto silné AI modely na iPhonu,“ řekl Craig.
Fotogalerie
Svým způsobem se jeho slovům nezle divit. Vždyť iPhone 15 Pro s čipem A17 Pro má 16jádrový Neural Engine, který je 2x rychlejší než ten nacházející se v čipu A16 z iPhonů 15 a 15 Plus. Dalším z důležitých aspektů je RAM paměť, která je u Pro modelů o 2GB vyšší než tomu je v případě iPhonů 15 (Plus). Mimochodem, minimálně 8GB RAM paměti je dle všeho i základním požadavkem pro provoz Apple Intelligence, protože veškeré kompatibilní Apple produkty s touto novinkou právě takto velkou RAM pamětí disponují.
Blbost. Tomu může věřit jen největší naivka. Apple byl vždy znám tím, že nemusí mít toliko pamětí RAM jako droid, protože má perfektně odladěné aplikace. Tímto by si trošku protiřečil. Pravda je v trhu. Málo sa prodává, tak se to musí nějak popohnat. Nebo to snad na obyčejné 16ce půjde? Toť otázka. To by pak znamenalo, že ten nový iPhone je horší než ten starý.
Apple vůbec nepočítal, že bude AI nasazvat letos. Proto nepřipravil HW. To až Google a Samsung probudili spící jabko, věř tomu. Oni museli při představení Galaxy S24 aPixelu čumět s otevřenou pusou a nasucho polykat 😆.
ved uz m chipy maju procesy na spracovanie AI, o com to hovoris. myslis, ze by zanedbali i15 pro?
Veď Samsung predstavil on-device funkcie iba tvorbu obrázkov, zmenu tónu textu a gramatiku. Ostatok je všetko spracovávané na serveroch Samsungu. Tak to majú aj na webe. Samsung deklaroval, že Galaxy AI bude na Samsung zariadeniach zadarmo do roku 2025.
A ešte na iPhone je NPU už niekoľko rokov, takže nepripravili hardware je nezmysel. Niektoré funkcie, ktoré sa dnes nazývajú AI sú v iOS implementované od iOS 15 cez CoreML. Na tvorbu obrázkov so Stable Diffusion existuje na iOS/iPadOS/macOS free appka Draw Things a podporuje všetko, čo aj A1111 a funguje na Apple CoreML API.
Jo měl, ale na blbosti.
Tak zrovna tohle je úplně mimo, sorry. Napsat efektivní kód, zkomplikovat efektivní kód, mít dobrý memory management, efektivní knihovny, sdílenou paměť a já nevím co všechno je něco úplně jiného, než velké LLM – to je prostě o datech (počet parametrů) t.j. paměti a výpočetním výkonu. Proč si myslíš, že nastal takový boom neuronek (nejprve ve zpracování obrazu, teď i v podobě velkých jazykových modelů)? Je to právě výpočetní hardware, který to konečně umožnil. Teorie je celkem stará.
Velké LLM mají stovky miliard až biliony parametrů, takže vysoké GB až TB a to prostě „neokecáš“ žádným „apple nepotřebuje tolik paměti“ :-) Pochopitelně nemusí být celý velký model přímo v zařízení, ale popravdě mě překvapuje i to, že by jim rozumně velký model běhal na 8GB, pokud to je tak, je už toto samotné celkem master piece…
Neberu ti tvůj názor. Ale Apple drží podporu 5 let. Dovedeš si představit, že by víc jak polovina nových věcí z aktualizovaného iOS nefungovala na rok starém iPhone? Stalo by se to, že by je nikdo nekupoval. Proto se to dělá tak, aby to fungovalo. Nemyslím si, že by ta „apple inteligence“ byla tak něco extra, že by to nezvládlo víc zařízení.
Ja myslím Pavle že tady máš skvělou příležitost zapojit se do Apple developer teamu a přinést Apple Intelligence na starší zařízení. Držím Ti v tom palce a když už tam budeš tak popožeň českou Siri please.
Co je to za blbost, M3 Pro má taky pouze 18 TOPS (skoro jako A16 – 17 TOPS) a nový A17 Pro má dvojnásobek 35 TOPS.
Takže touto logikou a pokud je to pravda, tak by AI od Apple nešla na novém MacBooku Pro s M3 PRO čipem!? Což se mi tedy nezdá, leda, že by udělal 2 verze AI, jednu pro desktop, druhou pro mobil, což je asi blbost. Takže si myslím, že nás Apple opět jen tahá za nos.
ps: Docela to nase**, když jste si koupili letos (jako já, na začátku roku) MBP s M3 PRO za cca 75K a toto zjistíte….
Všetky tie TOPS sú marketing.
Apple A17 Pro má 35 TOPS na INT8.
Apple A16 Bionic má 17 TOPS na FP16/BP16.
Apple M3 Pro má 18 TOPS na FP16/BP16.
Snapdragon Elite X má 45 TOPS, ale na INT4, čo je zase rozdiel oproti INT8 a obrovský rozdiel oproti FP16.
A17 Pro je v CoreML výkonnejší o 9,1% oproti A16 Bionic. To hovorí za všetko.