Zavřít reklamu

Zatímco většina generativních AI modelů dnes potřebuje poměrně výkonný hardware, vývojář Andrew Rossignol dokázal na první pohled nemožné. Rozběhl model umělé inteligence na notebooku Apple PowerBook G4 z roku 2005. Konkrétně šlo o zařízení s jednojádrovým 1,5GHz procesorem PowerPC G4 a pouhým 1 GB RAM. Rossignol portoval open-source projekt llama2.c, který umožňuje provozování jazykového modelu Llama 2 od společnosti Meta, a optimalizoval ho pro tehdejší architekturu PowerPC pomocí technologie AltiVec, tedy vektorového rozšíření, jež urychluje výpočty na starším hardwaru.

Reklama

Ačkoliv rychlost generování odpovědí pochopitelně není srovnatelná se současnými zařízeními, výsledek dokazuje, jak daleko lze zajít s dobře napsaným kódem, optimalizacemi a trochou nadšení pro starší techniku. Rossignol podrobně popsal celý proces na svém blogu, kde vysvětluje použité metody a výzvy, které musel překonat. Podobné experimenty jsme už mohli vidět například s PlayStation 3, Xboxem 360 nebo dalšími zařízeními. Ovšem běh jazykového modelu na 20 let starém PowerBooku je skutečně zajímavý počin. A také ukazuje, že umělá inteligence nemusí být vždy jen doménou nejmodernějších strojů. Tedy pokud víte, co dělaáte

Diskuze k článku

Vložte vlastní komentář

celý text

Související články

Dnes nejčtenější

.