На 20-летнем ноутбуке Apple смогли запустить новейший ИИ

Несмотря на высокие требования к ресурсам компьютера для моделей искусственного интеллекта, инженер-программист Эндрю Россиньол (Andrew Rossignol) смог запустить современную генеративную нейросеть на 20-летнем ноутбуке Apple PowerBook G4. Об этом сообщило издание MacRumors.
Фото Andrew Rossignol
Модель PowerBook G4, выпущенная в 2005 году, оснащена процессором PowerPC G4 с тактовой частотой всего 1,5 ГГц и 1 ГБ оперативной памяти. Несмотря на столь скромные по современным меркам характеристики, Эндрю Россиньолу удалось запустить на этом раритетном ноутбуке вывод (инференс) модели Llama 2 от Meta.
Для эксперимента инженер портировал проект с открытым исходным кодом llama2.c и затем значительно ускорил работу, используя векторное расширение PowerPC под названием AltiVec.
Это не первый случай, когда энтузиастам удается запустить генеративные модели ИИ на устаревшем оборудовании, уже появлялись сообщения об аналогичных экспериментах, например с PlayStation 3 и Xbox 360, отмечает издание.