Аналіз можливостей нейронного процесора Apple M4 демонструє значний потенціал, який донедавна був обмежений програмними рамками компанії, що не дозволяли використовувати повний спектр його функцій, зокрема для навчання моделей штучного інтелекту. Розробник Ісмаїл Соджал, проявивши виняткову винахідливість, зумів обійти ці обмеження, застосувавши методи зворотного інжинірингу та розробивши власне програмне забезпечення, яке тепер доступне на платформі GitHub.
Використання прихованих можливостей M4
Інноваційний підхід до взаємодії з нейронним процесором
Програміст Ісмаїл Соджал успішно обійшов стандартні фреймворки Apple, такі як CoreML та Metal, розробивши власний програмний пакет, що використовує мову проміжного рівня (Model Intermediate Language, MIL). Це дозволило йому взаємодіяти безпосередньо з нейронним процесором, оминаючи посередницькі шари, що значно підвищило ефективність. Важливим аспектом його розробки є те, що всі обчислення відбуваються безпосередньо в оперативній пам’яті, без необхідності запису даних на накопичувач, що сприяє кращій швидкості та стабільності роботи системи. Крім того, система має вбудовану здатність до самовідновлення та досягнення контрольних точок, що забезпечує безперервність процесу та тривалу, стабільну роботу.
“Apple приховала 15,8 TFLOPS потужності штучного інтелекту в кожному M4 Mac та iPhone. Вони дозволяють використовувати нейронний рушій лише для логічного висновку. Здійснив зворотну розробку своїх власних API та запустив повне навчання зворотного поширення та трансформації безпосередньо на ANE [Apple Neural Engine], без CoreML, без Metal, без GPU”, – пише Ісмаїл Соджал.
Перспективи для розробників штучного інтелекту
Розширення можливостей локального ШІ
Офіційно Apple Neural Engine (ANE) забезпечує продуктивність до 38 TOPS, але ця потужність була оптимізована переважно для логічного висновку. Експеримент Ісмаїла Соджала є надзвичайно важливим для спільноти розробників ШІ, оскільки він відкриває шлях до більш ефективного використання обладнання Apple. Тепер розробники можуть задіяти ці потужні пристрої для ширшого кола завдань, включаючи навчання моделей, що раніше було неможливим або потребувало значних ресурсів хмарних сервісів. Це, у свою чергу, може призвести до суттєвого зменшення витрат, пов’язаних з використанням хмарних обчислень. Комп’ютери Apple вже користуються популярністю серед розробників, які прагнуть запускати моделі ШІ локально, а нові можливості, які відкриває розробка Соджала, можуть ще більше посилити цю тенденцію та привернути увагу нових користувачів.
Порівняння з іншими підходами
Цікаво зазначити, що розробники по всьому світу активно шукають шляхи для оптимізації роботи зі штучним інтелектом. Наприклад, нещодавно було повідомлено про ентузіаста, який зібрав потужний “суперкомп’ютер” для запуску великих мовних моделей (LLM) з вражаючими 1 трильйоном параметрів, використовуючи відносно недорогі компоненти. Такі приклади підкреслюють зростаючий інтерес до локальних рішень для ШІ та прагнення до зменшення залежності від централізованих хмарних інфраструктур.
