Intel опубликовала в открытом доступе библиотеки для работы с NPU компании
Компания Intel опубликовала в открытом доступе новые библиотеки, которые позволят разработчикам использовать встроенные в новые процессоры Intel NPU для аппаратного ускорения работы софта с машинным обучением. Также Intel открыла исходных код всех этих библиотек для желающих что-либо улучшить.
Разработчик Тони Монгколсмай уже запустил на NPU в новом ноутбуке MSI Prestige 16 AI языковую модель, которая полноценно работала без доступа к интернету и использовала именно выделенное «железо» NPU.
Больше подробностей об опубликованных библиотеках вы можете найти на Github.