Что такое мини-ПК для инференса ИИ?
Мини-ПК для инференса ИИ — это компактный компьютер, который выполняет обученные модели машинного обучения для получения прогнозов. Инференс отличается от обучения. Обучение создаёт модель. Инференс использует готовую модель для классификации изображений, обнаружения объектов или анализа данных датчиков. Задачам инференса нужен процессор с достаточным количеством ядер, памяти и накопителя, чтобы запускать модель с требуемой скоростью, при этом в небольшом корпусе, подходящем для периферийных развёртываний.
Основные характеристики
Линейка мини-ПК Thinvent включает два семейства процессоров для задач инференса:
-
ARM Cortex-A55 (Micro 6 Pro): 4 ядра, до 1,9 ГГц, кэш 1 МБ, 4 ГБ встроенной оперативной памяти, 32 ГБ накопителя eMMC, один порт HDMI, Wi-Fi с двумя антеннами и Thinux, встраиваемый Linux. Эта модель подходит для лёгкого инференса, например для запуска небольших нейронных сетей на данных датчиков или камер.
-
Intel Celeron N5095A (Treo): 4 ядра, до 2,9 ГГц, кэш 4 МБ, 16 ГБ оперативной памяти DDR4, SSD на 1 ТБ и адаптер 12 В 5 А. Модели Treo работают под управлением Windows 11 IoT или Windows 11 Pro и не имеют Wi-Fi. Эта модель подходит для задач инференса, которым требуется больше памяти и места для хранения данных.
Сравнение
| Feature | Micro 6 Pro | Treo |
|---|---|---|
| Processor | ARM Cortex-A55, 4 core | Intel Celeron N5095A, 4 core |
| Max frequency | 1.9 GHz | 2.9 GHz |
| Cache | 1 MB | 4 MB |
| Memory | 4 GB onboard RAM | 16 GB DDR4 RAM |
| Storage | 32 GB eMMC | 1 TB SSD |
| WiFi | Dual antenna | Not included |
| Operating system | Thinux embedded Linux | Windows 11 IoT or Pro |
Сценарии использования
Мини-ПК Thinvent подходят для периферийного ИИ на производстве, в розничных магазинах, киосках и цифровой наружной рекламе. Micro 6 Pro подходит для установок с ограниченным пространством, где важна беспроводная связь. Treo подходит для установок, которым нужны больше памяти, больший объём накопителя и среда Windows. Обе модели достаточно компактны, чтобы их можно было установить за дисплеем или на крепление VESA, и обе рассчитаны на непрерывную работу.
Мини-ПК Thinvent для инференса ИИ
Thinvent предлагает Micro 6 Pro с процессором ARM Cortex-A55 и Treo с процессором Intel Celeron N5095A. Обе модели доступны с комплектом клавиатуры и мыши или без него, а Micro 6 Pro также доступен с креплением VESA или кабелем HDMI–VGA.