Was ist ein Mini-PC für KI-Inferenz?
Ein Mini-PC für KI-Inferenz ist ein kompakter Computer, der trainierte Modelle für maschinelles Lernen ausführt, um Vorhersagen zu erzeugen. Inferenz unterscheidet sich vom Training. Beim Training entsteht das Modell. Bei der Inferenz wird das fertige Modell genutzt, um Bilder zu klassifizieren, Objekte zu erkennen oder Sensordaten zu analysieren. Inferenz-Workloads benötigen einen Prozessor mit ausreichend Kernen, Speicher und Massenspeicher, um das Modell mit der geforderten Geschwindigkeit auszuführen, und das in einer kleinen Bauform, die für Edge-Installationen geeignet ist.
Wichtige Spezifikationen
Die Mini-PC-Reihe von Thinvent umfasst zwei Prozessorfamilien für Inferenzaufgaben:
-
ARM Cortex-A55 (Micro 6 Pro): 4 Kerne, bis zu 1,9 GHz, 1 MB Cache, 4 GB integrierter RAM, 32 GB eMMC-Speicher, ein HDMI-Anschluss, WLAN mit zwei Antennen und Thinux, ein eingebettetes Linux. Dieses Modell eignet sich für leichte Inferenz, etwa das Ausführen kleiner neuronaler Netze auf Sensor- oder Kameradaten.
-
Intel Celeron N5095A (Treo): 4 Kerne, bis zu 2,9 GHz, 4 MB Cache, 16 GB DDR4-RAM, 1 TB SSD und ein 12-V-5-A-Netzteil. Die Treo-Modelle laufen mit Windows 11 IoT oder Windows 11 Pro und verfügen nicht über WLAN. Dieses Modell eignet sich für Inferenz-Workloads, die mehr Arbeitsspeicher und Speicherplatz benötigen.
Vergleich
| Feature | Micro 6 Pro | Treo |
|---|---|---|
| Processor | ARM Cortex-A55, 4 core | Intel Celeron N5095A, 4 core |
| Max frequency | 1.9 GHz | 2.9 GHz |
| Cache | 1 MB | 4 MB |
| Memory | 4 GB onboard RAM | 16 GB DDR4 RAM |
| Storage | 32 GB eMMC | 1 TB SSD |
| WiFi | Dual antenna | Not included |
| Operating system | Thinux embedded Linux | Windows 11 IoT or Pro |
Anwendungsfälle
Die Mini-PCs von Thinvent eignen sich für Edge-KI-Installationen in Fabriken, Einzelhandelsgeschäften, Kiosken und digitaler Beschilderung. Der Micro 6 Pro passt in platzbeschränkte Installationen, bei denen die drahtlose Anbindung wichtig ist. Der Treo passt zu Installationen, die mehr Arbeitsspeicher, größeren Speicher und eine Windows-Umgebung erfordern. Beide Modelle sind klein genug, um hinter einem Display oder an einer VESA-Halterung montiert zu werden, und beide sind für den Dauerbetrieb ausgelegt.
Thinvent-Mini-PCs für KI-Inferenz
Thinvent bietet den Micro 6 Pro mit ARM-Cortex-A55-Prozessor und den Treo mit Intel-Celeron-N5095A-Prozessor an. Beide sind mit oder ohne Tastatur- und Maus-Set erhältlich, und der Micro 6 Pro ist außerdem mit VESA-Halterung oder einem HDMI-auf-VGA-Kabel verfügbar.