Ach so, deine Frage meint vielleicht provokativ, ob anderen KIs langsamere Hardware ausreiche. Was ich eher bez. anspruchsvoller Art von Deep Learning usw. ausdrücken wollte: Ohne Nvidia-dGPUs oder bessere TPUs ist sie aufgeschmissen!
Apple, DGX und Asus-Mini-PC sind jedoch gezielt auf hohen VRAM-Bedarf oder Unified-Memory-Äquivalent sowie Bandbreite ausgelegt für LLMs, während die Grafikkernarchitektur oder -geschwindigkeit für diesen Einsatzzweck zweitrangig sind.
Beim Trainieren brauchen aber viele Arten von KI viel Speicher.
Wenn KI auf der jeweiligen Hardware überhaupt ausgeführt werden kann, ist die Frage, wie lange man als Nutzer auf ein Ergebnis in mindestens gewünschter Qualität warten muss. Einfache KIs wie etwa Lüftersteuerung laufen auch auf einer NPU. Bei anspruchsvolleren KIs muss jeder Nutzer selbst entscheiden, wann es ihm schnell und gut genug ist.
Beim Beispiel Go-Spiel kenne ich mich etwas aus. Anfängern reicht die KI auch auf einer CPU. Leicht fortgeschrittene Anfänger können können eine iGPU oder einen Applechip älter als M1 nutzen. Starke Amateurspieler ohne Ambitionen sind mit einer dGPU auf dem Niveau einer RTX 3060 Laptop oder Apple M zufrieden. Starke Amateurspieler mit Forschungsdrang oder Berufsspieler brauchen etwa eine RTX 4070 Desktop (Apple M5 Max ist zu langsam) oder schneller und sind bereit, auf Antworten zu warten. Instantan ohne Wartezeit bräuchten sie für Analyse eher nochmals den Faktor 100 ~ 1000 schneller, während zum reinen Spielen auch eine 3080TI Laptop sicher ausreicht, als Mensch immer zu verlieren.
Generative KI (wie LLMs) ist eine Klasse von KI. Andere Klassen sind i.B. Deep Learning, Suche und Optimierung, Logik für KI-Zwecke, Wahrscheinlichkeit / Statistik für KI-Zwecke, und (die allerdings meist scheiternden) Expertensysteme.
en.wikipedia.org/wiki/Artificial_intelligence
en.wikipedia.org/wiki/Deep_learning
Darunter kann z.B. Deep Learning mittels neuronalem Netz sehr viel Verschiedenes tun:
Deep Learning ist bei einigen Aufgaben wie den (*)-Beispielaufgaben fast immer fast richtig und viel besser als jeder Mensch. Anders als LLMs, die mit schon leicht zunehmender Komplexität total versagen.
Aber so hat AMD bei den meisten neuen Produkten oder Markteinführungen begonnen, um einen Basis für die Next-Gen-Produkten, die dann auch pünktlicher eingeführt werden.
Ansonsten ist es nur ein 2 Liter-MiniPC, die dann für 120-150W-TDP ausgelegt sind, Anders als die 0,5-0,75 Liter MiniPCs, die einen 15-55W-TDP-APU eingebaut haben.
Konzipiert nur für LLMs, nicht aber für andere KIs.
Der AMD Ryzen AI Halo Mini-PC ist jetzt offiziell. Er ist mit AMDs Top-Chip Ryzen AI Max+ 395, 128GB RAM und einer angegebenen TDP von 120 Watt ausgestattet.
Deutsch
English
Español
Français
Italiano
Nederlands
Polski
Português
Русский
Türkçe
Svenska
Chinese
Magyar