Emuliert und langsam?! Z.B. wäre für KI halbe Geschwindigkeit wegen Emulation inakzeptabel.
Quote from: RobertJasiek on June 01, 2026, 22:14:39Emuliert und langsam?! Z.B. wäre für KI halbe Geschwindigkeit wegen Emulation inakzeptabel.
Hä? KI läuft auf NPUs und GPUs, da braucht es nichts zu emulieren.
Quote from: RobinLight on June 02, 2026, 18:16:19KI läuft auf NPUs und GPUs, da braucht es nichts zu emulieren.
So einfach ist es nicht. KI-Software ist für eine Architektur kompiliert - z.B. x64-Windows. Nvidia-Bibliotheken sind jeweils für eine Architektur kompiliert - z.B. x64-Windows. KI-Software nutzt bestimmte Nvidia-Bibliotheken derselben Architektur.
Die Nvidia-Bibliotheken einer jeden Architektur greifen dann auf dieselbe Hardware zu, für die sie die Schnittstellen bereitstellen.
Mehr Flexibilität ist zwar denkbar, aber die müsste von Betriebssystem, Nvidia-Bibliotheken, KI-Software und Hardware erfüllt sein. Z.B. ist der Softwareindustriestandard OpenCL flexibel, aber eben nur 1/3 so schnell wie TensorRT. Und genau um diese Größenordnung geht es mindestens, um wie viel nativ statt emuliert schneller sein kann. Meine Erfahrung mit Nvidia-Bibliotheken ist sogar, dass verschiedene, miteinander zusammen arbeiten sollende Versionen von ihnen auf derselben Hardware den Geschwindigkeitsfaktor 5 oder Inkompatibilität bedeuten können. Verschiedene Hardware und deren Betriebssystemvarianten machen gleiche Geschwindigkeit eher unwahrscheinlicher.