Quote from: RobinLight on Yesterday at 18:16:19KI läuft auf NPUs und GPUs, da braucht es nichts zu emulieren.
So einfach ist es nicht. KI-Software ist für eine Architektur kompiliert - z.B. x64-Windows. Nvidia-Bibliotheken sind jeweils für eine Architektur kompiliert - z.B. x64-Windows. KI-Software nutzt bestimmte Nvidia-Bibliotheken derselben Architektur.
Die Nvidia-Bibliotheken einer jeden Architektur greifen dann auf dieselbe Hardware zu, für die sie die Schnittstellen bereitstellen.
Mehr Flexibilität ist zwar denkbar, aber die müsste von Betriebssystem, Nvidia-Bibliotheken, KI-Software und Hardware erfüllt sein. Z.B. ist der Softwareindustriestandard OpenCL flexibel, aber eben nur 1/3 so schnell wie TensorRT. Und genau um diese Größenordnung geht es mindestens, um wie viel nativ statt emuliert schneller sein kann. Meine Erfahrung mit Nvidia-Bibliotheken ist sogar, dass verschiedene, miteinander zusammen arbeiten sollende Versionen von ihnen auf derselben Hardware den Geschwindigkeitsfaktor 5 oder Inkompatibilität bedeuten können. Verschiedene Hardware und deren Betriebssystemvarianten machen gleiche Geschwindigkeit eher unwahrscheinlicher.
Deutsch
English
Español
Français
Italiano
Nederlands
Polski
Português
Русский
Türkçe
Svenska
Chinese
Magyar