Qualcomm lobt Nvidia RTX Spark mit verstecktem Seitenhieb

[Redaktion]

Nvidias RTX Spark Chipsätze sollen Windows on ARM neuen Schwung verleihen. Die Chips sind für hohe Leistung in dünnen und leichten Laptops mit langer Akkulaufzeit ausgelegt, um mit Apple zu konkurrieren.

https://www.notebookcheck.com/Qualcomm-lobt-Nvidia-RTX-Spark-mit-verstecktem-Seitenhieb.1312444.0.html

[RobertJasiek]

Emuliert und langsam?! Z.B. wäre für KI halbe Geschwindigkeit wegen Emulation inakzeptabel.

[RobinLight]

Emuliert und langsam?! Z.B. wäre für KI halbe Geschwindigkeit wegen Emulation inakzeptabel.

Hä? KI läuft auf NPUs und GPUs, da braucht es nichts zu emulieren.

[RobertJasiek]

KI läuft auf NPUs und GPUs, da braucht es nichts zu emulieren.

So einfach ist es nicht. KI-Software ist für eine Architektur kompiliert - z.B. x64-Windows. Nvidia-Bibliotheken sind jeweils für eine Architektur kompiliert - z.B. x64-Windows. KI-Software nutzt bestimmte Nvidia-Bibliotheken derselben Architektur.

Die Nvidia-Bibliotheken einer jeden Architektur greifen dann auf dieselbe Hardware zu, für die sie die Schnittstellen bereitstellen.

Mehr Flexibilität ist zwar denkbar, aber die müsste von Betriebssystem, Nvidia-Bibliotheken, KI-Software und Hardware erfüllt sein. Z.B. ist der Softwareindustriestandard OpenCL flexibel, aber eben nur 1/3 so schnell wie TensorRT. Und genau um diese Größenordnung geht es mindestens, um wie viel nativ statt emuliert schneller sein kann. Meine Erfahrung mit Nvidia-Bibliotheken ist sogar, dass verschiedene, miteinander zusammen arbeiten sollende Versionen von ihnen auf derselben Hardware den Geschwindigkeitsfaktor 5 oder Inkompatibilität bedeuten können. Verschiedene Hardware und deren Betriebssystemvarianten machen gleiche Geschwindigkeit eher unwahrscheinlicher.