Danke für die Effizienzvergleiche auch mit Nvidia (zumindest Laptop)! Für Nicht-LLM-KI-Anwendungen vermute ich aber deutliche Vorteile von Nvidia, was vor ein paar Jahren noch so beim Faktor etwa 30 war, aber Apple dürfte etwas aufholen, weil Nvidia aktuell fast nur Server-GPUs voranbringt.
GPU OpenCL:
187922 RTX 5090 Laptop
146276 MacBook Pro 14 M5 Max 40-Core
Das ist der Faktor 1,28.
Desktop 5090 dürfte mindestens nochmals 2x schneller sein. TensorRT statt OpenCL ist für Nicht-LLM-KI-Anwendungen etwa 2,95x schneller. Daher vermute ich bei RTX 5090 Desktop zu MacBook Pro 14 M5 Max 40-Core einen Faktor größer als 1,28 * 2 * 2,95 = 7,55.
RTX 5090 Desktop bis zu 600 Watt.
40-Core M5 Max GPU bis zu 72 Watt.
Faktor 8,33.
Das bedeutet, dass Nvidia und Apple im preislichen Prosumer-High-End bei KI-Anwendungen bei der Effizienz größenordnungsmäßig gleichauf sind. Apple hat diesbezüglich also deutlich aufgeholt. Die Einschränkungen sind aber: a) die jeweilige KI muss auch für Apple verfügbar sein, b) bei Nvidia-Desktops kann man durch höheren Wattumsatz die Geschwindigkeit bei einigen KI-Anwendungen fast proportional steigern, wo Macbooks aufgrund der Bauform begrenzt sind.
LLMs sind ein eigenes Thema, da Unified Memory große neuronale Netze ermöglicht, was bei x64 nicht immer geht.
Falls v3.3 Classroom METAL | v3.3 Classroom CUDA | v3.3 Classroom OPTIX/RTX vergleichbar sein sollten, haben wir
RTX 5090 Laptop Optix 12s
Apple 16" M4 Max 40-Core GPU Metal 17,8s
Nvidia ist um den Faktor 1,48 schneller und das Preis-Leistungs-Verhältnis ist noch besser.
Was misst Cinebench 2024 - GPU? Warum ist Nvidia da so auffallend schlecht?
Wenn Time Spy Graphics auf Mac ausführbar sein sollte, wäre ein Test dazu hilfreich. Viel mehr aber interessieren KI-Benchmarks für a) Nicht-LLM-Anwendungen und b) LLMs (mit / ohne ausreichend VRAM bei den Vergleichsgeräten). Und noch mehr fürs 16" MacBook Pro M5 Max 40-Core im Vergleich zu Nvidia, da es dann weniger Throttling geben und die Vergleichbarkeit deutlich besser sein sollte.
Geforce NOW.
Fertig.