EVO-X2 startet: PC mit zu 64 GB RAM, RTX 4090-KI-Leistung kann lokal LLMs ausführen - ab 1.500 Euro

[Redaktion]

GMKtec bietet ab sofort einen neuen und sehr leistungsstarken Mini-PC an. Dieser soll zumindest in KI-Anwendung auch dedizierten Grafikkarten Konkurrenz machen. Aktuell winken noch Rabatte, wobei das Modell in zwei Speicherversionen angeboten wird.

https://www.notebookcheck.com/EVO-X2-startet-PC-mit-zu-64-GB-RAM-RTX-4090-KI-Leistung-kann-lokal-LLMs-ausfuehren-ab-1-500-Euro.999637.0.html

[RobinLight]

Nach dem letzten niederschmetternden Test eines Mini PCs dieses Herstellers bzgl. der Lautstärke wäre mir eine Vorbestellung zu riskant. Und hässlich ist das Teil ohnehin, würde dann eher zu dem Framework Desktop tendieren, wo man kühlungstechnisch mehr Spielraum hat... allerdings ist mir das wiederum zu groß.

Denn eigentlich will ich ja was mobiles aka Notebook. Wenn es also das Teil mit 64GB für 1500 Euro in einem Mini-PC gibt, dann kann es doch nicht so schwer sein, ein Notebook mit den gleichen Specs für weniger als 2000 zu bauen. Leider gibt es da weit und breit gar nichts. Das HP Notebook, dessen Test längst im US Notebookcheck zu sehen ist, soll ja mit 64GB und dem OLED hierzulande 2900 Euro kosten...

[Hmm]

Vorbestellen würde ich eh nie.

1500€ für 64GB RAM sollte möglich sein (bei einem (Massen)Preis von 5 bucks pro GB). Warte und hoffe.

Von den 64 GB RAM lassen sich möglicherweise nur 75% (wie bei der 128GB RAM Version, wo nur 96 GB nutzbar sind), also 48 GB für eine LLM, nutzen. Hierfür reicht es also nicht:

Llama-3.3-70B-Instruct-Q5_K_M.gguf  Q5_K_M  49.95GB  High quality, recommended.

PS: Falls sich jemand fragt: Die 128GB RAM Version hat die gleiche Bandbreite [GB/s] wie die 64 GB RAM Version (unterschiedliche LPDDRX5-8000 Speicherchipdichten werden verwendet).

[RobinLight]

Von den 64 GB RAM lassen sich möglicherweise nur 75% (wie bei der 128GB RAM Version, wo nur 96 GB nutzbar sind), also 48 GB für eine LLM, nutzen. Hierfür reicht es also nicht:

Ein Q4 Modell würde ausreichen und passen. Im übrigen ist die Zuweisung des Anteils für den iGPU Speicher nur aus Performance-Gründen relevant, man spart sich einen langsameren Umweg.