最佳本地 Embedding / 检索 — NVIDIA DGX Spark 128GB

甜点区间：94–97 分 · 14–24 ktok/s，共 2 个模型符合。

1. 1. Qwen3-Embedding-8B — 97 分 · 14 ktok/s · 9GB
2. 2. Qwen3-Embedding-4B — 94 分 · 24 ktok/s · 5.3GB
3. 3. Qwen3-Reranker-4B — 93 分 · 12 ktok/s · 9.1GB
4. 4. Qwen3-Embedding-0.6B — 89 分 · 1.95 ktok/s · 1.6GB
5. 5. gte-Qwen2-1.5B — 88 分 · 36 ktok/s · 4.1GB

共 10 个装得下的可用模型。← NVIDIA DGX Spark 全部能力

常见问题

NVIDIA DGX Spark 上跑 Embedding / 检索最好的是哪个？

Qwen3-Embedding-8B，97 分，14 ktok/s，占用 9GB（NVIDIA DGX Spark 共 128GB）。

NVIDIA DGX Spark 上速度最快的是哪个？

nomic-embed-text-v2，60 ktok/s，82 分，占用 2.9GB。分数最高的不一定最快——这台机器上两者是不同的模型。

显存/内存最省的是哪个？

Qwen3-Embedding-0.6B，只要 1.6GB，89 分。

有哪些模型这台机器装不下？

没有——本站收录的该项能力模型，NVIDIA DGX Spark 全部装得下。