最佳本地 Embedding / 检索 — DGX Spark ×2 256GB
甜点区间:94–97 分 · 14–24 ktok/s,共 2 个模型符合。
- 1. Qwen3-Embedding-8B — 97 分 · 14 ktok/s · 9GB
- 2. Qwen3-Embedding-4B — 94 分 · 24 ktok/s · 5.3GB
- 3. Qwen3-Reranker-4B — 93 分 · 12 ktok/s · 9.1GB
- 4. Qwen3-Embedding-0.6B — 89 分 · 90 ktok/s · 1.6GB
- 5. gte-Qwen2-1.5B — 88 分 · 36 ktok/s · 4.1GB
共 10 个装得下的可用模型。← DGX Spark ×2 全部能力
常见问题
DGX Spark ×2 上跑 Embedding / 检索最好的是哪个?
Qwen3-Embedding-8B,97 分,14 ktok/s,占用 9GB(DGX Spark ×2 共 256GB)。
DGX Spark ×2 上速度最快的是哪个?
EmbeddingGemma-300M,120 ktok/s,80 分,占用 1.6GB。分数最高的不一定最快——这台机器上两者是不同的模型。
显存/内存最省的是哪个?
Qwen3-Embedding-0.6B,只要 1.6GB,89 分。
有哪些模型这台机器装不下?
没有——本站收录的该项能力模型,DGX Spark ×2 全部装得下。