RTX 5090 能跑动哪些本地 AI 模型

NVIDIA Blackwell GB202 · 32GB 内存 · 1792GB/s 带宽 · 约 $2.0k · 575W

• 最佳本地聊天模型：Qwen3.8 27B（75 分 · 60.3 tok/s · 17.3GB）
• 最佳本地编码模型：Qwen3.8 27B（81 分 · 60.3 tok/s · 17.3GB）
• 最佳实时语音方案：Voice Stack A（91 分 · 612 ms · 14.2GB）
• 最佳本地 OCR：GLM-OCR（95 分 · 38 pg/min · 5GB）
• 最佳本地 Embedding / 检索：Qwen3-Embedding-8B（97 分 · 3.5 ktok/s · 9GB）
• 最佳本地 TTS：VibeVoice-7B（93 分 · 5 ×实时 · 19.7GB）
• 最佳本地语音识别：FireRedASR2-LLM（93 分 · 100 ×实时 · 17GB）
• 最佳本地音乐生成：ACE-Step 1.5 XL（72 分 · 20 ×实时 · 16.2GB）
• 最佳本地图像生成：Qwen-Image 20B（90 分 · 12.5 s/图 · 23GB）
• 最佳本地视频生成：Mochi 1（80 分 · 10 min · 25GB）
• 最佳本地视觉定位：LocateAnything-3B（78 分 · 0.3 s/图 · 8.7GB）

在 Free Token 查看完整交互图表 →