本地跑大模型这件事，门槛从来不是模型——Qwen3-4B 的权重谁都能下。门槛是那块能把 4B 模型跑到「可用」的芯片，以及为它付的几百上千美金和几十瓦电费。
我花 299 美金买了一块 Arduino VENTUNO Q，把这件事的门槛砸到了地板上：一块 160×100mm 的开发板，NPU 上跑 Qwen3-4B 文本 16.6 tok/s、跑 Qwen3-VL-4B 看图 13 tok/s，纯本地、零边际成本、常驻不关机。
开始教程之前，先把一件事说清楚：这篇文章的所有配置，都是用 OpenCode 以对话方式完成的，没有一行命令是我手敲的，效率比手工高得多。 OpenCode 作为 agent 直接在板子上执行 shell、读写文件，背后配 DeepSeek V4 Flash（快、便宜、上下文长），查资料、装环境、部署模型、写服务、排错，甚至板子上那份上手文档的初稿，全部在一个会话里贯通。这种做法的效率提升非常直接：不用手工复制命令，不用在搜索引擎和终端之间来回切换，agent 踩了坑当场修，下文的每一条命令都是它当时实际执行、验证通过的记录。最后配出来的本地 VLM 服务本身就是一个 OpenAI 兼容后端，又反过来接进 OpenCode 用——用 AI 搭 AI，闭环了。
这篇是完整上手教程——从开箱到把它变成一个 OpenAI 兼容的常驻服务，接进你的 Agent 工具链。中间有三个能让你白耗一个下午的坑，我一并写清楚。
Arduino VENTUNO Q 官方产品图（仅作描述性引用）
[Read More]