alexsjones /
关于
一条命令找出本地能运行的模型。这是一款用 Rust 编写的终端工具,能够自动检测本机的 CPU、GPU、内存等硬件信息,并推荐适合本地运行的大模型。它会从质量、速度、适配度和上下文等维度给模型打分排序,支持 Ollama、llama.cpp、MLX、vLLM、LM Studio 等主流本地推理环境。
收录记录
- Show HN
- HelloGitHub·月刊推荐
- GitHub Trending
alexsjones /
一条命令找出本地能运行的模型。这是一款用 Rust 编写的终端工具,能够自动检测本机的 CPU、GPU、内存等硬件信息,并推荐适合本地运行的大模型。它会从质量、速度、适配度和上下文等维度给模型打分排序,支持 Ollama、llama.cpp、MLX、vLLM、LM Studio 等主流本地推理环境。
讨论这个产品