自动识别硬件
显卡、处理器、内存、磁盘一次看清，直接告诉你哪些模型能跑、能跑多快。
本地大模型 · 一键部署v0.1.0
把大模型，
请进你的电脑。
LocModel 自动看懂你的硬件，推荐合适的开源模型，装好推理引擎。在线下载或导入 GGUF，点一下，就在本地跑起来。
Windows 10/11 · x64·NVIDIA / AMD / Intel / CPU·数据留在本地
01LocModel 0.1.0 · 概览
1键安装推理引擎
4种硬件后端
0云端依赖
100%本地运行
WHY LOCMODEL
本地部署，
不该这么难。
不用配环境，不用记参数。LocModel 把最麻烦的部分收起来，把模型留给你。
一键推理引擎
自动匹配 llama.cpp 后端，NVIDIA、AMD、Intel 和纯 CPU 都照顾到，不用自己编译。
模型自由进出
在线下载 HuggingFace 模型，也能导入本地 GGUF。模型是你的，不锁在某个平台里。
显存智能分层
显存放不下时，自动把部分层放进内存和硬盘。大模型照样能跑，只是慢一点。
01 / HARDWARE
它先读懂
你的电脑。
打开 LocModel，先看到的不是参数，而是一份硬件体检：显卡型号与显存、处理器核心、可用内存、模型盘空间。
- 自动识别 NVIDIA / AMD / Intel / CPU
- 按显存和内存推荐能流畅运行的模型
- 启动前就能看到速度与首次加载时间
这台电脑
推荐
Muse Glimmer 30B
38 tok/s · 17 GB · 全部放进显卡
CUDAVulkanCPU
02 / ENGINE
推理引擎，
一键就位。
LocModel 会自动下载与你的显卡匹配的 llama.cpp 官方构建。网络不好，也可以手动导入 zip，进度、速度、剩余时间都看得见。
- 自动识别 NVIDIA CUDA、AMD、Intel 与 CPU
- 下载可暂停，失败可重试
- 支持手动导入本地引擎，离线也能装
03 / MODELS
模型，
就在手边。
推荐模型、在线搜索、已安装管理放在同一页。每个模型都标好大小、量化方式、预计速度和适配程度。
在线下载
按硬件与用途筛选 HuggingFace 模型，点一下就开始下载。
导入 GGUF
本地文件直接导入，不用转换格式，也不用上传到任何地方。
已安装管理
版本、大小、量化方式与运行状态，一页看完。
04 / RUN
参数，
已经替你算好。
上下文长度、思考模式、局域网访问、预计速度——常用的选择都在手边，默认值已经足够好。
- 8K / 16K / 32K / 64K 上下文一键切换
- 思考模式，让模型先想再答
- 局域网访问，手机和其他电脑也能调用
05 / AUTO TIERING
显存不够，
也不会被卡住。
LocModel 会把注意力层、专家层和 KV 缓存按顺序放进显卡、内存和硬盘。越靠左越快，放不下的部分自动往后排。
显卡 · RTX 409019.0 / 24.0 GB
注意力 / 共享部分 / KV 缓存
内存 · DDR42.5 / 63.8 GB
5 层 MoE 专家 · 保留 4 GB 给系统
硬盘 · 按需读取0.0 GB
放不下时才会用到，容量换速度
不需要调参数。LocModel 会自己算。
HOW IT WORKS
三步，
从零到跑起来。
不需要命令行，不需要读一堆文档。打开 LocModel，跟着界面走就行。
检测硬件
自动读取显卡、处理器、内存与磁盘，生成一份能跑什么模型的清单。
安装引擎
匹配你的显卡，下载对应的推理后端。进度可见，随时可以暂停。
下载并启动
选一个模型，或在本地导入 GGUF。点下启动，开始本地推理。
COMPATIBILITY
从 CPU 到 RTX 5090，
都有位置。
NVIDIA CUDA
AMD
Intel
CPU
Windows 10/11 x64
GGUF
HuggingFace
LOCAL BY DEFAULT
模型在本地，
数据不出门。
没有账号，没有云端排队，没有用量限制。下载、导入、运行，全在这台电脑上完成。
- 无需登录，打开就能用
- 提示词与对话不离开本机
- 离线也能推理
DOWNLOAD
把 LocModel
装进你的电脑。
Windows 10/11 x64 · 免费 · 双击安装。下载后解压，运行安装程序即可。
LocModel_0.1.0_x64-setup.zip
v0.1.0