图文教程:给AI环境做一次安全体检,再在本地跑通第一个大模型
结合今日入库的两款工具,手把手教你先扫描AI环境的安全风险,再用 llmfit 一条命令在本地跑通大模型。

1
第一步:下载并解压 AI-Infra-Guard
到本站「AI工具」栏目找到 AI-Infra-Guard 文章,点绿色按钮下载官方完整包(4.6MB)。
解压后目录里有各平台的可执行文件,无需安装任何依赖。

2
第二步:扫描你的AI环境
在解压目录打开终端,运行扫描命令并指定你的 AI 服务地址(比如本地 MCP 服务器端口)。
等扫描结束,重点看标记为高危的项目:未授权访问、越狱风险、过旧组件,按提示逐项修复后复扫一遍确认。

3
第三步:用 llmfit 找到你电脑能跑的模型
到「AI工具」栏目下载 llmfit Windows 版(5.3MB),解压得到 llmfit.exe。
在它的目录打开终端,输入 llmfit 回车,工具会列出你的硬件配置和推荐模型清单,附预计生成速度。

4
第四步:跑通第一个本地大模型
从推荐清单里挑一个体积合适的模型(新手建议 7B 左右的量化版),复制工具给出的启动命令执行。
等模型下载完成后,就可以在本地离线对话了;速度不满意就换小一号的量化版本。安全扫描+本地模型两件事,一个下午就能全部搞定。

使用提醒
本文整理自公开资料并附上配套资源;涉及产品的功能与价格以官方页面为准。资源仅供学习交流,请遵循来源许可。
本篇为图文教程,直接按步骤操作即可,无需下载文件。