AI资讯大全AIPPXP.CN搜索 ↗
手把手教程 · 图文步骤

图文教程:给AI环境做一次安全体检,再在本地跑通第一个大模型

结合今日入库的两款工具,手把手教你先扫描AI环境的安全风险,再用 llmfit 一条命令在本地跑通大模型。

2026-09-24 更新 · 免费
图文教程:给AI环境做一次安全体检,再在本地跑通第一个大模型
1

第一步:下载并解压 AI-Infra-Guard

到本站「AI工具」栏目找到 AI-Infra-Guard 文章,点绿色按钮下载官方完整包(4.6MB)。

解压后目录里有各平台的可执行文件,无需安装任何依赖。

第一步:下载并解压 AI-Infra-Guard
2

第二步:扫描你的AI环境

在解压目录打开终端,运行扫描命令并指定你的 AI 服务地址(比如本地 MCP 服务器端口)。

等扫描结束,重点看标记为高危的项目:未授权访问、越狱风险、过旧组件,按提示逐项修复后复扫一遍确认。

第二步:扫描你的AI环境
3

第三步:用 llmfit 找到你电脑能跑的模型

到「AI工具」栏目下载 llmfit Windows 版(5.3MB),解压得到 llmfit.exe。

在它的目录打开终端,输入 llmfit 回车,工具会列出你的硬件配置和推荐模型清单,附预计生成速度。

第三步:用 llmfit 找到你电脑能跑的模型
4

第四步:跑通第一个本地大模型

从推荐清单里挑一个体积合适的模型(新手建议 7B 左右的量化版),复制工具给出的启动命令执行。

等模型下载完成后,就可以在本地离线对话了;速度不满意就换小一号的量化版本。安全扫描+本地模型两件事,一个下午就能全部搞定。

第四步:跑通第一个本地大模型

使用提醒

本文整理自公开资料并附上配套资源;涉及产品的功能与价格以官方页面为准。资源仅供学习交流,请遵循来源许可。

资源下载

本篇为图文教程,直接按步骤操作即可,无需下载文件。