← 善用AI本地部署
⬡ 本地部署入门:Ollama 能做什么、不做什么
30 分钟本机跑通模型,适合脱敏草稿与离线改写;不替代云端最强模型。
这篇解决什么
在自己电脑跑通 Ollama,建立「敏感初稿本地改 → 脱敏后再上云」双轨。
终端与本地开发环境准备
- 电脑:建议 16GB+ 内存;有 NVIDIA / Apple Silicon 更佳。
- 磁盘预留数 GB 给模型文件。
- 一份可公开的练习段落(先别用真客户隐私测手生)。
注册 / 安装
- 打开 ollama.com,下载官方客户端并安装。
- 终端执行:`ollama run qwen2.5:7b`(显存不够换更小标签,以官方库为准)。
- 出现对话提示后,做一次中文改写验收。
- `ollama list` 确认模型已在本地。
- 可选:安装 Open WebUI / Chatbox,指向本机 `http://localhost:11434`。
本机模型适合脱敏前的草稿关键设置
- 不要把 Ollama 端口裸暴露到公网。
- 为「仅本地」材料建文件夹 `local-only/`,云端对话禁用该目录内容。
- 记清:本地小模型质量 ≠ Claude 级长文。
推荐工作流
- 客户原文进本地改写/打码。
- 人工确认脱敏。
- 需要强表现力时,再把脱敏稿交给云端抛光。
- 在素材箱标注「本段仅本地处理」。
常见坑
- 破解付费权重、来路不明模型包。
- 局域网乱开端口当「私服」。
- 指望 7B 模型写长商业战略。
- 练习阶段就上传真合同。
适用场景
访谈记录初整理、合同条款改写前脱敏、弱网改稿。安全与成本,不是炫技。
怎么用下面的模板
在本地对话粘贴;默认按「不外传改写助手」执行。
可复制用法模板 · 怎么用复制整段到 ChatGPT / Claude / 本地模型对话框;先补全「我的材料」,再发送。不要一次塞未脱敏的客户隐私。你是运行在我本地的改写助手,默认不外传。请将下文改成更短、可发给客户的中文说明,保留事实,删除夸张形容词,并列出你不确定的句子。原文: