身边有律师问我,本地跑 AI 到底值不值得弄。
我的回答通常是:先别问值不值,先回答四个问题。这四个问题答完,值不值自己就浮出来了。
这四个问题,我认为是搭本地工作台的真正入口。因为大部分人是从买工具这一步就开始挑——哪个模型强、哪个软件好用、显卡买什么。
顺序反了。工具是最后一步的事。
一、数据能不能留在这儿
第一个问题,也是唯一一个答案是"是"或者"不是"的问题。
它不是问你"想不想让数据留在本地",是问你"有没有一类材料,是你不接受它离开这台电脑的"。
每个人答案不一样。有的律师说全部都得留,有的说脱敏后的模板留就行。
但你必须能回答。 因为这个答案直接决定你后面所有的技术选择。
留着全部,意味着你的机器上要能装得下完整的处理链路;只要脱敏内容,意味着你可以考虑带云端能力但受控的方案。
有一类材料,几乎所有人答案都会是"必须留"——在办的案件卷宗。
它不是最隐私的,但它是最值钱的。你花了十几小时问出来的问题、对方没说的部分、你方当事人的完整陈述,这些全在里头。
换个说法:如果你打算用 AI 处理在办案件的原始材料,它就必须在本地跑,这不是偏好问题。
反过来,如果你只用 AI 处理脱敏后的模板、公开信息、已结案的卷宗,那答案就不那么绝对,可以有更省事的选择。
先把这个问清楚,能省掉后面很多无效折腾。
二、错了谁担责
第二个问题:这套东西给出的结论,最后由谁签字?
答案表面上是"我",但我想问的是更具体的一层——
你打算让它做什么?
如果答案是"让它帮我整理材料、生成初稿、我逐条核完再用",那责任边界是清楚的。出了错,是你核漏了。
如果答案是"让它给我办案建议,我参考着走",责任边界就开始模糊了。参考到什么程度算参考?
我在实践中划了一条线,很土但很好用:
凡是"我照着做出去,别人事后会说我错"的部分,都不许它单独决定。
文书怎么写、事实怎么陈述、材料怎么组织——这些它可以给你初稿。
要不要和解、诉讼请求怎么定、要不要申请鉴定、要不要接受对方的条件——这些它可以给你信息,但不许它给结论。
这不是因为技术上做不到,是因为责任的重量不一样。
前一种情况,你有时间逐条核对,改动的成本是时间。
后一种情况,你没有时间逐条核对,因为一旦你开始怀疑"这个建议对不对",你就会去查——查了就没有意义了,还不如自己想。
所以第二个问题的实际作用是:帮你划出工具能进到哪一层。
三、判断依据能不能复现
第三个问题最有技术含量,也最容易被忽略。
翻译成人话:同一个问题,三个月之后你再问一次,它给的答案还是一样的吗?
为什么这个问题重要?
因为你不可能记住三个月前它说过什么。三个月后你遇到一个类似的问题,你不会去翻记录,你会直接再问一次。
如果两次的答案不一样,那你手上其实有两个结论,而其中一个你没验证过。
这在法律工作里是危险的。因为律师的判断经常建立在"上次那个案例里,工具是这么说的"这个记忆上。
三个问题要问自己:
第一,我这个工具的处理过程,是留痕的吗? 也就是——我能不能回看它当时读了哪些材料、生成了什么、我确认了什么。
第二,同一份材料,同样一个问题,隔一周再跑一次,核心结论稳定吗? 不稳定的工具不能用来做需要判断的部分。
第三,模型的版本变了之后,我的工作流会不会突然变样? 会的。这就是为什么第一步要把"我的判断"和"它的输出"分开——判断在你这边,那它变了就变,不影响你的判断链。
我自己判断这一条的方法很笨:同一份合同,让它出三次审查意见,看三次的差异在哪些地方。
如果三次的核心发现基本一致,只是措辞不同,那可以信它的发现,不信它的措辞。
如果三次的重点都在变,那它就只是个生成器,不是个分析工具。
四、钱是买断还是按量烧
第四个问题关系到这件事能不能持续。
本地部署和云端服务的成本结构完全不同,这个差异会影响你用它做什么。
云端按量计费的模式,天然惩罚高频使用。 案量少的时候按调用付费很划算,但你用得越狠、调用越频繁,成本涨得越快。
本地部署是一次性投入加后续维护。 前期硬件和配置是一次性的,但后面没有按量费用。
这就引出一个很实际的问题:你打算让 AI 承担多少工作量?
如果只是偶尔查一下、写个初稿,按量付费完全够用,甚至更划算——不用折腾。
如果你打算让它每天处理几十份材料、上百页文本,那按量费用会变成一个显著的成本项,而本地的一次性投入就摊薄了。
我建议的做法是先按量试,再决定要不要买。
拿三到五件你手上真实的活儿,按量跑一遍。这一步的成本很低,但能回答两个关键问题:这活儿到底能不能干,以及你到底愿不愿意天天干。
如果跑完发现三天两头用,你自然会去算硬件账;如果跑完发现一个月用一次,那就没必要折腾。
这个顺序不能反。反了就变成先买一堆东西,然后发现一个月用不上。
五、如果四个问题都答完了,怎么开始
假设四个问题你都答了,答案是"值得做",那从零开始的顺序我建议这样。
第一步,先只给自己一个人用,不要想着全所推广。
一个人用和五个人用,复杂度差一个量级。个人用不需要账号体系、不需要权限管理、不需要考虑谁的数据谁能看到。
很多人在这一步就跳到了团队版,然后被权限和部署问题卡住三个月。
第二步,把工具和数据分开放在两个地方。
工具装一处,你的工作材料放另一处,通过指定路径交互。
这条不是洁癖。前面那篇讲智能体权限的时候说过原因:如果工具的运行目录和你的卷宗在同一个文件夹里,误删就是一起删。
成本几乎为零,收益是划掉一整类风险。
第三步,一次只建一个流程,不要建工作台。
不要一上来就想着"搭一个律师 AI 平台"。
先只做一件事,比如"把笔录转成时间线",跑通了,用顺了,再加第二件。
一次建五个流程,你会发现每个都不够好用,然后都半途而废。这是我见过最常见的失败模式。
第四步,把"我的判断"和"它的输出"在文件上分开。
这条是前三步的收口。
工具生成的东西放一个文件夹,你自己写的东西放另一个。任何时候你打开一个文件,都能立刻看出这是谁的判断。
这条规矩看起来简单,但它决定了将来某一天你回头看这个案子的时候,能不能重建当时的判断过程。
最后
我讲的这四件事里,技术含量最低的那一条,反而是大多数失败的原因。
不是显卡不够,不是模型不行,不是不会装。
是买之前没想清楚要拿它干什么。
一堆人在工具上花的钱远超预期,但用不起来,不是因为工具不好,是因为当初决定买的时候,回答的是"这个东西有什么用",而不是"我要用它做我的哪一件事"。
后者是工作问题,前者是购物问题。
购物问题没有答案,工作问题才有。
所以真要开始,先拿张纸把你手上最耗时间的那三件事写下来。看看这三件事里,有几件是本地跑能真正解决的。
如果答案是一件都没有,那就别搭。
如果有,那就从那一件开始,三天之内能跑通。