1. 别人在用AI聊天我盘算的是怎么让AI替我干活先说点掏心窝的话。家里折腾AI这件事最开始真不是因为我有多懂技术纯粹是每天被琐事压得喘不过气——孩子的作业辅导、每周的采购比价、各种账单要分类登记、邮箱里堆着的订阅简报、还有我自己的工作文档要归档。当时网上铺天盖地都在聊大模型、AI Agent但我刷了一圈发现大部分人用AI还停留在问一句答一句的层面真正把大模型揉进日常生活的人很少。我就在想能不能搞一套家庭AI工作系统让这些破事自动流转起来我负责定规则、按开关剩下的交给机器。说干就干可我连Python都不熟Git也是现学现用。这篇日记就是从头记录我这个业余小白怎么一点点把AI从聊天玩具变成了家庭数字员工。文章里没有高深公式也没有动不动就上万的部署方案全是居家环境下低成本、能复现、踩过坑也填过坑的真实过程。如果你也想在家里搞一套属于自己的AI工作流但又担心技术门槛这篇内容应该能让你少走一大截弯路。先说结论家庭AI系统这个事没那么玄乎。它的核心不是模型多大、参数多强而是你有没有把重复的、流程化的、规则清晰的事情拆出来交给一个稳定运行的自动化管道。我后面所有的选择、所有代码、所有配置都是在回答一个问题如何用最小的力气让AI在没人盯着的时候也能把活干好。2. 选型那点事云端大模型还是本地部署我到底该怎么选2.1 先别急着装Ollama你得搞清楚自己的需求边界作为一个业余选手我第一次看到本地部署AI这个词第一反应是好啊免费、私密、不被限制砸锅卖铁也要上。于是我花了整整两天时间折腾显卡驱动、CUDA版本、模型权重下载结果跑起来一个7B的模型回答速度慢得跟打字机似的而且稍微复杂一点的逻辑推理直接胡言乱语。那两天我被现实狠狠教育了一顿。后来我才慢慢想明白一个道理本地部署和云端API不是二选一的对立关系而是分工关系。家庭场景里哪些事情适合本地做比如处理家庭照片的文字识别、财务表格的分类、敏感文档的摘要——这些数据你不想传到外网任务也不算复杂本地用小模型完全能扛。哪些事适合交给云端大模型比如写作文案的头脑风暴、复杂问题的分析、Agent多步推理——这些任务对模型智商要求高本地小模型做起来就是痛苦面具。我把自己的需求全列出来用一张表做了分类这步很笨但特别管用任务类型数据敏感度复杂度选型建议家庭照片整理、扫描件OCR高低本地小模型账单分类、支出统计高中本地小模型加规则文档摘要、信息抽取中中云端大模型文案创作、出行规划低高云端大模型Agent多步工具调用低高云端大模型做完这张表我的选择就清晰了本地部署负责隐私杂活云端API负责聪明活。钱也没多花云端API一个月几十块比我预期低得多。2.2 硬件和工具我用的是最小可用配置我的电脑是一台三年前买的台式机显卡是RTX 3060 12G内存32G硬盘留了200G给AI相关的数据。这个配置在玩AI的人眼里算是乞丐版但实际用下来本地跑7B到14B的量化模型完全够用。如果你连独立显卡都没有那真的不建议碰本地部署直接用云端API就好——这不是泄气话是让你把钱花在刀刃上。工具链我也选得很克制全部走开源路线模型运行时OllamaWindows下安装方便一条命令就能拉起模型服务适合我这种不喜欢折腾环境的人。云端大模型DeepSeek和通义千问的API注册就能用按量计费家里日常用每月开销可以控制在两顿饭钱以内。自动化编排Python写脚本配合Windows任务计划程序定时触发偶尔用FastAPI搭个小服务统一暴露接口。向量存储本地用ChromaDB给文档检索和知识库问答准备的轻量不占资源。这套组合拳打下来我没有额外买设备没有买服务器全部跑在家里那台旧电脑上。不夸张地说这套配置的性价比比我自己预想的高太多。3. 把家庭AI工作系统拆成四件小事一切豁然开朗3.1 第一件小事让AI当我的资料管理员家里最烦的事之一就是各种文件散落得到处都是百度网盘里的老照片、微信里的工作文件、邮件附件、随手存的网页截图。以前我想找一份去年某月的信用卡账单可能要翻半小时。现在我把这个需求拆成了一个很简单的AI管道文件进来自动分类提取关键信息写进索引数据库。具体跑起来是这样的我把所有票据类PDF丢进一个专门的文件夹写了一个脚本用本地OCR模型把PDF转成文字不需要买ABBYY那种收费软件开源的PaddleOCR就能干这件事然后用一个13B的本地模型提取出商户、金额、日期、类别四个字段最后按月份生成一个CSV表格。这套流程最开始跑得很粗糙经常出现金额提取成负数、日期格式乱七八糟的问题但经过一些提示词微调和字段校验规则的补充现在准确率已经能到95%左右。这段经历让我明白一件事AI工作流最重要的不是模型多聪明而是边界划得清。机器干不了理解所有上下文这种活但你给它的任务区间越窄、输出格式越明确它就越可靠。相当于你给实习生派活不能只说处理一下账单得告诉它读出这几个字段存成这种格式错了就标红。3.2 第二件小事让AI当我的信息摘要官每天早晨我都要花20分钟刷新闻、刷订阅号、刷各种行业资讯生怕错过什么。后来我反思了一下真正值得我花时间精读的内容可能只有20%剩下80%扫一眼标题就够了。于是我做了一个信息摘要机器人把RSS订阅源、微信公众号文章链接手动丢进去、我常逛的论坛热帖统一收集起来每天一早用云端大模型跑一遍摘要把长文压成三句话核心观点 一条我的看法推送到手机。这个功能本身不复杂但有一个细节特别重要提示词要分开写不要一个万能提示词套所有内容。比如财经类资讯我要求模型重点提取对普通人有啥影响技术类文章我要求它保留核心思路和关键步骤生活类内容我则让它过滤掉广告嫌疑段落。分类别写提示词摘要质量天差地别。我手机每天早上七点准时收到一条类似这样的推送今日财经央行开展XX操作分析师认为对房贷利率影响有限值得关注的是……。这一下省掉了我很多刷信息流的时间。3.3 第三件小事让AI当我的记账小助手记账这件事我坚持了五年但一直是手动记账每笔支出都输进App挺费时间的。后来我用AI做了一个半自动方案每个月从支付宝、微信、信用卡导出账单明细PDF或者CSV都行交给本地模型做分类打标然后自动生成一个家庭月度支出汇总再结合上个月的预算数据生成一句这个月超支预警餐饮类超出预算18%建议下两周控制外出就餐频次的建议。这套东西难的不是AI分类而是数据格式的清洗。各家银行导出的Excel字段顺序不一样有的是交易时间、摘要、收支有的叫记账日期、交易备注、金额甚至同一家银行不同卡片的模板都不同。我最初写了个无所不包的解析脚本维护成本高到爆炸。后来学乖了改成转换层标准格式的思路先把所有账单统一转成date, amount, category, note四列的标准化CSV再交给AI分类。规则复杂度瞬间下降AI也能集中精力干它擅长的活。3.4 第四件小事让AI当我的家庭大脑上面三件都是相对独立的小工具真正让它像个系统的是我用Agent的思路把它们串了起来。具体做法不复杂我用一个简单的Python主控脚本定义了几个工具函数查资料、查账单、发通知、更新索引。然后给它一段系统提示词说清你是家庭助手你能用这些工具做什么事什么时候该调用哪个工具不许瞎编输出。这就是最朴素的Agent原型。举个例子我让它每天早上九点执行家庭日程检查——先读取日历看看今天有没有需要缴费、取快递、孩子上课之类的安排如果有就生成一条提醒然后再去浏览一遍我的银行App有没有扣款异常通过邮件通知转发解析有异常就单独标红一切正常的话只推送一句话。这个Agent的每个动作其实都很简单但组合起来真的像一个小管家在背后帮你盯着事情。这也是我反复想强调的别把AI Agent想得太玄。你拆到最后它就是一个能自己决定调用哪个工具、按什么顺序完成任务的大模型脚本。理解到这一层你就能利用市面上任何一款支持工具调用的模型搭出属于自己的Agent。4. 搭建过程日记从零跑通第一个家庭AI任务4.1 搭建环境的第一步比我想象的简单也比我想象的坑我先把Ollama装好在Windows的PowerShell里运行了两条命令# 安装OllamaWindows版直接下载安装包就行 # 拉取一个适合本地OCR和分类的小模型 ollama pull qwen2.5:7b # 启动服务默认监听11434端口 ollama serve第一次跑起来我激动得不行心想这也没那么难。结果一调用就傻眼了同样的提示词在网页上测试挺正常怎么Python一调用就各种答非所问排查了大半天才发现是我请求里的temperature参数设置有问题——网页客户端和API默认参数不一样我用API时把温度调到0.8小模型本来就容易发散稍微加温就胡说八道。把参数调成0.2之后输出立刻稳定了。这件事给我提了个醒玩AI大模型参数和提示词一样重要。特别是本地小模型本身能力就有限你还给它高温那不是让它发挥创意是让它发病。我的默认配置现在固定是分类任务温度0.1、摘要任务温度0.3、创意写作才敢用到0.7以上。4.2 第一次写Agent脚本让AI自己决定调用哪个工具我的第一个Agent脚本特别简陋核心结构就三块工具函数、系统提示词、循环调用逻辑。工具函数是Python里写死的几个函数比如def search_bills(date_range: str) - str: 按日期范围检索账单CSV返回匹配记录 # 实际代码就是读CSV文件、过滤、拼接成文本返回 ... def send_push(content: str) - str: 调用手机推送接口发送通知 ...系统提示词我写了很长核心思想是告诉模型你是家庭助手你有以上工具你的回答可以引用工具结果但是别编造工具不存在的功能。然后主循环就是不断把用户请求和历史消息发给大模型如果模型返回了工具调用标记我就执行对应函数把结果再喂回去直到模型给出最终回答。这个过程用大白话讲就是模型不直接回答你的问题它先决定我需要看账单才能回答然后我看它想要什么就给它什么它再继续思考。第一版跑通的那一刻我真的觉得打开了一扇门。虽然它做的事极其简单——问这周花了多少钱它就去读CSV算个总数回答你——但这种AI能自己决定调什么工具的体验和单纯问答完全不一样它是真在替你干活。4.3 提示词踩坑记录我交的学费全在这提示词这个事网上教的人很多但真正实操你会发现细节比理论多十倍。我交了几笔学费列几个最痛的不要编造一定要具体化。光说不许编造数据没用小模型照样一本正经地胡说。你要告诉它如果你无法从工具返回结果中找到答案就直接说无法获取该信息禁止推测。把禁止行为变成明确指令效果立竿见影。输出格式最好让模型用代码块包着。比如让它返回JSON它有时候会在JSON前面加上好的这是你要的结果。你可以在提示词里加上你的回答必须以json开头以结尾不要包含任何其他文字。这招在对接自动化流程时特别关键。工具描述要像API文档一样写。你的工具函数对模型来说就是黑盒如果你只写search_bills(date_range)它不知道你能查到什么格式的数据。我在每个工具函数里都写了详细的description比如查询账单CSV支持格式YYYY-MM-DD返回内容包含date|amount|category|merchant。模型理解了工具的输入输出边界才能正确调用。5. 那些差点劝退我的坑完整的排查链路复盘5.1 本地模型出幻觉不是AI不行是数据没喂对有一次我的账单分类准确率突然从90%跌到70%我一开始怀疑是模型抽风换了好几个模型都没有明显改善。后来我一步步排查才发现问题出在输入的账单文本格式上。我用的OCR管道识别PDF时一开始是按页面顺序输出文本但有些银行账单的表格是分栏排版的OCR读出来的顺序完全乱了比如把支出和收入的数字错位。模型就是在基于一堆错乱的数据做分类准确率怎么可能高。这个排查过程让我意识到家庭的AI项目最脆弱的环节往往不是AI本身而是它前面那一段数据管道。我后来加了一步预处理逻辑把OCR结果按坐标排序后再拼接用PaddleOCR的use_angle_cls和box坐标信息能实现表格类文档则单独用表格识别模型处理。这一步修完之后准确率直接回到93%以上。5.2 定时任务神秘丢失Windows计划程序和路径编码的坑我的日报摘要脚本跑得好好的突然有一天早上没收到推送。我去查Windows任务计划程序显示上次运行结果0x2这个错误码意思是系统找不到指定的文件。我起初以为脚本被杀了手动跑一遍又完全正常。捣鼓了很久才发现是任务计划程序的工作目录起始于字段没设置正确导致脚本里用相对路径读配置文件时找不到文件。解决办法很简单所有路径全改成绝对路径并且在脚本最开始用os.chdir强制切到项目目录。这个坑真的太小了小到你在网上搜关键词都搜不到对应答案但它就是能卡你一整天。家庭用户折腾自动化最缺的就是这种环境问题排查手册我真心建议每部署一个脚本就把它依赖的所有路径、环境变量、启动方式写进一个README不然三个月后你自己都看不懂自己写的脚本。5.3 用Python调API超时不是网络问题是代码写得不够健壮云端大模型的API偶尔会超时尤其是长文本摘要任务。我最初的代码是一锤子买卖请求发出去就死等结果经常抛异常中断整条工作流。后来我加了重试机制和退避策略超时3秒自动重试重试次数3次每次重试等待时间翻倍3秒、9秒、27秒。这是一个很基础的工程习惯但对业余玩家来说真的能救大命。我见过太多人写AI脚本不设超时、不设重试、不设异常捕获跑一次崩一次然后得出结论AI自动化不靠谱。其实不是不靠谱是代码不够皮实。另外我学会了把一次性长任务拆成多个小请求。比如摘要一篇一万字的文章如果硬塞给模型即使API支持长上下文响应时间也长得可怕还容易半路超时。我先让模型分段总结每段一两千字再把所有分段总结合并起来二次提炼。这个分而治之的思路不仅提升了成功率还能让输出质量更高——大模型处理短文本的专注度明显比长文本好。6. 跑通之后的调参和优化让家庭AI系统真正好用6.1 模型选型的最终答案不同任务对应不同参数现在我的家庭AI工作流一共用了三套模型方案本地7B小模型qwen2.5:7b处理分类、OCR、字段提取本地14B量化模型deepseek-r1:14b用Ollama拉取处理需要一点推理的本地任务比如根据家庭支出数据给下个月做预算建议云端大模型处理创意写作、长文摘要、Agent复杂推理。每类任务严格分开不为了一件事去开一个大模型。为什么这样分核心原因是成本和质量的双重考虑。本地模型不要钱但能力天花板低云端模型能力更强但每次调用都花钱。如果一个任务用本地7B就能达到90分我真的没必要花两块钱去调云端API。但如果一个任务本地模型的输出会让你反复修改那不如爽快用云端省下来的时间远超API费用。这个权衡每个家庭玩家都应该算明白。6.2 提示词的持续迭代我在维护一个提示词版本库到这一步我发现自己的提示词已经多到记不清了于是建了一个提示词版本库每个任务一个Markdown文件记录首次编写日期、每次调整的原因、效果变化。这个习惯是看了很多开源Agent项目之后学来的。说实话很多Agent项目吹得天花乱坠但真实用起来效果不好最大的原因就是提示词写得太泛没有根据自己场景迭代。举个小例子我最初写摘要提示词就一句话请总结这篇文章后来迭代到十几行包括目标读者是谁我自己、摘要长度上限、必须保留数字和专有名词、禁止加入模型自己的建议除非明确要求。每次多一个约束输出可用度就上一个台阶。提示词迭代这件事不值得写进论文但它就是实打实地让我这个系统的效果从勉强能用变成了每天离不开。6.3 一个不算高级但很有用的系统监控土办法家庭AI系统跑久了最怕的就是哪天脚本悄悄失灵了你还没发现。我不会写什么高大上的监控平台就用了两个土办法日志滚动和**心跳文件**。所有任务脚本运行完都追加写一行日志我再写一个每周汇总脚本检查日志里有没有异常同时每个定时任务跑完会更新一个心跳文件我每天早上看一眼心跳文件的时间戳如果超过48小时没更新就知道某个环节挂了。这套办法谈不上智能但真的很有效。它让我这个业余玩家也能对自己的系统保持掌控感。很多人觉得自己搭的AI系统不稳定其实不是AI不稳定是你没给它建立反馈和报警机制。哪怕是最简单的出了问题就发我一条微信通知都会让系统可靠性上一个台阶。7. 写在最后我现在每天的真实感受折腾了大半年我对家庭AI工作系统的理解变得非常朴素它不该是炫技而是你生活的减负工具。我现在每天早上不会因为刷信息流焦虑账单月底自动汇总好文件归档基本不用手动整理旅行规划先让AI出三套方案我再拣选。省下来的时间没有被浪费而是花在了陪孩子、运动、看书这类真正想做的事情上。如果你也是业余小白我的建议很简单不要一上来就刷几百个AI工具教程先列出三件你最想解决的家务事试着用最简单的大模型脚本去跑通一个哪怕结果只有60分都没关系。方向对了剩下的就是持续迭代。这套系统的价值不在于技术含量而在于你愿意为它搭建、调整和维护——这个过程本身就是最值钱的收获。
