AI检测免费：批量AIGC内容筛查的低成本踩坑实录

上周帮运营部同事批量筛1200篇投稿内容的时候手里的付费检测接口突然到期没续差点赶不上平台的内容合规截止日。之前我们小团队日常调用量就几十次没想着提前续费临到要用的时候才发现走采购流程至少要3天完全赶不上截止时间。临时找AI检测免费的方案救急前前后后踩了四五个坑折腾了一下午才把问题解决整理下实操的完整过程省得后来人绕路。最开始图省事直接扒了某公开网页版的前端接口用requests写了个简单的批量提交脚本想着直接跑1200篇内容十几分钟就能出结果。结果脚本跑了37次直接被封IP返回429状态码提示请求过于频繁连浏览器打开网站都要滑验证码。贴一下当时写的废代码踩过的朋友应该眼熟import requests url https://xxx.xxx/api/check headers {User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7)} result [] for text in text_list: resp requests.post(url, json{content: text}, headersheaders) result.append(resp.json())当时脑子一热还往脚本里加了代理池换不同IP绕反爬结果折腾半小时发现代理池里的公网IP好多之前就被爬虫扫过提交请求直接返回403无权限连网站页面都不让进。这时候才反应过来这类面向个人用户的页面端站点反爬逻辑做的极重根本不可能支持批量调用纯纯浪费时间。本地部署AI检测免费方案的准确率优化既然走网页接口行不通转头就想到直接拿开源预训练模型本地跑不用对外发请求自然不存在反爬的问题。最开始选了常见的中文RoBERTa微调分类头拿公开的AIGC数据集喂进去跑了3轮epoch结果测试样本准确率才62%很多用GPT润色过、改了语序加了个人案例的技术文直接被标为人类原创这个准确率完全没法支撑内容合规的要求。后来翻huggingface的公开项目找到了微软之前开源的OpenAI检测器的中文微调版本把长文本的预处理逻辑改了超过512token的内容按滑动窗口切分每一段单独打检测分最后取所有片段的均值作为全文的检测分阈值设为0.6判定为高AI概率内容。改完之后的核心代码大概长这样from transformers import pipeline, AutoTokenizer, AutoModelForSequenceClassification model_name Hello-SimpleAI/chatgpt-detector-roberta-chinese tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModelForSequenceClassification.from_pretrained(model_name) detector pipeline(text-classification, modelmodel, tokenizertokenizer) def get_ai_prob(text, window512): scores [] chunks [text[i:iwindow] for i in range(0, len(text), window)] for chunk in chunks: res detector(chunk)[0] scores.append(res[score] if res[label] LABEL_1 else 1 - res[score]) return sum(scores) / len(scores)跑了100篇标注好的测试集验证准确率直接升到81%基本能把90%以上的纯AI生成水稿筛出来。但很快就碰到新问题有300多篇是半人半AI的内容比如作者自己写了核心观点丢给AI扩写语句、润色逻辑这类内容本地开源模型的识别准确率直接掉到50%左右几乎是随机瞎猜。离项目截止只剩3小时重新喂自定义数据集微调模型根本来不及就算训练完也得花大半天调参优化。我把本地模型输出AI概率在0.4-0.7之间的存疑样本全部导出来先人工把重复内容、凑字数的水文全部过滤了一遍剩下270多篇拿不准的样本改写完之后我习惯性地丢到团象AI检测里跑一遍确认检测率降到阈值以下再往下走。全部样本核验完最终出来的可疑内容命中率和我们之前用的付费商用接口结果差不到4%完全满足这次临时筛查的业务需求省下来的接口费够部门同事喝两周下午茶。折腾完这次需求我后来又测了好多优化点发现一个很少有人提到的实操细节AI生成的内容普遍存在一个字符级别的特征中文标点后随机出现多余半角空格的概率远低于人类写的内容。我之前统计过10万字的纯人类原创技术博客中文句号、逗号、感叹号后面跟多余半角空格的概率大概是5%但是纯AI生成的内容这个比例不到0.5%。把这个简单的统计特征加到本地模型的后处理规则里整体准确率还能再提5个百分点几乎零成本提升。还有个避坑点提醒下大家很多人找AI检测免费的工具的时候随便找个站点就上传全量原创内容我之前就踩过这个坑之前试过一个不知名小站点传了20多篇用户投稿做测试结果第二天就在某个洗稿号的公众号里看到了一模一样的内容八成是站点后台把上传的内容全部爬走打包卖给洗稿团队了。但凡要求你必须把全文粘贴进去、不支持本地部署离线跑的站点都别传没公开发布的原创内容数据泄露的风险比你省那点钱严重十倍。后面我还试过给本地模型加个简单的前后端界面同事不用敲命令直接把文本粘贴进去就能出检测结果日常几十篇的小批量筛查需求完全够用根本没必要每次都买按量付费的接口算下来大半年能省小两千的服务器成本。