简介面向AI写诗与自然语言处理研究者的完整项目资源包基于清华大学MixPoet项目在Windows11环境下完成训练与适配适合具备一定Python基础、希望复现或改进古诗词生成模型的开发者使用。此压缩包共102个文件、约260MB包含可直接加载的已训练模型权重、模型定义与训练推理的Python源码、运行依赖配置、样例输出及说明文档其中py脚本便于修改调试pyc为编译后字节码pickle/pkl保存模型参数txt记录参数或运行日志sample目录存放模型生成的诗句样例json/xml提供项目配置内容结构清晰。已有321人学习下载参照博文说明即可在Windows11上加载模型体验五言、七言等不同体裁的自动写诗也可自行调整训练参数微调模型或利用Git元数据追溯项目修改记录适合作为NLP古诗生成方向的参考资源。1. 在 Windows 11 上跑 MixPoet先想清楚它是什么假设你在一台 windows11 笔记本上想复现清华大学的 MixPoet 写诗模型——你下载了权重和训练代码装好了 Python然后呢直接用generate不一定能得到诗因为 MixPoet 不是现成一键调用的 API它是一整套可控 AI 写诗实验代码自定义 tokenizer、独有的条件拼接格式、一堆必须调好的采样参数。这篇文章不打算复述论文而是顺着在 windows11 本地把它跑通的最小路径写环境哪些坑、模型权重怎么加载、生成参数怎么设、微调之后怎么验证。新手照着敲熟手可以直接跳到 3.3 和 4.3 看参数与排查。2. 在 Windows 11 上配置 MixPoet 的 Python 运行环境2.1 先装对 Python 和 PyTorchCPU 版与 CUDA 版怎么选MixPoet 的模型基于 PyTorch 构建推理至少需要一个可用的 Python 3.8项目代码在 3.83.11 之间都能跑。这里要先确认一件事你的机器有没有 NVIDIA 显卡。打开 PowerShell 输入nvidia-smi有输出说明驱动正常按输出顶部的 CUDA 版本通常是 12.x 或 11.8安装匹配的 PyTorch# 创建虚拟环境并激活PowerShell python -m venv mixpoet-venv .\mixpoet-venv\Scripts\Activate.ps1 # 安装 CUDA 12.1 版 PyTorch pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121 # 如果你没有独显换成 CPU 版 pip install torch --index-url https://download.pytorch.org/whl/cpu # MixPoet 推理与微调需要的周边库 pip install transformers tokenizers tqdm pandas这段命令的逻辑是虚拟环境把 MixPoet 写诗代码的依赖和系统 Python 隔离避免 pip 版本冲突PyTorch 的安装源由 CUDA 版本决定cu121表示编译时针对 CUDA 12.1装错会导致torch.cuda.is_available()返回 False。注意即便装了 CUDA 版普通 CPU 推理也能跑只是速度慢一些七绝一首大约 510 秒。常见做法是先用 CPU 版把整条链路跑通确认代码逻辑没问题再装 CUDA 版提速。特别是你在 windows11 上第一次跑这个项目时显卡驱动版本、PyTorch 编译版本、CUDA runtime 三个东西有一条对不上就会在import torch时报错而且报错信息又长又绕非常劝退。2.2 中文输出乱码Windows 11 控制台编码的两个坑windows11 下跑 MixPoet第一个可能让你怀疑人生的现象是模型生成的诗在终端里全是秋夜或这样的乱码。原因不在模型而在 Python 标准输出和 PowerShell 的编码不一致——PowerShell 默认用系统区域码中文系统是 GBK解码 UTF-8 字节流。解决办法有两个任选其一即可# 在启动虚拟环境前设置环境变量PowerShell $env:PYTHONIOENCODING utf-8 $env:PYTHONUTF8 1或者在 Python 脚本开头强制重接标准输出import sys, io sys.stdout io.TextIOWrapper(sys.stdout.buffer, encodingutf-8)2.3 一条命令验证环境就绪环境配好之后执行这条最小检查python -c import torch, transformers; print(cuda:, torch.cuda.is_available(), torch:, torch.__version__, transformers:, transformers.__version__)如果输出cuda: True直接进入下一章。如果cuda: False回到 2.1 用--index-url重新安装带 CUDA 的 PyTorch或确认你的驱动支持对应的 CUDA 版本。这个结果直接决定后续推理跑 CPU 还是 GPUMixPoet 做诗生成属于自回归逐字预测GPU 能把速度拉到每秒几十字CPU 上就基本是等着。提示在 windows11 上如果你不打算用 GPU 微调CPU 版完全够用。不要为了追求 CUDA 而在驱动和 PyTorch 版本之间周旋先跑通再优化省下的时间足够你多调一百首诗的采样参数。3. 加载 MixPoet 本地模型并生成第一首诗3.1 模型权重与词表文件的识别方式MixPoet 发布的时间比较早权重文件不一定是 HuggingFace 的标准pytorch_model.bin格式而更可能是torch.save()保存的.pt或.pth文件。拿到手先看目录结构权重目录里通常有一个vocab.json词表、一个config.json模型结构配置权重本身可能叫model.pt或者pytorch_model.bin。加载本地模型的关键是看src/下的模型定义类有没有from_pretrained方法。如果有直接用from mixpoet import MixPoetModel, Tokenizer ckpt_dir checkpoints/mixpoet_zh model MixPoetModel.from_pretrained(ckpt_dir) tokenizer Tokenizer.from_pretrained(ckpt_dir)如果权重是裸.pt文件而项目没有封装加载逻辑手动加载也就三行import torch model MixPoetModel(config) state_dict torch.load(checkpoints/mixpoet_zh/model.pt, map_locationcuda if torch.cuda.is_available() else cpu) model.load_state_dict(state_dict)map_location参数在 windows11 上必须写上。因为这个权重大概率是在 Linux 训练服务器上保存的不指定map_location时torch.load()可能报序列化错误或直接把权重加载到不存在的设备上。3.2 最小生成脚本从条件提示到完整诗句MixPoet 是可控生成模型输入不能只是一句「写首诗」结构化的 prompt 是必须的。典型模板是把主题、诗体拼接成一个带标记的字符串import torch from mixpoet import MixPoetModel, Tokenizer ckpt_dir checkpoints/mixpoet_zh model MixPoetModel.from_pretrained(ckpt_dir) tokenizer Tokenizer.from_pretrained(ckpt_dir) prompt 主题:秋夜形式:七绝 input_ids tokenizer.encode(prompt, add_bosTrue, return_tensorspt) if torch.cuda.is_available(): model model.cuda() input_ids input_ids.cuda() with torch.no_grad(): output model.generate( input_idsinput_ids, max_length52, # prompt长度 28字正文4句×7字 do_sampleTrue, temperature0.85, top_k40, top_p0.92, repetition_penalty1.2, no_repeat_ngram_size2, num_return_sequences3, eos_token_idtokenizer.eos_token_id, pad_token_idtokenizer.pad_token_id ) for i, seq in enumerate(output): poem tokenizer.decode(seq.tolist()).replace(prompt, ).replace([SEP], \n) print(f候选 {i1}:\n{poem}\n)逻辑分三段先让 tokenizer 把结构化提示转成 token 序列然后模型按自回归方式逐个字生成最后解码回中文并去掉 prompt 前缀得到完整诗句。num_return_sequences3的意思是同一提示生成三首候选方便挑选代价是推理时间和内存约等于三倍。3.3 采样参数对诗风的影响与一组推荐范围MixPoet 生成诗的质量并不完全取决于模型本身采样参数的影响甚至更大。下面这张表是我在 windows11 上反复调过之后觉得比较可靠的区间参数常用取值范围对输出效果的影响temperature0.70.95越低越保守越高越跳脱超过 1.0 会出现不通顺的病句top_k2060只从概率最高的前 K 个字中采样压低冷僻字出现的概率top_p0.850.95累积概率截断和top_k同时使用时取两者约束的较小集repetition_penalty1.11.4对已生成的字降权防止同字反复出现超过 1.5 诗句会显得生硬no_repeat_ngram_size23禁止相同两字组合重复出现是解决复读问题的第一道防线一首合格的七绝需要满足「平仄、押韵、对仗、意象」四个维度的约束采样参数更多是保证流畅度韵律层面靠的是模型在预训练时学到的格律知识。想要险怪风格就调高temperature到 0.95 同时把repetition_penalty降到 1.1想要稳妥工整就走 0.8 1.3 的组合。跑通生成之后多试几组参数你对 MixPoet 的表现边界会有直观感受。4. 用 MixPoet 代码在 Windows 11 上微调训练自己的诗风4.1 训练数据格式主题、诗体与诗句的拼接规则微调的语言模型需要复现预训练阶段看到的数据分布。MixPoet 的目标是「给主题和诗体生成对应诗句」所以训练数据要组织成「条件 完整诗句」的同一序列。一个推荐的格式是 JSON Lines{theme: 春日, form: 五绝, poem: 春眠不觉晓处处闻啼鸟。} {theme: 秋思, form: 七绝, poem: 洛阳城里见秋风欲作家书意万重。}构建 PyTorch Dataset 时将 poem 按标点切分并使用[SEP]连接最终把「主题 诗体 诗句」拼成一个字符串后编码from torch.utils.data import Dataset class PoemDataset(Dataset): def __init__(self, tokenizer, lines, max_len64): self.tokenizer tokenizer self.samples [] for line in lines: poem line[poem].replace(, [SEP] ).replace(。, [SEP] ) text f主题:{line[theme]}形式:{line[form]} {poem} ids tokenizer.encode( text, max_lengthmax_len, paddingmax_length, truncationTrue ) self.samples.append(ids)这里的关键是保持 prompt 模板和推理时完全一致主题:、形式:、空格分隔一个字符都不能差。训练和推理的输入分布一旦错位模型生成质量会断崖式下跌。max_len64对五绝、七绝都够用因为序列长度由「主题 48句诗 [SEP]」组成很少会超过 60 个 token。4.2 微调训练学习率、batch size 与梯度裁剪在 windows11 本机做微调显存约束是第一位的。8GB 以下显存建议关闭fp16直接 FP32batch size 设为 24。虽然慢一些但胜在稳定。核心训练代码from transformers import AdamW, get_linear_schedule_with_warmup optimizer AdamW(model.parameters(), lr2e-5) total_steps len(dataloader) * epochs scheduler get_linear_schedule_with_warmup( optimizer, num_warmup_steps200, num_training_stepstotal_steps ) for epoch in range(3): for step, batch in enumerate(dataloader): batch {k: v.cuda() if torch.cuda.is_available() else v for k, v in batch.items()} outputs model(**batch, labelsbatch[input_ids]) loss outputs.loss loss.backward() torch.nn.utils.clip_grad_norm_(model.parameters(), 1.0) optimizer.step() scheduler.step() optimizer.zero_grad()几个参数的选型理由lr2e-5是微调预训练语言模型的安全默认值太大会让模型把预训练学到的格律信息忘掉只记住你给它的几百首诗的字面内容。clip_grad_norm_1.0是防止梯度爆炸的标准设置在长序列自回归训练中比 lr 调度更能保护模型的稳定性。epochs3是针对小数据集的保守选择数据越少epoch 数越要压缩。判断微调成功的标志loss 从初始的 4.x 降到 2.x 附近并趋于平缓生成测试主题时能产出一首平仄大致合格、主题相关的诗。如果 loss 低于 1.5 还在继续降说明已经在背诵训练语料生成时大概率整句复读。4.3 微调后生成崩坏的三个排查方向微调完立刻生成结果却不对别急着回滚权重按顺序排查以下三点。第一查 tokenizer 是否换了。微调时用的vocab.json必须和推理时同一个换了词表会导致 token id 错位解码出来全是乱字符。第二查max_length是否超出训练序列上限。训练时最长样本是 64 token推理时总长度不要超过 64。windows11 上显存不够时超长生成会直接CUDA out of memory这时候先降max_length再考虑降 batch。第三查 prompt 模板是否与训练完全一致。微调脚本里写的是主题:春日形式:五绝推理时写成主题:春 日或者形式五绝都会让模型进入概率分布的盲区。记一条可控生成模型对格式的敏感度超乎预期模板即约束。5. 批量生成与押韵一致性检查的验证技巧手动一首首看生成效果太慢也看不出参数调整的方向。更好的做法是写一个批量验证脚本让 MixPoet 连续生成 50 首用两个客观指标做回归判断重复字率和押韵通过率。import re from collections import Counter def repetition_score(poem): 去标点后字的去重占比1.0 为完全无重复字 chars re.sub(r[。\s], , poem) return len(set(chars)) / len(chars) def rhyme_score(line1, line2, rhyme_dict): 检查偶数句尾字是否同韵rhyme_dict 为声韵映射表 tail1 line1.rstrip(。)[-1] tail2 line2.rstrip(。)[-1] return tail1 in rhyme_dict.get(tail2, []) or tail2 in rhyme_dict.get(tail1, []) # 批量生成后统计 poems ... # 上一章 generate 循环收集的 50 首候选 rep_scores [repetition_score(p) for p in poems] print(f平均重复率: {sum(rep_scores)/len(rep_scores):.2f})repetition_score接近 1.0 说明每个字都尽量不重复低于 0.6 说明这首诗有严重的复读问题需要把repetition_penalty往上调。rhyme_score需要一个声韵表可以直接在 windows11 上读取开源拼音库再按平水韵聚合然后把奇数句中第二句和第四句的尾字做比对。这两个数字不评价诗意但它们能告诉你参数朝哪个方向移动了。最后单独提醒一个 windows11 的细节用open(results.txt, w, encodingutf-8)写生成结果不要用不带 encoding 参数的默认写法。在中文区域系统上 Python 默认按 GBK 写文件轻则其他工具读不了重则在读取已保存的诗句时直接抛UnicodeDecodeError。把编码写在每个文件操作里这是整个项目在 windows11 本地跑的最后一厘米也是文本类 AI 项目最容易忽略的一环。本文还有配套的精品资源点击获取
