【AI黑话日日新】Day 070｜Prompt Compression（提示压缩）

提示压缩就是把又长又啰嗦的提示词删掉废话，让模型读懂任务的字数变少。1. 它到底在说什么Prompt Compression（提示压缩）指的是：在不改变任务目标、尽量不损失答案质量的前提下，把送进大模型的提示词（prompt）缩短，让里面的 token 数量减少。打个比方：你让同事帮忙办事，原先写满三页邮件，把背景、来历、客套都说一遍；提示压缩相当于把三页删成半页要点——把“谁、什么背景、要什么”留下，把重复、铺垫、客套删掉。模型读半页照样把事办好，但你省下了邮件字数，也就是 token 和钱。它和“摘要”不是一回事：摘要是把内容重新讲一遍，可能改写数字、改变语气、甚至引入幻觉；提示压缩是尽量删掉低价值 token、保留原句的关键片段，目标不是生成一段漂亮短文，而是让原模型仍能完成原任务。2. 为什么现在这个词很热这个方向的底层动机很朴素：2023 年中，随着 Chain-of-Thought（思维链，CoT）、In-Context Learning（上下文学习，ICL）和 RAG（检索增强生成）普及，送进模型的提示词越来越长，常常上万 token；而主流 API 按 token 计费，“长提示=高成本”成了真实痛点。2023 年 10 月，微软发表 LLMLin