简而言之
换话题时就开启新对话;如果一段长对话仍然有用,就请 AI 做一个简短回顾,再在新对话中从这份回顾继续。聊天机器人通常要重新读取之前的全部对话才能回答每条新消息,所以很长的对话会让每次回复都比实际需要的更耗能。
步骤
- 每个新话题或新任务都开启一个新对话。
- 当长对话进展到有用的阶段时,请 AI 写一份五行摘要。
- 把这份摘要粘贴到新对话中,从那里继续。
- 从大型粘贴文档中得到所需内容后,就把它从对话中移除。
- 避免让一个“包罗万象”的对话连续几周开着。
长对话每多一条消息,成本就更高一些。 为了回答您,聊天机器人通常要处理之前的全部对话,而不只是您最新的一句话。经过几十轮来回,再加上粘贴的一两份报告,每次新回复都可能要读取成千上万个 token(词元)的历史记录。
输入长度有多大影响?
影响很大。 Epoch AI 估计,一次典型的 ChatGPT 查询约耗电 0.3 Wh;输入为 10,000 个 token 时约为 2.5 Wh,输入为 100,000 个 token 时接近 40 Wh。一段粘贴了文档的超长对话,可能让每次回复都接近较高的数字。有些服务会在后台缓存或裁剪历史记录,所以实际成本各不相同,而且很少公开。
如何让对话保持精简?
- 一个话题,一个对话。 这样回答也更有针对性,因为模型不会被旧的上下文干扰。
- 回顾后重新开始。 请 AI“用五行总结我们已经商定的内容”,然后带着这份摘要开启新对话。
- 粘贴摘录,而不是整个文件。 一旦提取出所需内容,对话中就不再需要原文。
- 使用项目或保存的指令:如果您的工具提供这些功能,就用它们保存原本需要反复说明的偏好。
常见错误
- 把一个巨大的对话当作笔记本。 把笔记保存在别处,只带入相关的内容。
- 在同一个对话中多次重新粘贴同一份文档。
- 以为记忆是免费的。 模型需要考虑的任何内容,都仍然要经过处理。
如果您开发聊天工具,同样的道理也适用于代码:请参阅让聊天机器人不再重复发送整段对话。更多技巧请参阅高效使用 AI。
来源
- How much energy does ChatGPT use?, Epoch AI (2025)
- What are tokens and how to count them?, OpenAI Help Center (2025)
相关内容
如何写出更节能的提示?
如何写出所需计算更少的 AI 提示:具体明确、设定长度、只粘贴相关内容,并争取一次写对,而不是反复重试。
如何避免聊天机器人每次都重新发送整段对话?
如何让聊天机器人的上下文保持精简:限制历史轮次,总结较早的消息,只检索相关内容,并缓存固定提示,让输入不再不断增长。
如何减少我使用 ChatGPT 的能耗?
减少使用 ChatGPT 及类似聊天机器人能耗的实用方法:缩短对话,减少重新生成,选用更轻量的模型,少生成图像。
高效使用 AI:日常习惯
降低 AI 使用能耗的日常习惯:清晰的提示、减少反复重新生成、慎用图像和视频、利用缓存,以及关闭默认开启的功能。