一个控制ChatGPT的token爆炸的想法

我在设想一种，仿照真实聊天方式的ChatGPT的请求方式。这只是一种优化。

目的：

• 减少token使用，降低成本并提升回复消息大小上限
• 使请求体大小和token数不会随着时间线性增长

方法：

[ system 规则 ] + [ user 最近一个问题 ] + [ assistant 对消息记录的查询请求 ] + [ system 回复 ]

• 返回类型

没成功，ChatGPT不理解我的提示