在短暂的激动过后，你发现仅有 4000 个 token 的上下⽂似乎不⾜以完成你想做的⼯作。
随后 GPT-4 发布，你发现有 32000 个 token 似乎⾜够了。
但是，你真的打算把整个代码仓库放⼊ 32000 个 token 中，然后等待它产⽣你今天的⼯作成果吗？看来 32000 个token 还是不够⽤的。
ChatGPT 的 5 种应⽤⽅式
按照从业余到专业，分为以下5种：
1. 输⼊少，输出多：例如，你想写⼀本⺠国穿越⼩说。然后等着 ChatGPT 把⼩说写出来。
2. 输⼊多，输出少：例如，给 ChatGPT 提供 5 条评论作为例⼦。然后让 ChatGPT 按照前 5 条的例⼦分类接下来的 3 条评论。你使⽤ ChatGPT 不是为了寻找创意，⽽是将其作为⼀个⼤量信息处理⼯具。处理规则复杂，难以⼿⼯完成，只能由AI推断。
3. ⾃⼰拆分任务：但是 token 不够⽤。为了解决这个问题，你可以提前把⼀个⼤任务拆分成多个⼩任务。然后每个⼩任务调⽤⼀次。最后再拼接起来。例如，要做⼀个超⼤⽂档的摘要任务。你可以将⽂档切成⼩块，然后让 ChatGPT 为每个⼩块做摘要。
4. 使⽤⼯具：让 ChatGPT 使⽤⼯具。也就是说，ChatGPT 输出的⽂本实际上是给你的指令。例如，ChatGPT说这题我不会，我想 Google ⼀下这个关键字。然后你按照 ChatGPT 的指令，去 Google 搜索，再把结果作为下⼀次的聊天内容喂回去。
5. 让 ChatGPT 分解任务：你帮助它分解任务毕竟是基于规则的算法，对问题的适应性有限。如果让 ChatGPT⾃⼰分解任务呢？
⼀、分解任务
核⼼思路都是⼤任务分拆成⼩任务，执⾏完再汇总。
如果你英语不错，还懂⼀点点编程技术，可以参考微软提供的提⽰词技巧军⽕库，⾥⾯有⼤量的使⽤⼲货。
⼆、调⽤⼯具
能够使⽤的⼯具⾥有两种是最强⼤的，也是Prompt最难写的：
主动调取召回记忆的⼯具：⽐如要求从向量数据库 Vector Database ⾥进⾏某个⾃然语⾔的查询。
求助于⼈：就是说这个题，条件不全啊。⽼师你给补充⼀个呗。
当我们⼿⼯分解任务的时候，需要把之前的任务的历史信息，发给后续的任务⾥做为输⼊。这样就很容易超过4000 token 的⻓度限制。如果能把对过去记忆的召回，也做为⼀种可选择的⼯具。让 ChatGPT 对于需要召回哪些历史信息给⼀个⾃主的选择。这个选择以对向量数据库 vector database 的搜索表达出来。那么似乎就可以节省⼤量的⽆意义的上下⽂context 传递。
这也是openai plugin的⼯作⽅式。