常见问题 ​

为什么 GPT-4 或 GPT-3.5 无法辨认自身的版本？ ​

首先，如果你询问 GPT-4：你是 GPT-4 吗？它很有可能会回答：我是 OpenAI 的 GPT-3 模型，目前尚未推出 GPT-4。 这种现象背后的原因是，OpenAI 提供的 GPT-4 API 使用的训练数据截止到 2021 年 9 月。当模型训练完成后，若不再次进行训练，它所包含的知识并不会自动更新。就像你在 2021 年无法回答 2023 年发生了什么事一样，给出的答案必然是错误的。

如何区分 GPT-3.5 和 GPT-4？ ​

你可以尝试提问：“树上有 9 只鸟，猎人开枪打死一只，树上还剩下多少只鸟？” 在 90%的情况下，GPT-3.5 都会回答剩下 8 只鸟； 而 GPT-4 则大概率会回答剩下 0 只鸟，因为其他的都被吓跑了。 如果这个问题测试不出来，你可以新建上下文或者多试几次，请不要在一个上下文内连续询问。

Tokens 是什么？ ​

Token 是 GPT 处理文本的基本单位。简而言之，Token 可以是一个字、一个词或特定语言中的一个字符。它们负责将输入的文本数据转换为 GPT 可以处理的数据格式。1000token约750词，约400汉字。 每个 GPT 模型都有一个预设的最大 Tokens 数量。例如，GPT-3 允许处理的最大 Tokens 数量约为 4096。需要注意的是，这个数量包括输入和输出的所有 Tokens。

timeout设置多少合适？ ​

• gpt-3.5 建议设置120秒
• gpt-4 建议设置10分钟 600秒
• 建议使用流输出，非流试输出很容易触发timeout
• 流试输出(打字效果)，请参考快速接入 的🚀js实现sse打字效果 部分