【ChatGPT超长聊天加载提速94%:741轮对话从28秒降到2秒】金色财经报道,OpenAI 正准备优化 ChatGPT 和 Codex 的超长对话体验,下周上线。内部测试一段 741 轮、231MB 的巨型聊天后,平均打开时间从 27.62 秒降到 1.66 秒,加载速度提升约 94%。这次优化主要针对聊天记录加载,不是模型回答速度提升。测试中,需要加载的对话条目从 15,529 个降到 64 个,请求次数从 894 次降到 16 次,整个 App 的内存增长也减少 41.2%。对于长期使用 ChatGPT 或 Codex 的用户,这能明显减少打开旧对话时的等待时间。过去一个超长线程越聊越卡,主要原因就是客户端需要处理大量历史消息;这次 OpenAI 直接减少了需要加载的数据量。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。