ChatGPT の超長いチャットおよび負荷速度 94%: 741 は 28 秒から 2 秒に切ります

OpenAIはChatGPTとCodexのハイパーロング会話体験を最適化する準備をしています。 内部テストでは、741-wheelの平均開口時間、231MBのメガチャットが27.62秒から1.66秒に減少し、負荷速度が約94パーセント増加したことがわかりました。 この最適化は、チャットレコードをロードする主に、モデルの応答の速度ではありません。 試験中、15,529から64に読み込まれるダイアログエントリの数が894から16に減少し、アプリケーション全体のメモリ増大が1セントで41.2減少しました。 永続的にチャットGPTやコーデックスを使っているユーザーは、古い会話を開くための待ち時間を大幅に削減します。