OpenAI Codex: оновлення прискорює завантаження довгих діалогів

В OpenAI показали результати масштабного оновлення продуктивності Codex, яке має вийти наступного тижня.

Воно має помітно пришвидшити завантаження дуже довгих діалогів, водночас знизивши споживання пам'яті та кількість запитів.

На екстремальному тесті з діалогом на 741 повідомлення та обсягом 231 МБ:

• час завантаження скоротився з 27,6 до 1,7 секунди
• кількість запитів зменшилася на 98%
• завантажуваних елементів листування стало на 99,6% менше
• зростання споживання пам'яті застосунком знизилося на 41%