Anthropic переробила потокове виведення Claude: у 4 рази плавніше

Anthropic повністю переробила потокове виведення в Claude для вебу та десктопа.

Довгі відповіді тепер відображаються приблизно в 4 рази плавніше.

Замість постійного перемальовування всієї відповіді інтерфейс оновлює лише ту частину, яка справді змінюється.

На слабких ноутбуках це знижує кількість зависань до 9 разів, а на MacBook з екраном 120 Гц Claude може утримувати 120 кадрів на секунду протягом усієї довгої відповіді.

У демонстрації навантаження на процесор при цьому впало приблизно з 48% до 16%.

При цьому сама модель не стала генерувати токени швидше. Anthropic просто радикально прискорила те, як інтерфейс показує вже згенерований текст.