#inference-optimization×

NVIDIA TwoTower: швидша генерація LLM без втрати якості

Nemotron-Labs-TwoTower від NVIDIA прискорює генерацію в 2,42 раза, зберігаючи 98,7% якості, завдяки поділу на Context і Denoiser Tower.

cpaua3 год тому3 хв8