Xiaomi разогнала MiMo-V2.5-Pro до 1000 токенов в секунду


Компания Xiaomi запустила режим UltraSpeed для своей флагманской языковой модели MiMo-V2.5-Pro, входящей в семейство MiMo. Разработка велась совместно с компанией TileRT, а сама модель насчитывает триллион параметров и способна функционировать на универсальных графических процессорах. Главным достижением режима UltraSpeed стала скорость генерации, превысившая отметку в 1000 токенов в секунду. По заявлению Xiaomi, добиться этого результата удалось