Проект Galaxy: масштабирование отечественной инфраструктуры чипов AI
SenseTime запустила проект Galaxy, целью которого является масштабирование отечественной инфраструктуры чипов AI в Китае. В ключевой речи под названием 'Интеллектуальная трансформация и симбиоз' Yang Fan, сооснователь и президент подразделения Large Device Business Group компании, представил закрытый цикл, соединяющий технологии чип-уровня, партнерские экосистемы и коммерческое развертывание отечественной вычислительной мощности AI.
Проект Galaxy включает в себя сотрудничество с почти 20 партнерами, целью которого является масштабирование отечественной инфраструктуры чипов AI в Китае. SenseTime подписала соглашение о сотрудничестве в области космических вычислений с производителем спутниковой техники Guoxing Aerospace и заключила соглашение о сотрудничестве в области научных вычислений с пятью институтами, включая лабораторию искусственного интеллекта в Шанхае.
Yang Fan подчеркнул, что время запуска проекта Galaxy совпало с тремя конвергирующимися тенденциями: ростом спроса на токены в корпоративных развертываниях, увеличением приема промышленного ИИ и достижением точки, когда коммерциализация отечественных чипов позволяет развертывать интеллектуальные вычислительные центры на основе китайского кремния.
Технологии и результаты
SenseTime представила технологии, которые позволяют повысить эффективность вычислений на отечественных чипах. Компания утверждает, что ее технология гибридного инференса обеспечивает увеличение использования Model FLOPs на 85-152% по сравнению с основными отечественными чипами. Кроме того, SenseTime утверждает, что ее технология инференса более эффективна, чем аналогичные технологии Nvidia.
SenseTime также представила метрику Tokens Per Watt, которая заменяет традиционную меру эффективности вычислений. Компания утверждает, что ее технология позволяет повысить производительность вычислений на 80% по сравнению с традиционными методами.
Партнеры и планы
Проект Galaxy включает в себя сотрудничество с рядом отечественных компаний, включая Cambricon, Muxi, Hygon, Huawei Ascend, Moore Threads, Sunrise и Biren Technology. SenseTime также сотрудничает с рядом компаний, занимающихся компонентами и инфраструктурой.
План проекта Galaxy включает в себя строительство одного «фабрики токенов» и пяти вычислительных кластеров на «10 000-калорийном» уровне. SenseTime также планирует совместную работу по десяти направлениям технологий.