Партнёр-основатель Moore Threads Ван Дун: в AI-рынке нет «универсального чипа», а есть комбинация решений

Odaily星球日报 сообщает: основатель и исполнительный генеральный директор GPU-компании Moore Threads Ван Дун заявил: «Развитие больших моделей как в Китае, так и за рубежом происходит очень быстро. Сейчас ведущие компании в среднем каждые два месяца завершают итерацию версий передовых базовых моделей. При этом по затратам на вызов моделей мы обнаружили, что у китайских передовых базовых моделей по сравнению с зарубежными моделями сопоставимого интеллектуального уровня есть заметное ценовое преимущество — китайские модели дают более выгодное соотношение цены и качества. Это как раз и показывает, что компании, создающие модели, в условиях ограниченных вычислительных мощностей проделали очень много работы над тем, как повышать эффективность моделей, ценовую эффективность и стоимость обучения».

Ван Дун отметил, что на рынке инференса нет «универсального чипа», а есть комбинация «решений». «Технический порог для применений на рынке инференса относительно невысок, а сценарии сильно фрагментированы: не существует ни одной компании, которая могла бы монополизировать все сегменты приложений. Не бывает абсолютно идеального единого оборудования. Благодаря гибкому взаимодействию “железа” и ПО каждая модель может найти наиболее подходящую комбинацию аппаратных средств и обеспечить оптимальный баланс между стоимостью и производительностью. На рынке появится множество ISP-компаний, которые будут предоставлять для провайдеров MaaS или конечных клиентов более выгодные по цене, более гибкие и поддающиеся кастомизации инференс-сервисы».