AIMPACT сообщение, 15 мая (UTC+8), на PyTorchCon Europe 2026, Эдвард Янг из Meta в ходе ключевой речи объяснил причины, по которым разработчики считают, что тензорное параллелизм трудно использовать, и представил исследования PyTorch по обнаружению ошибок на этапе проверки типов с помощью типов SPMD. В выступлении также были освещены последние достижения PyTorch: стабилизация torch.compile, поддержка обработки динамических форм и переменных размеров входных данных; улучшения в распределённом обучении, интеграция FSDP и DDP для снижения коммуникационных затрат; расширение инструментов квантизации с поддержкой INT4 и FP8; обновления для TorchRec и TorchServe; улучшенная нативная поддержка Apple Silicon (MPS) и AMD GPU (стек ROCm); введение новых инструментов аудита и сканирования зависимостей для безопасности. В сообществе также представлены оптимизации алгоритмов torchao и лёгкий фреймворк для вывода torchchat. Будущие направления включают более эффективное автоматическое дифференцирование, оптимизацию разрежённых вычислений и глубокую интеграцию с фреймворками обучения LLM. (Источник: InFoQ)

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

Награда
лайк
комментарий
Репост
Поделиться

комментарий

Добавить комментарий

Нет комментариев

Популярные темы
Подробнее
#
TradfiTradingChallenge
232.28K Популярность
#
GrayscaleBuysAndStakesOver510KHYPE
8.91M Популярность
#
IsraelStrikesIranBTCPlunges
48.48K Популярность
#
#DailyPolymarketHotspot
1.02M Популярность
#
SpaceXOfficiallyFilesforIPO
749.23K Популярность

Закреплено

Карта сайта

Эдвард Ян подробно объясняет параллелизм тензоров и проверку типов SPMD на PyTorchCon Europe

Популярные темы

TradfiTradingChallenge

GrayscaleBuysAndStakesOver510KHYPE

IsraelStrikesIranBTCPlunges

#DailyPolymarketHotspot

SpaceXOfficiallyFilesforIPO

Закреплено