Купити криптовалюту
Оплачуйте
USD
USD
Купити та продати
Hot
Підтримує Visa, Mastercard, SEPA тощо
P2P
0 Fees
Гнучка торгівля, нульові комісії
Gate Card
Платіть криптовалютою по всьому світу
Ринки
Торгівля
Базовий
Просунутий рівень
Ф'ючерси
Ф'ючерси
Сотні безстрокових контрактів
CFD
Золото
Одна платформа для світових активів
Опціони
Hot
Торгівля ванільними опціонами європейського зразка
Єдиний рахунок
Максимізуйте ефективність вашого капіталу
Демо торгівля
Вступ до ф'ючерсної торгівлі
Підготуйтеся до ф’ючерсної торгівлі
Ф'ючерсні події
Заробляйте, беручи участь в подіях
Демо торгівля
Використовуйте віртуальні кошти для безризикової торгівлі
Акції США
CFD
CFD-деривативи на акції США
Ф'ючерси
Високе кредитне плече, торгівля 24/7
Токенізовані акції
Забезпечено реальними фондовими активами
GUSD
Мінтіть GUSD для отримання дохідності від казначейських RWA
Earn
Запуск
CandyDrop
tag
Збирайте цукерки, щоб заробити аірдропи
Launchpool
Швидкий стейкінг, заробляйте нові токени
HODLer Airdrop
Утримуйте GT і отримуйте масові аірдропи безкоштовно
Pre-IPOs
Отримайте повний доступ до глобальних IPO акцій.
Alpha Поінти
Ончейн-торгівля та аірдропи
Ф'ючерсні бали
Заробляйте фʼючерсні бали та отримуйте аірдроп-винагороди
Інвестиції
Square
Квадрат
Відкрийте для себе цінність криптовалют
Live
moments live
Аналіз крипторинку в реальному часі
Чат
Спілкуйтеся з криптотрейдерами
Новини
Останні новини в світі криптовалют
flower_head
Більше
Акції
AI
Інші
TradFi
Винагороди
Square
Останні
Популярні
Новини
Профіль

Δ-Mem：ефективна онлайн-пам’ять для великих мовних моделей

MeNews
robot
Генерація анотацій у процесі
ME News Новини, 16 травня (UTC+8), дослідники запропонували Δ-Mem, ефективну онлайн-систему пам’яті, спеціально розроблену для великих мовних моделей. Ця система зменшує споживання пам’яті, зберігаючи лише інкрементальні зміни активізації моделі, а не повний стан активізації. Експерименти показали, що Δ-Mem може зменшити використання пам’яті до 70%, при цьому майже не погіршуючи якість вихідних даних моделі. Цей метод сприяє розгортанню та запуску масштабних мовних моделей у ресурсозалежних середовищах, підвищуючи їхню можливість для онлайн-розрахунків та безперервного навчання. (Джерело: AiHot)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 6
  • 1
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
VineGeometry
· 1год тому
Де можна подивитися експериментальні дані? Хочу побачити втрати на конкретному завданні.
Переглянути оригіналвідповісти на0
AirdropMileCounter
· 1год тому
Δ-Mem + кількісне представлення, чи може це довести використання відеопам’яті до межі
Переглянути оригіналвідповісти на0
YieldSpring
· 1год тому
Ідея з інкрементальним збереженням дуже геніальна, вона нагадує людський мозок, який запам'ятовує лише змінені частини.
Переглянути оригіналвідповісти на0
DegenLibrarian
· 1год тому
Чи може виникнути проблема накопичення похибок у сценаріях безперервного навчання?
Переглянути оригіналвідповісти на0
PineLiquidityPool
· 1год тому
Якщо це інтегрувати до vLLM, пропускна здатність значно зросте
Переглянути оригіналвідповісти на0
QuantitativeButNotPretentious
· 1год тому
70% зниження пам’яті — це надзвичайно круто, крайові пристрої нарешті зможуть запускати великі моделі
Переглянути оригіналвідповісти на0

  • Закріплено

карта сайту