Acheter Cryptos
Payer en
USD
USD
Acheter & Vendre
Hot
Visa, Mastercard, SEPA et bien plus
P2P
0 Fees
Trading flexible, zéro frais
Gate Card
Payez partout avec vos cryptos
Marchés
Trader
Basique
Avancé
Futures
Futures
Accédez à des centaines de contrats perpétuels
CFD
Or
Une plateforme pour les actifs mondiaux
Options
Hot
Tradez des options classiques de style européen
Compte unifié
Maximiser l'efficacité de votre capital
Trading démo
Introduction au trading futures
Préparez-vous à trader des contrats futurs
Événements futures
Participez aux événements et gagnez
Demo Trading
Utiliser des fonds virtuels pour faire l'expérience du trading sans risque
Actions américaines
CFD
Produits dérivés CFD sur actions américaines
Futures
Effet de levier élevé, trading 24h/24 et 7j/7
Actions tokenisées
Adossé à de véritables actions
GUSD
Mint GUSD pour des rendements de Treasury RWA
Earn
Lancer
CandyDrop
tag
Collecte des candies pour obtenir des airdrops
Launchpool
Staking rapide, Gagnez de potentiels nouveaux jetons
HODLer Airdrop
Conservez des GT et recevez d'énormes airdrops gratuitement
Pre-IPOs
Accédez à l'intégralité des introductions en bourse mondiales
Points Alpha
Tradez on-chain et gagnez des airdrops
Points Futures
Gagnez des points Futures et réclamez vos récompenses d’airdrop.
Investissement
Square
Square
Découvrir la valeur en crypto
Live
moments live
Analyse en temps réel du marché des cryptomonnaies
Discussion
Discutez avec des traders de cryptomonnaies
Actualités
Ce qu'il se passe dans le monde de la crypto
flower_head
Plus
Promotions
AI
Autres
TradFi
Récompenses
Posts
Plus récents
Populaire
Actualités
Profil

Δ-Mem : Mémoire en ligne efficace pour les grands modèles de langage

MeNews
robot
Création du résumé en cours
ME News Actualités, le 16 mai (UTC+8), des chercheurs ont proposé Δ-Mem, un système de mémoire en ligne efficace conçu spécifiquement pour les grands modèles de langage. Ce système réduit considérablement l'utilisation de la mémoire en ne stockant et en mettant à jour que les changements incrémentiels dans l'activation du modèle, plutôt que l'état complet de l'activation. Les expériences montrent que Δ-Mem peut réduire l'utilisation de la mémoire jusqu'à 70 %, tout en maintenant la qualité de sortie du modèle pratiquement inchangée. Cette méthode aide à déployer et à faire fonctionner des modèles de langage à grande échelle dans des environnements à ressources limitées, améliorant leur faisabilité dans les scénarios d'inférence en ligne et d'apprentissage continu. (Source : AiHot)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 6
  • 1
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
VineGeometry
· Il y a 3h
Où puis-je voir les données expérimentales ? Je veux voir la perte sur la tâche spécifique.
Voir l'originalRépondre0
AirdropMileCounter
· Il y a 3h
Δ-Mem + quantification, est-ce qu'on peut pousser la mémoire vidéo à ses limites
Voir l'originalRépondre0
YieldSpring
· Il y a 3h
L'idée de stockage incrémental est brillante, c'est un peu comme le cerveau humain qui ne se souvient que des changements.
Voir l'originalRépondre0
DegenLibrarian
· Il y a 3h
Dans le contexte de l'apprentissage continu, y a-t-il un problème d'accumulation d'erreurs ?
Voir l'originalRépondre0
PineLiquidityPool
· Il y a 3h
Si cela est intégré dans vLLM, le débit doit augmenter considérablement
Voir l'originalRépondre0
QuantitativeButNotPretentious
· Il y a 3h
Une baisse de 70 % de la mémoire est vraiment géniale, les appareils en périphérie peuvent enfin faire tourner de grands modèles
Voir l'originalRépondre0

  • Épinglé

plan du site