📢 Gate 广场认证创作者招募中，入驻瓜分每月 $20,000 创作大奖！
📌 参与方式
站内创作者： 成功申请“创作者认证徽章”即可自动参与。
新入驻创作者： 需填写入驻表单申请 👉️ https://www.gate.com/questionnaire/7698
🎁 创作者福利
1️⃣ 首帖见面礼： 新入驻/回归创作者发首帖，即得 $50U 奖励！
2️⃣ 周度发帖奖： 完成周发帖任务，轻松瓜分 $10,000 奖池！
3️⃣ 月度创作奖： 赛道更多样，完成月度任务瓜分 $1,600 GT 奖池！
4️⃣ 专属推广任务：进入专属创作者社群，享专属推广任务和节日礼包！
让您的优质内容被更多人看到，携手共建高质量创作者社区！
活动细节：https://www.gate.com/announcements/article/51536
一个很有意思的开源项目 AirLLM
优化推理内存使用，让70B的大模型能在单张显存4G的显卡上运行
无量化、蒸馏和剪枝。
8G显存上运行405B的Llama3.1
更想要 GLM 5.2了。岂不是我这40+G的共享显存也能跑 700+B了？
Star🌟 21.3k