据《朝鲜日报》报道,10月2日,韩国电信公司LG Uplus与AI模型优化专家OptAI合作,开发代币优化技术,以降低GPU和电力消耗,同时提高AI处理效率。在早期针对基于LG AI Research的Exaone的小型语言模型的测试中,两家公司将模型运行在智能手机神经处理单元上,与基于CPU的方法相比,实现了78%的功耗降低和82%的模型尺寸缩减。该优化技术可将单GPU代币处理能力提升至现有方法的4倍,LG Uplus将把该解决方案应用于其AI服务运营中,OptAI则开发更轻量、更快速的模型执行工具。