比特派官网下载钱包| Intel 研究人员提出新 AI 方法，更高效地在 CPU 上部署 LLM -

导读： 据站长之家报导，大型言语模型（LLM）因在文本生成、言语了解和文本摘要等使命中的杰出体现而备受欢迎，但其巨大的模型参数却需求很多内存和专用硬件。为了下降揣度所需的核算功率，Intel 的研究人员提出了一种有用的办法，支撑主动的 INT-4 权重量化流程，能够在 CPU 上高效布置 LLM。此外，他们...