诺亚方舟实验室 – 编程之家

首页 › 文章标签 "诺亚方舟实验室"

华为改进 Transformer 架构：盘古-π 解决特征缺陷问题，同规模性能超 LLaMA

华为盘古系列，带来架构层面上新！华为诺亚方舟实验室等联合推出新型大语言模型架构：盘古-π。它通过增强非线性，在传统 Transformer 架构上做出改进，由此可以显著降低特征塌陷问题。 ...