微软发布高性能 MoE 库 Tutel,针对大规模 DNN 模型开发提速

11 月 27 日消息,据微软亚洲研究院发布,作为目前唯一被证明能够将深度学习模型扩展到万亿以上参数的方法,MoE 能让模型学习更多信息,并为计算机视觉、语音识别、自然语言处理和机器翻译系统等提供支持 … Continue reading 微软发布高性能 MoE 库 Tutel,针对大规模 DNN 模型开发提速