share_log

通义千问开源首个MoE模型

通義千問開源首個MoE模型

格隆匯 ·  03/29 06:54
格隆匯3月29日|據阿里通義千問官微,通義千問團隊開源首個MoE模型,名爲Qwen1.5-MoE-A2.7B。它僅有27億個激活參數,但性能可與當前公認最先進的70億參數模型(Mistral 7B、Qwen1.5-7B等)相媲美。
声明:本內容僅用作提供資訊及教育之目的,不構成對任何特定投資或投資策略的推薦或認可。 更多信息
    搶先評論