XM外匯官網(wǎng)訊——
【螞蟻與中國人民大學(xué)推出首個(gè)原生MoE架構的螞蟻擴散語(yǔ)言模型】
在2025Inclusion·外灘大會(huì )上,螞蟻集團與中國人民大學(xué)聯(lián)合發(fā)布了首個(gè)原生MoE架構的中國擴散語(yǔ)言模型(dLLM),命名為“LLaDA-MoE”。人民該模型在大約20TB的大學(xué)數據基礎上完成了從零開(kāi)始的訓練,展示了其在大規模工業(yè)級訓練中的推出穩定性和擴展性。LLaDA-MoE將在不久的首個(gè)散語(yǔ)將來(lái)完全開(kāi)源,以促進(jìn)全球AI社區在dLLM技術(shù)方面的原生言模發(fā)展。
螞蟻