AMDは、総パラメータ160億のうちトークンごとに28億のみを使うMoE(専門家混合)モデル「Instella-MoE-16B-A3B」を公開した。学習は自社のInstinct MI300XとMI325X GPUのみで最初から最後まで行われた。異例なのは、全学習段階のチェックポイントに加え、データ配合、学習設定、コードまで公開した点だ——コードはMITライセンス、重みは研究限定ライセンス。AMDによれば、ベースモデルは完全オープンモデルの中で最高の平均スコアを記録し、Moonlight-16BやOLMo-3を上回る。