ESC
キーワードを入力してください

MoE

llm
表示形式

Mixture of Experts(混合エキスパート)の略。

複数の専門的なサブネットワーク(エキスパート)を持ち、入力に応じて一部のエキスパートのみをアクティブにする効率的なアーキテクチャ。

Mistral、GPT-4等で採用。