未来観測新聞
AI基盤GPUデータセンター

Ai2、巨大AIを学習させる「Olmo-core 3」公開 計算と通信の待ち時間を減らす

この記事を共有

ニュースの要点

Ai2は10月1日、AIの学習基盤「Olmo-core 3」を公開しました。入力ごとに専門部分を選んで計算するMoE方式に対応し、モデルの規模を大きくしたときに増える通信や調整の負担を減らします。

計算用の機器と通信ケーブルを並べたサーバー設備の想像図。実際の製品や試験の記録ではない写真調の生成画像。
画像の権利情報
未来観測新聞・生成画像
Ai2は10月1日、大規模な言語モデルを学習させる基盤「Olmo-core 3」を公開しました。MoEは、複数の専門部分のうち入力に必要な部分を選んで計算する方式です。専門部分をGPUに置き、必要なデータを送る設計で、重みを繰り返し集め直す…

参考資料

続きを読む

ニュース全文と本誌の考察を7日間無料で読めます。

初めて購読する方が対象です。無料期間終了後は月額980円(税込)で自動更新されます。終了前に解約すると料金はかかりません。

続きを読む

ニュース全文と本誌の考察を7日間無料で読めます。

初めて購読する方が対象です。無料期間終了後は月額980円(税込)で自動更新されます。終了前に解約すると料金はかかりません。