大規模言語モデル（LLM）の効率的な実行を実現する新アーキテクチャ「PHOTON」の開発

解説

近年の大規模言語モデル（LLM）は、その性能向上のため、長文の処理や多くのユーザーが同時に利用するマルチエージェント的なタスクへの適用が増えています。しかし、AIがより複雑な思考プロセスを必要とするようになった結果、過去のやりとりを保持するためのメモリアクセス量が増大し、処理速度（推論速度）が低下するという課題に直面しています。

この課題に対し、富士通は「PHOTON」という新しいアーキテクチャを発表しました。これは、「Parallel Hierarchical Operation for TOp-down Networks」の略称を持つ技術です。従来主流だったTransformer構造とは異なり、文章を単なるトークン（文字単位）ではなく「意味のまとまり」といった階層的な単位で処理することを目指しています。

さらに、PHOTONは「マルチクエリー統合技術」という仕組みも採用しています。これは、同じ問題に対して複数の異なる問いかけや回答候補を生成し、それらを多数決や最良の候補を選ぶ形で結合することで、安定した高い性能を引き出すものです。

これらの工夫により、従来のアーキテクチャと比較してGPUあたりの処理効率（スループット）が最大で475倍に達すると報告されており、LLM運用におけるコスト削減と計算効率の大幅な向上が期待されます。この成果は、AIの利用範囲拡大に伴うインフラ的な課題解決策として注目されています。

ポイント

• 富士通が、LLMの処理効率を大幅に向上させる新アーキテクチャ「PHOTON」を発表した。
• 文章をトークンではなく意味のまとまりで階層的に扱い、計算量を抑制する仕組みを持つ。
• 複数の問いかけから最適な結果を選び出すことで、GPUあたりの処理スループットが最大475倍に向上すると期待される。

情シスへの影響

本技術は新しいAIモデルの「推論実行環境」に関わるものです。

1. インフラ設計・リソース計画への影響: 従来のアーキテクチャ（Transformerベース）と比較して、同じ処理量に対する必要なGPUメモリや計算資源が大幅に削減される可能性があります。これにより、LLMサービスの提供コスト（TCO）の算出基準を見直す必要があります。

2. 導入検証環境の構築: PHOTONアーキテクチャを実際に利用するには、ファームウェアレベルまたは推論エンジンレベルでのソフトウェアアップデートが必要です。新しいライブラリやフレームワークの選定・組み込みに関する調査とPoC（概念実証）計画が求められます。

3. 既存システムとの互換性: 現在運用しているAIアプリケーションやAPIゲートウェイ層で、新アーキテクチャへの切り替えが発生する場合、レイテンシやデータ構造の変化に対応するための調整が必要です。ただし、この変化はバックエンドのコアエンジン部分に限定される可能性が高く、APIレベルでの変更は最小限に抑えられることが理想的です。

*本技術はまだ発表段階であり、具体的な導入手順やベンダーからの提供SDK（ソフトウェア開発キット）の情報が重要となります。

重要度

★★★★☆

対象者

• セキュリティ担当者
• M365管理者
• Entra管理者

優先度

計画的に対応