LLMにナレッジグラフ（知識グラフ）を連携させることで、タスク遂行能力を大幅に向上させるフレームワーク『Graph Neural Prompting（GNP）』 | AIDB

Tags

Top Highlights

• いくつかのベンチマークデータセットを用いて実験が行われました。その結果、ベースラインの性能が+13.5%改善されました。

• 既存のアプローチでは、知識グラフから得られるトリプル（主語、述語、目的語の組み合わせ）をLLMに直接供給する方法があります。しかし、知識グラフがさまざまな外部コンテキストを含む可能性があり、その結果として大量のノイズを導入する可能性があります。

• 外部の知識グラフとLLMをシームレスに接続するフレームワーク『Graph Neural Prompting（GNP）』

• GNPは、まずグラフニューラルネットワーク（GNN）を用いて、知識グラフ内の複雑な情報をエンティティ/ノードの埋め込みにエンコードします。

• 次に、クロスモダリティプーリングモジュールがテキスト入力と関連する最も関連性の高いノードの埋め込みを特定します。

• このグラフレベルの埋め込みは、ドメインプロジェクタを通して、テキストとグラフの間の固有の違いを橋渡しします。

• 最後に、自己教師付きリンク予測オブジェクトがモデルの性能をさらに向上させるために導入されます。このオブジェクトは、知識グラフ内のエンティティ間の関係を予測することで、モデルがより正確な知識を獲得できるようにします。

• このフレームワークは、既存のLLMに対してプラグアンドプレイ可能であり、柔軟なカスタマイズと効率的な実装が可能です。

• パラメータ効率的なアプローチであるLoRA（Low-Rank Approximation）を用いてLLMを微調整すると、性能がさらに+1.8%改善されました。

• GNPの効果は、LLMのサイズや設定に依存する可能性があります。

• 知識グラフを味方につけたLLMは協力ですが、ダウンストリームタスク（特定のタスクへの適用）において課題となる可能性があります。