中国農業銀行の取締役会長が6月18日にAIの大規模言語モデルに関する3つの主要なリスク区分を概説
中国农业银行の郭樹(グオ・シュー)会長によれば、AIの大規模言語モデルは実用的な適用の際に、彼が6月18日の陆家嘴フォーラムで述べたとおり、主に3つのリスク区分に直面する。第1のリスクは、パラメータが膨大であることによりモデルの解釈可能性が低下する点にある――パラメータがtrillionsの単位に達し、非線形の行列演算が不透明な意思決定メカニズムを生み出すため、説明が難しい。第2は、確率的な生成が正確性を損なうことに関わる。線形の推論の代わりに、モデルは学習データから導かれた統計的な確率パターンに基づいて出力を生成し、証拠が不十分なときに、簡単に筋の通った幻覚(ハルシネーション)を生み出してしまう。第3のリスクは、自律的な推論と意思決定の能力が従来のソフトウェア制約を回避することから生じ、プロセスの不確実性が増大し、結果の予測不能性が高まる。
GateNews·06-18 05:22
