パラメトリック知識

浅海 智晴

用語

パラメトリック知識

用語(英)

Parametric Knowledge

別名

-

定義

パラメトリック知識(Parametric Knowledge)とは、ニューラル・ネットワークのパラメータ(重み)に埋め込まれた暗黙的な知識を指します。 大規模言語モデル(LLM)などが事前学習(pretraining)を通じて獲得した統計的・分布的情報を内包しており、外部知識ベースに明示的に記述されていない知識を表現します。 RAG(Retrieval-Augmented Generation)においては、外部の非パラメトリック知識(non-parametric knowledge)と対比され、LLM自身が持つ「暗黙値」として機能します。

SimpleModeling

SimpleModelingでは、パラメトリック知識はAIモデル内部の暗黙層(implicit layer)を形成し、外部BoK(Body of Knowledge)による明示層(explicit layer)と統合されることで、知識協調基盤を構成します。 この関係は以下のように整理されます:

Layer Knowledge Type Description

Implicit

Parametric Knowledge

Model-internal, pretrained, distributed representation

Explicit

Non-parametric Knowledge

External, symbolic, declarative knowledge (e.g., BoK)

Integrative

Assimilated Knowledge

Unified or internalized knowledge through AI-RAG interaction

この構造により、Pretrained Parametric Knowledgeは初期の学習済み状態を表し、RAGやAssimilationのプロセスによって拡張・更新されます。