パラメトリック知識
|
用語 |
パラメトリック知識 |
|
用語(英) |
Parametric Knowledge |
|
別名 |
- |
定義
パラメトリック知識(Parametric Knowledge)とは、ニューラル・ネットワークのパラメータ(重み)に埋め込まれた暗黙的な知識を指します。 大規模言語モデル(LLM)などが事前学習(pretraining)を通じて獲得した統計的・分布的情報を内包しており、外部知識ベースに明示的に記述されていない知識を表現します。 RAG(Retrieval-Augmented Generation)においては、外部の非パラメトリック知識(non-parametric knowledge)と対比され、LLM自身が持つ「暗黙値」として機能します。
SimpleModeling
SimpleModelingでは、パラメトリック知識はAIモデル内部の暗黙層(implicit layer)を形成し、外部BoK(Body of Knowledge)による明示層(explicit layer)と統合されることで、知識協調基盤を構成します。 この関係は以下のように整理されます:
| Layer | Knowledge Type | Description |
|---|---|---|
|
Implicit |
Parametric Knowledge |
Model-internal, pretrained, distributed representation |
|
Explicit |
Non-parametric Knowledge |
External, symbolic, declarative knowledge (e.g., BoK) |
|
Integrative |
Assimilated Knowledge |
Unified or internalized knowledge through AI-RAG interaction |
この構造により、Pretrained Parametric Knowledgeは初期の学習済み状態を表し、RAGやAssimilationのプロセスによって拡張・更新されます。