大規模言語モデル（LLM）とは？

大規模言語モデル（LLM）とは、膨大な文章を学習し、直前までの文脈から次に来る語を確率的に予測することで自然な文章を生成するモデル。トランスフォーマという構造を用い、パラメータ数を大きくすることで高い言語能力を得ています。FEでは仕組みと限界が問われます。

だいきぼげんごもでる

ITパスポートの頻出用語／テクノロジ系／別名：大規模言語モデル、LLM

大規模言語モデル（LLM）の意味

膨大な文章を学習し、直前までの文脈から次に来る語を確率的に予測することで自然な文章を生成するモデル。トランスフォーマという構造を用い、パラメータ数を大きくすることで高い言語能力を得ています。FEでは仕組みと限界が問われます。

質問文を与えると、それに続く自然な回答文を1語ずつ確率的に選んで出力します。社内文書を検索して結果を一緒に渡し、その範囲で答えさせるRAG（検索拡張生成）という使い方をすると、最新情報や社内固有の知識にも対応できます。

LLMは知識をデータベースとして検索しているのではなく、確率的に語を続けています。そのため学習時点より新しい事実は知らず、同じ質問でも出力が毎回変わり得ます。

最終更新：2026-08-25／解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。