テック羅針盤
AIニュース解説

生成AIはなぜ文章を作れる？仕組みを分解

生成AIが文章を作る流れを、学習と推論、トークン、次トークン予測、Transformerの順に分解し、得意なことと限界、安全な使い方まで解説します。

公開日 更新日
  • #生成AI
  • #LLM
  • #Transformer
  • #トークン

生成AIに質問すると、説明文、要約、企画案、コードなどが数秒で返ってきます。文章が自然なので、機械の中に物知りな人がいて、質問の答えを資料から探しているようにも見えます。しかし、文章を作る大規模言語モデル（LLM）の基本動作は、入力までの文脈を手掛かりに「次に続くトークン」を予測し、その結果を繰り返しつなぐことです。

この説明だけを聞くと、高性能な予測変換にすぎないようにも思えます。実際には、大量の文章から言葉同士の関係を学び、長い文脈の中で重要な部分を選び、用途に合う応答へ調整する複数の仕組みが重なっています。本記事では、人間の思考にたとえすぎず、生成AIの文章ができるまでを7段階で追います。

1. 生成AIがしていること

文章生成型のAIは、受け取った指示と、それまでの会話を数値の並びへ変換します。その数値をニューラルネットワーク（多数の計算層をつないだモデル）へ通し、次に来そうなトークンごとの確率を計算します。候補から一つを選んで末尾へ追加し、更新された文章を入力として、また次を予測します。終了条件に達するまで、この処理が続きます。

たとえば「日本の首都は」に続く候補として「東京」が高い確率を持つなら、それが選ばれます。ただし、モデルが扱うのは単語だけではありません。句読点、語の一部、記号なども候補です。また、常に確率が最大の候補だけを選ぶとは限りません。選び方に一定の幅を持たせると表現は多様になりますが、出力の揺れも大きくなります。

重要なのは、生成中に通常の意味で「正解データベースを検索している」とは限らない点です。学習で得たパターンがモデルの多数の数値へ分散して反映され、入力された文脈に応じて文章が組み立てられます。検索機能や外部ツールを別に接続したAIは最新資料を参照できますが、それは言語モデル本体の次トークン予測とは分けて考える必要があります。

この基本を押さえると、生成AIが流ちょうなのに事実を間違える理由も見えてきます。「自然に続く文章」と「現実に照らして正しい文章」は、重なることはあっても同じ判定基準ではないからです。

2. 学習と推論は別の工程

生成AIを理解するときは、事前に能力を作る「学習」と、利用者の入力へ答える「推論」を分けると整理しやすくなります。

学習では、文章をトークンへ分け、一部を隠して当てさせたり、前までの並びから次を予測させたりします。予測と正解のずれを損失という数値で測り、そのずれが小さくなるように、モデル内部のパラメータを少しずつ調整します。パラメータは計算に使う数値であり、一つの数値に一つの事実が保存される「知識カード」ではありません。言葉の使われ方、概念の近さ、文の形などが、多数のパラメータの組み合わせとして反映されます。

基礎的な学習の後には、指示に沿う応答例を使った調整や、人間の評価を反映する調整が加わることがあります。OpenAIが2018年に公表した研究では、言語モデルの生成的な事前学習後に、個別タスク向けの微調整を行う方法が示されました。2022年のInstructGPT研究では、人が作った回答例による教師あり微調整と、人が複数の出力を順位付けしたデータを使う強化学習が報告されています。これらは調整方法の具体例であり、すべての生成AIが同じ工程を採るわけではありません。データ構成や調整方法、公開範囲はモデルごとに異なります。

一方の推論は、学習済みのパラメータを使って、いま与えられた入力に対する出力を計算する工程です。一般的なチャット利用のたびに基礎モデル全体を再学習しているわけではありません。会話中の指示や資料は、その場の文脈として推論へ影響しますが、それだけで基礎モデルのパラメータが恒久的に書き換わるとは限りません。サービスごとのデータ利用方針は別問題なので、機密情報を入れてよいかは各サービスの公式規約と設定を確認する必要があります。

学習は「計算の癖を作る長い準備」、推論は「その癖を使って今回の続きを計算する本番」と考えると、両者を混同しにくくなります。

学習から出力までの整理表

段階主な入力何が変わるか利用者が意識する点
事前学習大量の文章などモデルのパラメータ学習元や更新時期には限界がある
指示調整回答例、人の評価など指示への応じ方調整方法はモデルごとに異なる
推論質問、会話、渡した資料その場の出力入力の具体性が結果へ影響する
外部検索・ツール利用検索結果、データベース、計算結果など推論に使える文脈参照元の品質と更新日を確認する
人・機械による検証出力、一次資料、検査ルール公開・採用の判断流ちょうさと正確さを分けて評価する

この表のうち、事前学習と指示調整はモデルを作る側の工程です。推論以降は利用時の工程であり、外部検索や検証を足しても、言語モデル本体が誤らなくなるわけではありません。

3. トークンというAIの読み方

言語モデルは文章をそのまま読むのではなく、トークナイザーという仕組みで小さな単位へ分けます。この単位がトークンです。トークンは一語と同じとは限らず、一つの単語が複数に分かれたり、短い単語と句読点がそれぞれ別の単位になったりします。Googleの公式教材も、トークンは単語、サブワード（語の一部）、一文字になり得ると説明しています。

分割方法はモデルや言語によって異なります。そのため「日本語で何文字なら何トークン」と固定の換算率で断定することはできません。同じ内容でも、表記、空白、記号、プログラムコードの有無でトークン数は変わります。料金や入力上限を見積もる場合は、利用するモデルの公式トークン計算手段で確かめるのが安全です。

トークンへ分けた後、各トークンは埋め込みと呼ばれる数値ベクトルへ変換されます。これは単語を辞書順の番号に置き換えるだけではなく、計算の中で関係性を扱える多次元の表現です。さらに、語順を見分けるための位置情報も加えられます。「犬が人を追う」と「人が犬を追う」は登場語が似ていても意味が違うため、何が書かれたかと、どの順番にあるかの両方が必要です。

この分割と数値化が、文字列からニューラルネットワークの計算へ渡る入口です。トークン数と入力上限の関係は、AIのトークンとコンテキスト上限の基礎で詳しく整理しています。

4. 次の語を選ぶ計算

モデルは入力を処理すると、語彙に含まれる各トークンについて「次に来る度合い」を表す数値を出します。これを確率分布へ変換し、そこから次のトークンを選びます。選ばれたトークンを入力の末尾へ足して、同じ計算を繰り返すことで、短い返答から長い記事まで生成できます。

ここで「最も確率が高い候補を選ぶなら、毎回同じ答えになるのでは」と疑問が出ます。実際の生成では、候補の分布から選ぶ幅を調整できます。確率の高い候補へ強く寄せれば安定しやすく、幅を広げれば異なる表現が出やすくなります。どちらが良いかは用途次第です。事実確認を伴う手順書では一貫性が重要ですが、発想出しでは多少の幅が役立つ場合があります。

ただし、生成設定を安定側へ寄せても、事実の正しさが保証されるわけではありません。モデルが学習したパターンや入力文脈が不十分なら、もっともらしい誤答を一貫して返すこともあります。また、長い回答は一字一句を最初に完成させてから表示しているのではなく、それまでに生成した内容も次の予測条件に含めながら進みます。序盤の誤りが後半の説明へ影響することがあるのは、この連鎖が一因です。

質問の目的、前提、出力形式、参照してほしい資料を先に渡すと、予測に使える文脈を整えられます。依頼の組み立て方は、目的・対象・合格条件・禁止事項に分けると確認しやすくなります。

5. Transformerは文脈の関係をどう扱うか

現在の多くのLLMを支える中心的な構造がTransformerです。Google Researchが公開した原論文「Attention Is All You Need」は2017年のNIPSで発表され、再帰型や畳み込み型の処理を中心にせず、Attention（注意機構）を軸にした構造を提案しました。

中核となるSelf-Attentionは、入力中の各トークンを解釈するとき、ほかのトークンとの関係へ異なる重みを付ける計算です。たとえば「その銀行の支店は川のそばにある」という文で「銀行」を解釈するとき、「支店」との関係を強く見れば金融機関だと捉えやすくなります。単語を孤立して見るのではなく、同じ文脈にある要素を相互に参照するわけです。

実際のTransformerでは、参照先を決める計算を複数の視点で並行して行うMulti-Head Attention、各位置の表現を変換する層、学習を安定させる仕組みなどを積み重ねます。層を通るたびに、入力は文脈を反映した表現へ更新されます。この計算を大規模なデータで学習することで、文法だけでなく、要約、翻訳、分類、コード生成などに使えるパターンも獲得します。

ただし、Attentionの重みをそのまま人間の思考理由と見なすのは慎重であるべきです。Transformerは関係を計算する構造を説明しますが、出力の全理由を人間向けに完全説明する装置ではありません。また、「パラメータ数が多いほど、保存された事実が同じ比率で増える」とも言えません。性能はデータ、学習方法、モデル構造、評価条件、推論時の設定にも左右されます。

公開時には、この節の「トークン化、Attention、次トークン生成」を静的なTransformer工程図と対応させる予定です。図が未実装でも意味が欠けないよう、本文だけで3工程を追える構成にしています。

6. 得意なことと限界

生成AIが得意なのは、学習した言語パターンと与えられた文脈を使い、目的に合う形へ情報を組み替える仕事です。文章の要約、言い換え、構成案、分類、例示、定型文の下書きなどは、入力と評価基準が明確なほど扱いやすくなります。大量の案を短時間で比較し、人が選ぶ使い方とも相性があります。

反対に、文章の自然さだけでは検証できない仕事には注意が必要です。米国国立標準技術研究所（NIST）は、生成AIが誤った内容を自信ありげに提示する現象をConfabulation（一般にハルシネーションとも呼ばれる）として整理し、生成モデルが学習データの統計的分布を近似して出力する設計に由来すると説明しています。

代表的な限界は次の通りです。

  • 学習後に起きた出来事や、入力されていない社内情報を自動では知れない
  • 実在しない出典、人物、機能などを自然な文体で作ることがある
  • 入力の曖昧さや誤った前提を引き継ぎ、説明を組み立てることがある
  • 学習データに含まれる偏りや有害な傾向が出力へ現れることがある
  • 長い計算、厳密な文字数、複雑な条件の同時充足で取りこぼすことがある
  • 同じ質問でも設定や文脈により出力が変わり、再現しにくい場合がある

これらは「生成AIは使えない」という意味ではありません。得意な生成と、苦手な検証を分離すればよいのです。AIに案を作らせた後、出典の実在、数字、固有名詞、条件を別の手段で確かめます。サイト記事なら、形式や禁止事項をプログラムで検査する設計も有効です。

7. 安全に使うための分担

生成AIを安全に使う出発点は、「回答者」ではなく「確率にもとづく生成器」として扱うことです。流ちょうさを評価する工程と、正確さを評価する工程を分けます。

まず、依頼時に目的、読み手、使ってよい資料、守る条件、欲しい形式を明示します。次に、AIが作った文章をそのまま確定せず、重要な主張を分解します。数字、日付、制度、料金、製品仕様、引用は公式の一次情報まで戻って確認します。医療、法律、金融、安全に関わる判断は、AIの文章だけで結論を出さず、資格を持つ専門家や担当機関へ確認します。

確認の負担を減らすには、AIへ「事実」「推測」「提案」を分けて書かせ、出典URLと確認日をセットにさせます。ただし、AIが提示したURL自体が実在しない場合もあるため、人がリンク先を開き、主張を直接支えているかまで確かめます。機密情報や個人情報は、利用するサービスの保存・学習・共有設定を確認できないまま入力しません。

実務では、次の分担が扱いやすい形です。

  1. 人が目的、禁止事項、最終判断者を決める
  2. AIが下書き、候補、確認項目を作る
  3. 公式資料や計算プログラムで事実を照合する
  4. 人が文脈、倫理、公開可否を判断する
  5. 機械検査で形式違反やリンク切れを止める

生成AIへ払う料金や時間も含めて使い方を設計したい場合は、入出力の量、やり直し回数、人の確認時間を同じ単位で記録します。AI用語は製品ごとに意味や上限が変わるため、利用時点の公式仕様も確認してください。

生成AIは、文章の意味を人間と同じ方法で理解していると決めつける必要も、単なるコピペ装置と片付ける必要もありません。トークン化、学習済みパラメータ、Self-Attention、次トークン予測という部品を分けて見れば、できることと確認すべきことを現実的に判断できます。生成はAI、根拠の確認と最終責任は人と仕組み。この境界を先に決めることが、便利さを活かしながら誤りを公開しないための基本です。

よくある質問

生成AIは文章をコピーして貼り付けているのですか？

通常の文章生成では、入力までの文脈から次のトークンを予測し、順に出力します。学習文の断片に似た表現が出る可能性はありますが、毎回答で元記事を検索してコピーする仕組みとは限りません。引用や公開に使う場合は、類似表現や権利関係を別途確認します。

生成AIは質問の意味を本当に理解していますか？

人間と同じ主観や理解過程を持つとは確認されていません。一方で、文脈中の関係を数値的に扱い、要約や分類、推論を必要とするように見える課題へ対応できます。能力の有無を一語で決めるより、課題ごとの正答率や失敗条件で評価する方が実用的です。

なぜ生成AIはもっともらしい嘘をつくのですか？

基本目標が「事実だけを返すこと」ではなく、文脈に続くトークンを予測することだからです。情報不足や誤った前提があっても、自然な文章を続ける場合があります。原因と対策はAIのハルシネーション対策でも整理しています。

検索できる生成AIなら回答は正確ですか？

検索は最新情報や根拠へ到達する助けになりますが、検索結果の読み違い、古い情報、弱い出典、引用と主張の不一致は残ります。重要な数字や制度は、最終的に公式の一次情報で照合してください。

一次情報メモ（確認日: 2026-07-23）

このクラスタで次に読む

執筆・検証情報: テック羅針盤編集部が、公式文書と原論文を照合して作成し、2026-08-23にURL・日付・主要主張を再確認しました。広告・アフィリエイトリンクは含みません。