AI BASICS · CHAPTER 04
生成AIは、
どう答えを作るのか。
生成AIは質問に対して、すぐに整った文章を返します。その自然さは、ときに「理解して答えている」ように見えます。しかし、仕組みを知ると、任せてよい仕事と確認すべき仕事が見えてきます。
文章生成のLLMは、トークンのつながりを扱う
ここでは文章を生成する大規模言語モデル（LLM）を扱います。LLMは文脈に続くトークンの確率を扱い、出力を組み立てます。トークンは単語と同じとは限らず、単語の一部や文字になる場合もあります。候補の選び方も常に最大確率の一つとは限りません。この説明を、画像や音声の生成すべてへそのまま当てはめないでください。
指示や例を入力して出力を調整することと、学習によってモデルのパラメータを変えることは異なります。詳しい指示を渡しても、それだけで事実の正確さが保証されるわけではありません。読みやすさと、資料に支えられた記述かどうかを分けて確認します。
検索と生成AIは、役割が違う
検索は情報を探して出典へ案内する機能、文章生成は入力に合わせて文章を作る機能です。検索機能を組み合わせた生成AIサービスもあるため、両者が必ず別の製品という意味ではありません。最新の制度、価格、決算数値、公式発表を扱う場合は、出力に示されたリンクも開き、元の情報で内容と対象時点を確かめます。
仕事では二つを組み合わせます。まず公式資料や社内資料を集める。次にAIへ渡して論点を整理させる。最後に、重要な数字や結論を資料へ照らして確認する。この順番なら、速さと信頼性を両立しやすくなります。
もっともらしい誤り、ハルシネーション
生成AIが、存在しない出典や誤った日付を、もっともらしい文章として出すことがあります。こうした誤りはハルシネーションと呼ばれます。断定的な表現や出典らしい表記があっても、それ自体を根拠にせず、記述ごとに資料へ戻って照合します。
特に注意が必要なのは、契約、法務、医療、金融、個人情報、対外発信です。誤りの影響が大きい仕事では、AIを最終回答者にしません。下書き、論点整理、チェックリスト作成に使い、事実と判断は担当者が持ちます。
仕事での確認手順
- 1. 材料を決める。 何を根拠にするか、公式資料・社内資料を明確にします。
- 2. AIに整理させる。 目的、読み手、出力形式を指定して、たたき台を作ります。
- 3. 人が照合する。 数字、固有名詞、出典、期限、断定表現を元資料と比べます。
- 4. 人が決める。 公開、承認、顧客への説明などの最終判断は人が行います。
材料を集める、文章を作る、資料と照合する、承認する、という工程を分けます。次の章では、この確認を含む作業全体を、どこから小さく試すかを考えます。
CHAPTER PRACTICE
案内文のどこが、材料に支えられているか
この章でできるようになること：読みやすさより先に、出力の各記述を材料へ戻して照合する。
架空の資料A：勉強会は11月12日開催。定員30名。申込締切は未定。参加費の記載はない。 架空の出力例：11月12日の無料勉強会にご参加ください。定員は30名、締切は11月10日です。
出力を3か所に分け、「資料にある」「資料と違う／資料にない」を判定してください。AIに尋ね直す前に、自分で資料Aと照合します。
演習と照合例はTHINKLABが作成した教材です。特定のAIで実測した出力や効果ではありません。
照合例を開く
| 場面・問い | 照合例 | 理由・確認点 |
|---|---|---|
| 開催日・定員 | 11月12日、30名は資料Aに記載されている。 | 他の情報が誤っていても、出力のすべてが誤りとは決めない。記述ごとに照合する。 |
| 無料という条件 | 資料に参加費の記載がないため削除し、担当者へ確認する。 | 書かれていないことを、無料という確定情報へ置き換えない。 |
| 11月10日という締切 | 資料Aでは未定。確定日として掲載しない。 | 開催日から、もっともらしい締切を作らない。 |
出典と確認範囲
- Google：Introduction to Large Language Models
言語モデル、トークン、確率に基づく出力の説明。
- Google：LLMs: Fine-tuning, distillation, and prompt engineering
指示や例を渡すことと、モデルのパラメータを学習で変えることの区別。
出典は技術・利用上の注意を確認するための資料です。演習の状況、照合例、試行方法はTHINKLABによる整理であり、出典機関の承認や製品の評価を示しません。
内容・出典確認：