AIの仕組みと最新技術・リスクを西園寺狂太郎が徹底解説

「AIってよく聞くけど、結局なんなのだ？」「ChatGPTはなぜ自然な文章を書けるのだ？」「仕事が奪われるのは本当か？」——そんな疑問を抱える君たちに、元外資系投資銀行でAI開発に携わっていた吾輩、西園寺狂太郎が、山奥のプレハブ小屋から愛と偏見を込めて解説するのだ。専門知識ゼロでも読めるように、仕組みから最新モデル、プロンプト術、リスク管理までを一気に整理する。読み終わる頃には、AIは魔法の箱ではなく「癖のある道具」だと理解できるはずなのだ。アグリーだ。

AI・機械学習・ディープラーニングの関係を整理する

まず最初に潰しておくべき誤解が「AI＝機械学習＝ディープラーニング」という混同なのだ。吾輩が投資銀行でモデルを組んでいた頃も、経営層はこの三つを同じ言葉として使っていた。アグリーだ。だが実態は親子の入れ子構造で、これを理解しないとニュース記事の解像度が一段上がらない。

三つの用語の定義

AI（AI（人工知能））は「人間の知的な活動を真似する技術」全般を指す最も広い枠組みだ。その中に、データからパターンを学ぶ機械学習があり、さらにその一部に、脳の神経回路を参考にしたディープラーニングがある。近年の生成AIブームは、このディープラーニングの発展に支えられている。

学習の基本は「ラベル付きデータ」

犬と猫の写真を見分ける例が定番だ。正解ラベル付きの画像を大量に見せると、AIは耳の形や目の大きさといった特徴を自力で抽出する。この「大量の正解データから学ぶ」プロセスが学習の基本なのだ。ここで注意したいのは、学習データの質がそのまま出力の質を決めるという点。吾輩の経験上、モデル改善の八割はデータ整備に費やされる。地味だが、そこが勝負なのだ。

ChatGPTはなぜ自然な文章を生成できるのか

ChatGPTの原理は意外なほどシンプルで、「次に来る確率が最も高い単語を予測し続ける」ことの繰り返しだ。スマホの予測変換を極限まで高性能にしたもの、と考えると分かりやすい。

自己注意機構という革命

この予測を支えるのがTransformer（トランスフォーマー）と呼ばれる技術で、文中のどの単語とどの単語が関連するかを瞬時に判断する「自己注意機構」を持つ。「猫がネズミを追いかけた。それは疲れていた」という文で、「それ」が猫を指すと判断できるのはこの仕組みのおかげなのだ。

大規模言語モデルの位置づけ

ChatGPTのようなモデルはLLM（大規模言語モデル）と呼ばれ、インターネット上の膨大な文章を学習している。「日本の首都は？」と聞かれれば「東京」が来る確率が高いことを学習済みなのだ。ただし、これは事実を理解しているのではなく、統計的にそれらしい単語を並べているに過ぎない。この点が後のハルシネーション問題に直結する。ここが肝なのだ。

疑問を持つ読者

つまりAIは意味を理解していないということ？

専門家

正確には「意味の統計的近似」なのだ。文脈のパターンは捉えているが、人間のような概念理解とは異なる。だからこそ事実確認が欠かせないのだ。

疑問を持つ読者

じゃあ、なぜあんなに賢く見えるの？

専門家

学習データ量とパラメータ数が桁違いだからなのだ。膨大なパターンを圧縮して持っているので、一見理解しているように振る舞う。アグリーだが、それがAIの魔力なのだ。

疑問を持つ読者

その魔力に騙されないコツは？

専門家

出力を「下書き」として扱い、重要情報は一次情報で裏を取る。これに尽きるのだ。

GPT-4oとGemini 1.5 Proが変えたもの

最新モデルの進化は目覚ましい。OpenAIのGPT-4oの「o」は「omni（すべて）」を意味し、テキストだけでなく音声や画像、動画まで統合的に理解できる。リアルタイム音声会話では人間と話すのと変わらない速度で応答し、声のトーンから感情を読み取る。スマホのカメラで数式を写せば解き方を教えてくれるのだ。

GoogleのGemini 1.5 Proは「記憶力」に革命を起こした。一度に100万トークン、日本語換算で約70万字、長編小説数冊分を記憶できる。数百ページの論文や契約書を丸ごと読み込ませて要約・分析させることも可能なのだ。吾輩が現役時代にやっていた資料読み込みの仕事が、どれだけ馬鹿げて見えるか。アグリーだ。

主要モデルの比較

※各モデルの詳細仕様は公式発表を参照されたい。吾輩の主観では、対話の自然さはGPT-4o、大量資料の処理はGeminiに分があると感じるが、これは利用場面によるのだ。

プロンプト設計でAIの性能はここまで変わる

強力なAIも使い方次第で性能が大きく変わる。その鍵がプロンプト、すなわち指示や質問の書き方なのだ。新入社員に仕事を教えるとき、漠然とした指示では成果が出ないのと同じである。

良いプロンプトと悪いプロンプト

「注文した商品が届かない件でメールを書いて」という指示は、トーンも情報も不足している。これに対し「顧客として、注文番号12345、配送予定日を1週間超過、要求は状況報告と到着予定日の提示、丁寧かつ断固としたトーンで」と具体化すれば、出力の質は別次元になるのだ。

実践の手順

複雑な問題では「ステップ・バイ・ステップで考えてください」と一言添えるだけで論理的な思考を促せる。これは推論プロセスを明示させる手法として広く知られている。プロンプトの質を上げる考え方は、書籍や講座で体系的に学ぶ価値がある。独学で迷走するくらいなら、信頼できる教材に投資したほうが安上がりなのだ。アグリーだ。

ハルシネーションとバイアスという現実

AIは万能ではない。安全に付き合うために知っておくべきリスクが二つある。

ハルシネーション（もっともらしい嘘）

ハルシネーションとは、AIが事実に基づかない情報を、さも事実であるかのように自信満々に生成する現象だ。仕組み上、AIは「事実」ではなく「最もそれらしい言葉のつながり」を予測している。知らないことがあっても「分かりません」とは答えず、知ったかぶりをするのだ。海外では弁護士がAIの生成した架空の判例を裁判所に提出して問題になった事例も報告されている。

バイアス（偏見の学習）

AIは人間が作成したデータから学ぶため、データに含まれる社会の偏見や差別をそのまま学習することがある。過去にAmazonの採用AIが、男性優位の過去データを学習した結果、「女性」という単語を含む履歴書を不利に評価した事例は有名だ。吾輩が現役だった頃、この手の話は「モデルのせい」で片付けられがちだったが、本質はデータと運用の設計にある。ここを直視しない組織は、いつか痛い目を見るのだ。

リスク対策の優先度

※上記の数値は吾輩の主観的な重要度であり、統計的根拠を示すものではない。念のため明記しておくのだ。

対策はシンプルだ。AIの回答は下書きと捉え、重要情報は公式サイトで裏取りする。個人情報や機密情報は入力しない。最終判断は必ず人間が下す。これだけで事故の大半は防げる。AIを疑う目を持つことこそ、最も重要なスキルなのだ。

よくある質問

まとめ

最後に要点を整理しておくのだ。吾輩の経験から言えるのは、AIは魔法ではなく、癖と限界を知って初めて使いこなせる道具だということである。

• AI・機械学習・ディープラーニングは入れ子構造であり、区別して理解することが出発点になる。
• ChatGPTは次に来る単語を超高速で予測しており、Transformerの自己注意機構が文脈理解を支えている。
• GPT-4oは音声・画像を含むマルチモーダル対話、Gemini 1.5 Proは約70万字の長大コンテキスト処理に強みを持つ。
• プロンプトは役割・背景・出力形式を具体的に指定し、対話で育てることで性能が大きく変わる。
• ハルシネーションとバイアスは避けられない前提であり、ファクトチェックと人間の最終判断が必須である。

  確定申告の季節が近づくたび胃が痛む吾輩だが、AIに申告書類の下書きをさせれば作業は確実に楽になる。ただし数字の最終確認は自分でやる。それが賢い付き合い方というものなのだ。アグリーだ。

  参考情報: note.com