AI技術・生成AI・AIエージェント活用 入門学習
機械学習の基礎・評価指標からLLM・RAG・AIエージェント、AI倫理までを体系的に学ぶ
第1章 機械学習の種類と代表的な手法
機械学習は大きく教師あり学習・教師なし学習・強化学習の3つに分かれます。教師あり学習は正解ラベル付きのデータから入力と出力の関係を学び、数値を予測する回帰(売上予測など)と、カテゴリを当てる分類(離反する/しないなど)に使います。教師なし学習は正解ラベルなしでデータの構造を見つける手法で、クラスタリング(顧客セグメンテーション)や次元削減(主成分分析)が代表例です。強化学習は、エージェントが環境の中で行動し、得られる報酬を最大化する方策を試行錯誤で学ぶ手法で、配車ルートや在庫発注の最適化などに使われます。
代表的なアルゴリズムも押さえましょう。線形回帰は目的変数を説明変数の線形結合で表し、ロジスティック回帰は名前に「回帰」とありますが確率を出力する分類手法です。決定木は条件分岐の木で予測し、解釈しやすいのが長所です。複数のモデルを組み合わせるアンサンブル学習には、データを復元抽出して並列に学習させ多数決・平均をとるバギング(その代表がランダムフォレスト)、前のモデルの誤りを次のモデルが補うよう逐次学習するブースティング、複数モデルの出力を別のモデルに入力するスタッキングがあります。SVMはクラス間のマージンを最大化する境界を求め、カーネル法で非線形な境界も扱えます。k-means法は、あらかじめ決めたk個の中心に各データを割り当て、中心を更新することを繰り返すクラスタリング手法です。
| 学習の種類 | 入力データ | 主な用途・手法 |
|---|---|---|
| 教師あり学習 | 特徴量+正解ラベル | 回帰(線形回帰)、分類(ロジスティック回帰・決定木・SVM・ランダムフォレスト) |
| 教師なし学習 | 特徴量のみ | クラスタリング(k-means法)、次元削減(主成分分析) |
| 強化学習 | 環境との相互作用で得る報酬 | Q学習、方策勾配法、価値反復法(制御・最適化) |
特徴量(次元)が増えすぎると、データが空間内で疎になり学習が難しくなる現象を次元の呪いといいます。次元削減や特徴量選択はその対策になります。
- ロジスティック回帰は「分類」手法(出力は所属確率)
- バギング=並列・復元抽出・多数決(例:ランダムフォレスト)/ブースティング=逐次・誤りを補正
- SVMはマージン最大化、カーネル法で非線形分離に対応
- k-means法はクラスタ数kを事前に指定する教師なし学習
- 強化学習は「状態・行動・報酬」で方策を学ぶ(Q学習は行動価値を学習)
第2章 モデルの評価と精度改善
分類モデルの評価は、予測と正解の組合せを数えた混同行列から始まります。陽性と予測して実際も陽性ならTP(真陽性)、陽性と予測したが実際は陰性ならFP(偽陽性)、陰性と予測したが実際は陽性ならFN(偽陰性)、陰性と予測して実際も陰性ならTN(真陰性)です。
| 指標 | 式 | 意味・使いどころ |
|---|---|---|
| 正解率(Accuracy) | (TP+TN) ÷ 全件 | 全体のうち当たった割合。陽性が極端に少ない不均衡データでは過大評価になりやすい |
| 適合率(Precision) | TP ÷ (TP+FP) | 陽性と予測したもののうち本当に陽性の割合。誤検知を減らしたいときに重視 |
| 再現率(Recall) | TP ÷ (TP+FN) | 実際の陽性のうち拾えた割合。見逃しを減らしたいとき(病気の検出など)に重視 |
| F値 | 2×適合率×再現率 ÷ (適合率+再現率) | 適合率と再現率の調和平均。両者のバランスを見る |
| RMSE | √(誤差の2乗の平均) | 回帰の誤差。大きな外れに敏感 |
| MAE | 誤差の絶対値の平均 | 回帰の誤差。外れ値の影響を受けにくい |
| 決定係数(R²) | 1 - 残差平方和 ÷ 全平方和 | モデルが目的変数のばらつきをどれだけ説明できるか(1に近いほど良い) |
ROC曲線は判定のしきい値を変えたときの偽陽性率(横軸)と真陽性率=再現率(縦軸)を描いたもので、その下側の面積がAUCです。AUCが1に近いほど識別性能が高く、0.5はランダムな判定と同程度です。陽性が少ないデータでは、適合率と再現率で描くPR曲線も使われます。
モデルの良し悪しは、学習に使ったデータでの訓練誤差ではなく、未知データに対する汎化誤差で判断します。訓練誤差だけ小さく汎化誤差が大きい状態が過学習で、単純すぎるモデルは逆にバイアスが大きくなります(バイアス・バリアンスのトレードオフ)。評価方法には、データを学習用と検証用に一度だけ分けるホールドアウト検証と、データをk個に分割し検証用を入れ替えながらk回評価する交差検証があります。学習率や木の深さのように人が事前に設定する値をハイパーパラメータといい、候補の全組合せを試すグリッドサーチやランダムに試すランダムサーチで探索します。
運用面では、予測時点では本来得られない情報(将来の値や正解に直結する項目)が学習に混入するデータリーク(リーケージ)に注意が必要です。また、入力データの分布が本番で変化するデータドリフトや、それによってモデルの精度が劣化するモデルドリフトを監視し、再学習を計画します。
- 適合率=誤検知の少なさ、再現率=見逃しの少なさ。F値は両者の調和平均
- 不均衡データでは正解率だけで判断しない(PR曲線・F値も確認)
- AUC=ROC曲線の下の面積。0.5はランダム、1に近いほど良い
- 過学習の検知には汎化誤差(検証データでの誤差)を見る。交差検証で評価のぶれを抑える
- データリークがあると検証では高精度でも本番で精度が出ない
第3章 ディープラーニングと生成モデル
ニューラルネットワークは入力層・隠れ層・出力層から成り、隠れ層を多層にしたものがディープラーニングです。各層の出力には活性化関数(シグモイド、ReLUなど)がかかり、出力と正解との誤差を出力側から入力側へ伝えて重みを更新する誤差逆伝播法(バックプロパゲーション)で学習します。重みの更新には勾配降下法を使い、データを1件ずつ・少数ずつ使う確率的勾配降下法(SGD)やミニバッチ学習が一般的です。訓練データ全体を1回使い切る単位をエポック、重みを1回更新する単位をイテレーションと呼びます。層が深いと勾配が入力側でほとんど0になる勾配消失問題が起きやすく、ReLUなどの活性化関数の工夫で緩和します。
過学習対策には、重みの大きさに罰則を加える正則化(L1正則化は不要な重みを0にしやすく特徴量選択の効果、L2正則化は重みを全体的に小さくする)や、学習中にランダムにノードを無効化するドロップアウトがあります。大量データで事前学習したモデルを別タスクに流用するのが転移学習、その重みを追加データで再調整するのがファインチューニングです。追加学習で以前に学んだ内容を失ってしまう現象は破滅的忘却と呼ばれます。
| モデル | 特徴 | 主な用途 |
|---|---|---|
| CNN(畳み込みNN) | 畳み込み層で局所的な特徴を抽出し、プーリング層(マックスプーリング等)で縮約 | 画像認識 |
| RNN / LSTM / GRU | 前の時刻の情報を保持して系列を扱う。LSTM・GRUはゲートで長期依存を学習しやすくした改良版 | 時系列・音声・文章 |
| Transformer | 自己注意(Self-Attention)機構で系列中の全要素の関係を並列に計算 | LLM、翻訳、マルチモーダル |
| オートエンコーダ | 入力を圧縮(エンコード)して復元(デコード)するよう学習 | 次元削減、異常検知、生成 |
| GAN(敵対的生成ネットワーク) | 生成器と識別器を競わせて学習 | 画像生成 |
| 拡散モデル | データにノイズを加える過程の逆(ノイズ除去)を学習して生成 | 画像・動画生成 |
大きなモデルを実運用しやすくする軽量化には、重要度の低い重みや結合を削るプルーニング(枝刈り)、大きな教師モデルの出力をまねて小さな生徒モデルを学習させる蒸留、重みを少ないビット数で表現する量子化があります。
- 誤差逆伝播法で勾配を求め、勾配降下法で重みを更新する
- 過学習対策:正則化(L1/L2)、ドロップアウト、データ拡充、早めの学習打切り
- 画像はCNN、系列はRNN/LSTM、LLMの基盤はTransformer(自己注意機構)
- 生成モデル:オートエンコーダ・GAN・拡散モデル
- 軽量化の3手法:プルーニング・蒸留・量子化
第4章 大規模言語モデル(LLM)と生成AIの活用
大規模言語モデル(LLM)は、大量のテキストを使い、次に来るトークンを予測するといった自己教師あり学習で事前学習したTransformerベースのモデルです。文章はトークンという単位に分割して処理され、一度に入力・参照できるトークン数の上限がコンテキストウィンドウです。事前学習後、指示に従うよう調整するインストラクションチューニングや、人の評価をもとに好ましい応答へ近づけるRLHF(人間のフィードバックによる強化学習)によって、人間の意図や価値観に沿わせるアラインメントを行います。
LLMは重みを更新しなくても、プロンプト内に示した指示や例から振る舞いを変えられます。これをコンテキスト内学習(In-Context Learning)といい、例を示さないゼロショット、少数の例を示すフューショットがあります。社内文書など、モデルが学習していない知識を使わせたい場合は、質問に関連する文書を検索してプロンプトに加え、それを根拠に回答させるRAG(検索拡張生成)が有効です。RAGは最新情報への対応や根拠の提示に役立ちますが、回答品質は検索で取り出す文書の質(分割の仕方、検索精度)に大きく左右されます。
| 用語 | 説明 |
|---|---|
| Temperature | 出力の確率分布の鋭さを調整。低いほど決定的(毎回似た出力)、高いほど多様・創造的な出力 |
| Top-k / Top-p | 次トークンの候補を上位k個/累積確率p以内に絞って選ぶ |
| システムプロンプト | 役割・口調・禁止事項など、会話全体に適用する前提の指示 |
| Lost in the Middle | 長い入力の中ほどにある情報が、先頭や末尾の情報より活用されにくい現象 |
| コンテキスト腐敗 | 会話や入力が長大になるにつれて、指示の遵守や回答の精度が低下していく現象 |
| プロンプトキャッシュ | 繰り返し使う共通部分(長いシステムプロンプト等)の処理結果を再利用し、遅延・コストを減らす |
| モデルルーター | 問合せの難易度などに応じて、処理させるモデルを振り分ける仕組み |
| SLM・ローカルLLM | 小規模なモデルや自社環境で動かすモデル。機密性・コスト・応答速度の要件から検討する |
生成AIの出力には、事実と異なる内容をもっともらしく生成するハルシネーションのリスクがあります。科目Bでは、業務課題に対して生成AIの適用可能性を判断し、プロンプト・参照情報・ツール連携を設計し、出力を妥当性・有用性・根拠の明確さの観点で評価・改善するスキルが問われます(シラバス 2-4)。テキスト・画像・音声などを組み合わせて扱うマルチモーダルも活用領域の一つです。
- In-Context Learningは重みを更新しない(ファインチューニングとの違い)
- RAG=検索した外部文書をプロンプトに入れて回答させる。社内知識・最新情報・根拠提示に有効
- 再現性重視ならTemperatureを低く、アイデア出しなど多様性重視なら高く
- 長いコンテキストではLost in the Middle・コンテキスト腐敗に注意し、重要情報の配置や量を設計する
- 出力評価の観点:妥当性・有用性・根拠の明確さ
第5章 AIエージェントとAI倫理・ガバナンス
AIエージェントは、LLMなどが目的に向けて自ら計画を立て、外部ツールを呼び出しながら複数ステップの作業を進める仕組みです。代表的な設計パターンに、推論(Reason)と行動(Act)を交互に繰り返し、ツールの実行結果を見て次の行動を決めるReActや、先に全体計画を立ててから実行するPlan-and-Executeなどがあります。思考を段階的に書き出させるCoT(Chain of Thought)や、複数の思考の分岐を探索するToT(Tree of Thought)は推論の質を高める工夫です。
| ワークフロー | 概要 |
|---|---|
| Prompt-Chaining | 処理を複数ステップに分け、前の出力を次の入力にする |
| Routing | 入力の種類を判定し、適した処理・モデルに振り分ける |
| Parallelization | 独立したサブタスクを並列に処理し、結果をまとめる |
| Orchestrator-Workers | 統括役がタスクを分解してワーカーに割り当て、結果を統合する |
| Evaluator-Optimizer | 生成役の出力を評価役が評価し、改善を繰り返す |
エージェントが外部システムを使うための仕組みとして、モデルが呼び出すべき関数と引数を構造化して出力するFunction Calling、AIアプリケーションと外部のツール・データソースを接続するためのプロトコルであるMCP(Model Context Protocol)、エージェント同士が連携するためのプロトコルであるA2A(Agent2Agent Protocol)があります。必要な情報を必要な量だけモデルに渡すよう、プロンプト・参照情報・記憶・ツール結果を設計することをコンテキストエンジニアリングといいます。
自律性にはアシスト型・半自律型・自律型があり、自律性が高いほど、重要な操作の最終承認や例外処理に人間をどう関与させるかの設計が重要です。不適切な入力や有害・不正確な出力を防ぐガードレールは、入力時と出力時の両方に設け、安全性・倫理・法令遵守を確保します。
AI倫理の枠組みとしては、日本の人間中心のAI社会原則(基本理念:人間の尊厳、多様性と包摂、持続性)、事業者向けのAI事業者ガイドライン、米国NISTのAI RMF(AI Risk Management Framework)、AIのマネジメントシステム規格ISO/IEC 42001などが挙げられます。科目B(2-5)では、安全性・公平性・プライバシーなどの観点から倫理的リスクを特定し、設計から運用までのルールやレビュー観点を整理して、継続的に評価・改善するスキルが問われます。
- ReAct=推論と行動(ツール実行)を交互に繰り返す設計パターン
- MCP=AIと外部ツール・データの接続、A2A=エージェント間連携のプロトコル
- 自律性が高いほど、最終承認・例外処理への人間の関与とガードレールが重要
- ガードレールは入力時・出力時の両方で設ける
- 倫理の観点:安全性・公平性・プライバシー・透明性・説明責任。導入後も継続評価する