Model Training

質の高いデータを大量に集める

例: 画像分類モデル
- 猫の画像: 10万枚
- 犬の画像: 10万枚

重要:
データの量と質が、モデルの性能を決める

データを学習に適した形式に変換

画像の場合:
- リサイズ(統一サイズに)
- 正規化(0〜1 の範囲に)
- データ拡張(回転、反転など)

テキストの場合:
- トークン化
- 小文字化
- ストップワード除去

ニューラルネットワークの構造を定義

例: 画像分類
入力層: 224x224x3(画像)
中間層: 複数の畳み込み層
出力層: 2(猫か犬か)

パラメータをランダムに初期化

繰り返し学習を行う

1エポック:
for データバッチ in 訓練データ:
    1. Forward Pass(順伝播)
       - データをモデルに入力
       - 予測を生成

    2. Loss Calculation(損失計算)
       - 予測と正解を比較
       - 誤差を数値化

    3. Backward Pass(逆伝播)
       - 誤差を元にパラメータを更新
       - 勾配降下法を使用

複数エポック繰り返す(10〜100エポック)

訓練後、テストデータで性能を評価

評価指標:
- 精度(Accuracy)
- 適合率(Precision)
- 再現率(Recall)
- F1スコア

訓練データとは別のデータで評価が重要

ラベル付きデータから学習

例: 画像分類
データ: 画像 + ラベル(「猫」または「犬」)

プロセス:
1. 画像を入力
2. モデルが予測(「猫」70%、「犬」30%)
3. 正解ラベルと比較
4. 誤差を計算
5. パラメータを更新

用途:
- 画像分類
- テキスト分類
- 音声認識

ラベルなしデータから学習

例: クラスタリング
データ: 顧客の購買履歴(ラベルなし)

プロセス:
1. データのパターンを発見
2. 似たデータをグループ化

用途:
- クラスタリング
- 異常検知
- 次元削減

データ自体からラベルを生成

例: BERT の訓練
タスク: マスクされた単語を予測

文: 「猫が[MASK]を食べた」
正解: 「魚」

データからラベルを自動生成
→ 大量の学習が可能

用途:
- LLM の事前訓練
- 画像の表現学習

報酬を最大化するように学習

例: ゲーム AI
行動 → 結果 → 報酬

良い行動(ゴール) → 報酬 +10
悪い行動(ゲームオーバー) → 報酬 -10

プロセス:
1. 行動を選択
2. 環境から報酬を受け取る
3. 報酬を最大化するように学習

用途:
- ゲーム AI
- ロボット制御
- RLHF(人間のフィードバックからの強化学習)

問題:
訓練データに過度に適合してしまう

結果:
訓練データ: 精度 99%
テストデータ: 精度 60%

例え:
試験問題を丸暗記
→ 同じ問題なら解けるが、違う問題は解けない

対策:
- Regularization(正則化)
- Dropout
- Early Stopping
- データ拡張

問題:
モデルが単純すぎて、パターンを学習できない

結果:
訓練データ: 精度 60%
テストデータ: 精度 58%

対策:
- より複雑なモデルを使用
- 訓練時間を増やす
- 特徴量を追加

問題:
データにバイアスやノイズが含まれる

例:
訓練データが偏っている:
- 猫の画像: すべて白猫
- 犬の画像: すべて茶色い犬

結果:
黒猫を犬と誤分類

対策:
- データの多様性を確保
- データクリーニング
- バランスの取れたデータセット

問題:
大規模モデルの訓練には膨大な計算資源

GPT-4 の訓練コスト:
推定 $100M〜$500M(100億〜500億円)

対策:
- Transfer Learning(転移学習)
- Fine-tuning
- 小さいモデルから始める
- クラウド GPU の活用

パラメータの更新幅

高すぎる:
- 学習が不安定
- 収束しない

低すぎる:
- 学習が遅い
- 最適解に到達しない

一般的な値: 0.001〜0.1

テクニック:
Learning Rate Scheduling
訓練の進行に応じて学習率を調整

一度に処理するデータ数

小さい(32):
- メモリ使用量が少ない
- 学習が不安定

大きい(256):
- メモリ使用量が多い
- 学習が安定
- 汎化性能が低下する場合も

バランスが重要: 通常 32〜128

全データを何回学習するか

少ない(5):
- 未学習のリスク

多い(100):
- 過学習のリスク
- 訓練時間が長い

通常: 10〜50エポック

Early Stopping を活用:
検証データの性能が悪化したら停止

パラメータ更新の方法

SGD(Stochastic Gradient Descent):
- シンプル
- 遅い

Adam(Adaptive Moment Estimation):
- 高速
- 一般的に推奨
- 多くのタスクで良好

AdamW:
- Adam の改良版
- 正則化の改善

事前訓練されたモデルを新しいタスクに適用

例:
ImageNet で訓練されたモデル
→ 医療画像の分類に適用

メリット:
- 訓練時間の短縮(数時間〜数日)
- 少ないデータで高性能
- コスト削減

プロセス:
1. 事前訓練モデルをロード
2. 最後の層だけを置き換え
3. 新しいデータで訓練

事前訓練モデルの一部または全体を再訓練

例:
GPT-3 を自社データで Fine-tuning
→ 特定ドメインに特化

レベル:
- Feature Extraction: 最後の層のみ訓練
- Fine-tuning: すべての層を訓練(学習率は低め)

メリット:
- ドメイン特化の高性能モデル
- フルトレーニングより少ないデータ

データを分割して、複数の GPU で処理

例:
バッチサイズ 256 を 4つの GPU で:
各 GPU: バッチサイズ 64

プロセス:
1. データを分割
2. 各 GPU で Forward/Backward Pass
3. 勾配を集約
4. パラメータを更新

メリット:
- スループット向上
- 実装が比較的簡単

モデルを分割して、複数の GPU に配置

例:
非常に大きいモデル(1TB)
→ 1つの GPU に載らない
→ モデルを4つに分割

メリット:
- 巨大モデルの訓練が可能

デメリット:
- 実装が複雑
- 通信オーバーヘッド

最初から大規模モデルを訓練しない

アプローチ:
1. 小さいモデルで実験
2. 小さいデータセットで動作確認
3. 徐々にスケールアップ

メリット:
- 素早いフィードバック
- バグの早期発見
- コスト削減

訓練前にデータを確認

チェック項目:
- データの分布
- ラベルの正確性
- 異常値の有無
- バランス

問題を早期に発見

訓練中の指標を監視

監視項目:
- Training Loss(訓練損失)
- Validation Loss(検証損失)
- Accuracy(精度)
- Learning Rate

ツール:
- TensorBoard
- Weights & Biases(W&B)
- MLflow

ハイパーパラメータと結果を記録

記録項目:
- モデル構造
- ハイパーパラメータ
- データセット
- 性能指標
- 訓練時間

再現性が重要

定期的にモデルを保存

理由:
- 訓練が中断しても再開可能
- 最良のモデルを保持
- 異なるエポックのモデルを比較

例:
5エポックごとに保存
検証精度が最高のモデルを保持