Text Generation

最も一般的な生成方法

動作:
1. 入力テキストを受け取る
2. 次に来る単語(トークン)を予測
3. その単語を出力に追加
4. 追加した単語も含めて、次の単語を予測
5. 繰り返し

例:
入力: 「今日の天気は」
→ 次の単語を予測: 「晴れ」
→ 「今日の天気は晴れ」
→ 次の単語を予測: 「です」
→ 「今日の天気は晴れです」

モデルは各位置で、複数の候補とその確率を計算

例:
入力: 「猫が」

次の単語の候補:
- 「寝ている」: 40%
- 「遊んでいる」: 30%
- 「食べている」: 20%
- 「走っている」: 10%

確率に基づいて単語を選択

現代の Text Generation のほとんどは Transformer を使用

Transformer の特徴:
- Attention Mechanism で文脈を理解
- 長い文章でも文脈を維持
- 並列処理が可能で高速

GPT、Claude、Gemini などすべて Transformer ベース

生成の「創造性」を調整

低い Temperature(0.0〜0.3):
- 予測可能
- 一貫性が高い
- 保守的な選択

例: 「猫が」→「寝ている」(最も確率が高い)

高い Temperature(0.8〜1.5):
- 創造的
- 多様性が高い
- 予測不可能

例: 「猫が」→「虹を追いかけている」(低確率でも選択)

累積確率が p に達するまでの候補から選択

例: Top-p = 0.9

候補:
「寝ている」: 40% (累積: 40%)
「遊んでいる」: 30% (累積: 70%)
「食べている」: 20% (累積: 90%) ← ここまで
「走っている」: 10% (累積: 100%)

上位3つの候補からのみ選択
→ 多様性を保ちつつ、極端な選択を避ける

上位 k 個の候補からのみ選択

例: Top-k = 3

「寝ている」: 40%
「遊んでいる」: 30%
「食べている」: 20%
↑ 上位3つのみ考慮

「走っている」: 10% ← 除外

生成する最大トークン数

例: Max Tokens = 100
→ 100トークンに達したら生成を停止

用途:
- コスト管理
- 長すぎる出力を防ぐ

与えられた文章の続きを生成

入力: 「むかしむかし、あるところに」
出力: 「おじいさんとおばあさんが住んでいました。おじいさんは山へ柴刈りに...」

用途:
- 文章の執筆支援
- コード補完
- ストーリー生成

会話形式で応答を生成

入力:
ユーザー: 「今日の天気は？」

出力:
アシスタント: 「申し訳ございませんが、リアルタイムの天気情報にはアクセスできません...」

用途:
- チャットボット
- カスタマーサポート
- バーチャルアシスタント

長い文章を短く要約

入力: 5ページの記事

出力: 3〜4文の要約

用途:
- ニュース要約
- 文書の要約
- 会議の議事録

ある言語から別の言語へ翻訳

入力: "Hello, how are you?"
出力: 「こんにちは、お元気ですか？」

用途:
- 多言語対応
- グローバルコミュニケーション

与えられた指示に従って文章を生成

入力: 「ビジネスメールの形式で、会議のリマインダーを書いて」

出力:
件名: 明日の会議のリマインダー

田中様

お疲れ様です。明日の会議について...

用途:
- タスクの自動化
- コンテンツ作成

ブログ記事の生成:
- トピックを指定
- AI が記事の構成を作成
- 各セクションの内容を生成
- 人間が編集・調整

メリット:
- 執筆時間の短縮
- アイデアの発想支援
- 構成の提案

プログラムコードの生成:
入力: 「Pythonで、リストの中の偶数だけを抽出する関数」

出力:
def filter_even_numbers(numbers):
    return [num for num in numbers if num % 2 == 0]

用途:
- GitHub Copilot
- コード補完
- ボイラープレートの生成

小説、詩、脚本の執筆支援:
- プロットの生成
- キャラクターの対話
- シーンの描写

ゲームの NPC の会話:
- 動的に生成される会話
- 状況に応じた応答

メール、報告書、提案書の作成:
- テンプレートベースの生成
- 自動要約
- 多言語対応

カスタマーサポート:
- FAQ の自動応答
- 問い合わせへの回答生成

従来:
報告書の作成に2〜3時間

Text Generation:
- 下書きを AI が生成(5分)
- 人間が編集・調整(30分)
→ 大幅な時間短縮

ライターズブロック(書けない状態)を解消

AI が複数のアイデアを提案:
- 異なる視点
- 意外な切り口
- 新しい表現

人間の創造性を刺激

大量の文章を生成する際に、
スタイルやトーンを統一

例: カスタマーサポート
すべての応答が同じ丁寧さ、同じフォーマット

人間が1時間に書ける文章: 限界がある
AI: 無制限にスケール

用途:
- パーソナライズされたコンテンツを大量生成
- 多言語対応

問題:
AI が事実でない情報を生成

例:
質問: 「東京タワーの高さは？」
AI: 「東京タワーは500メートルです」
(実際: 333メートル)

対策:
- Fact-checking
- 信頼できる情報源と照合
- RAG(検索拡張生成)の活用

問題:
長い文章で、前後で矛盾することがある

例:
最初: 「主人公は医者です」
後半: 「主人公は弁護士として...」

対策:
- コンテキストを明示的に管理
- 人間による校正

問題:
学習データに基づく生成のため、
本当に新しいアイデアは生まれにくい

AI の役割:
- 補助ツール
- アイデアの発想支援

人間の創造性:
- 最終的な判断
- 独自性の追加

問題:
学習データに含まれるバイアスを反映

対策:
- 多様なデータで訓練
- 出力の監視
- フィルタリング

悪い例:
「文章を書いて」
→ 曖昧で、望む結果が得られない

良い例:
「ビジネスブログ向けに、AIの活用事例について、
初心者にも分かりやすく、800文字程度で書いてください」
→ 具体的で、制約が明確

タスクに応じて調整:

事実ベースの文章(報告書、要約):
- Temperature: 0.0〜0.3(低め)
- 一貫性と正確性を重視

創作(小説、詩):
- Temperature: 0.7〜1.0(高め)
- 創造性と多様性を重視

一度にすべてを生成せず、段階的に:

1. アウトラインを生成
2. 各セクションを順番に生成
3. 全体を通して編集

長い文章ほど効果的

生成された文章は必ずレビュー:

確認項目:
- 事実確認
- 文法チェック
- トーンの一貫性
- ブランドガイドラインへの適合

AI は補助ツール、最終判断は人間