シラバス6.3で追加された「生成AI」。LLM・プロンプト・ハルシネーション・RAG、そしてAI倫理や著作権まで、文章と画像の身近な例で一気に整理します。
星見 めい
ねえ先生、ChatGPTで作文の下書き作ったんだけど、これってAIが文章を『考えてる』ってことなの?
マジですごくない?
紫垣 こはる 先生
ふふ、よく使っているわね。
それが生成AIよ。
文章・画像・音声・動画など、新しいコンテンツを作り出せるAIの総称なの。
2025年10月以降のシラバス6.3から、ITパスポートの出題範囲に正式に加わったわ。
蜂谷 まこと
補足すると、文章を生成する中核技術がLLM(大規模言語モデル)です。
膨大なテキストで学習して、『次に来そうな言葉』を確率的に予測しながら文章をつないでいきます。
小夜川 ほのか
えっと…じゃあAIは意味をわかって答えてるんじゃなくて、それっぽい言葉を順番に並べてるだけ…なんですかぁ?
蜂谷 まこと
鋭いですね。
人間のように『理解』しているわけではなく、確率的にもっともらしい続きを出しているだけ。
ここが後で出てくる弱点にもつながります。
紫垣 こはる 先生
代表例はGPT(ChatGPT)・Claude・Gemini・Llamaあたりね。
そして、AIから良い答えを引き出すために指示の出し方を工夫する技術をプロンプトエンジニアリングと呼ぶの。
『高校生にもわかるように3行で』と条件を足すだけで答えが変わるのよ。
星見 めい
なるほど、プロンプトは『AIへのお願いメモ』ってことね。
で、さっき言ってた弱点って何なの?
蜂谷 まこと
LLMは事実と違う内容を、さも本当のように自信満々で言うことがあるんです。
これをハルシネーション(幻覚)と呼びます。
星見 めい
マジか。
存在しない本のタイトルとか、デタラメな日付を堂々と書いちゃうやつだ。
『それっぽい続き』を作る仕組みだもんね。
どうやって防ぐの?
紫垣 こはる 先生
対策の代表がRAG(検索拡張生成)よ。
回答する前に、社内マニュアルや辞典など外部の正しい資料を『検索』して、それを根拠に答えを『生成』するの。
星見 めい
なるほど、テストで言うなら『記憶だけで答える』んじゃなくて『教科書を開きながら答える』感じじゃん!
紫垣 こはる 先生
ふふ、いいたとえね。
まさにそれ。
手元の資料に基づくぶん、ハルシネーションを減らせるのよ。
蜂谷 まこと
使う側の責任も問われます。
AIが学習データの偏りをそのまま反映してしまうAIバイアス(偏見)、本物そっくりの偽動画を作るディープフェイク、それに著作権の問題など、AI倫理の論点がいくつもあります。
小夜川 ほのか
ディープフェイクって、知らない人が見たら本物だと思っちゃいますよねぇ…こわいのぉ。
それってルールは無いんですかぁ?
紫垣 こはる 先生
だからこそルール作りが進んでいるの。
日本では著作権法第30条の4で、AI学習のためのデータ利用は原則OK。
ただし、生成物が既存の著作物とそっくりなら著作権侵害になることもあって、『学習はよくても結果がパクリならアウト』というわけ。
星見 めい
なるほど、線引きが難しいじゃん…。
海外はどうなってるの?
蜂谷 まこと
世界では2024年成立のEU AI Actが世界初のAI包括規制法として注目されています。
AIをリスクの高さで分類して、危険な用途ほど厳しく規制する『リスクベース』の考え方です。
紫垣 こはる 先生
日本にも、総務省と経済産業省がまとめたAI事業者ガイドラインがあるわ。
開発する人・提供する人・使う人、それぞれが守るべきことを示しているの。
小夜川 ほのか
覚えること多いですけど…『便利さ』と『安全』のバランスを取るルールなんだなって、つながってきましたぁ!
紫垣 こはる 先生
そのとおりよ。
最後に整理するわね。
生成AIで新しいコンテンツを作り、文章はLLMが担う。
良い答えはプロンプトの工夫で引き出し、嘘(ハルシネーション)はRAGで抑える。
そして使うときはバイアス・著作権・ルールに気をつける。
この流れで覚えれば完璧よ。
確認クイズ
大規模言語モデル(LLM)が、事実と異なる内容をもっともらしく自信満々に生成してしまう現象を何と呼ぶか。
- AIバイアス
- ハルシネーション
- プロンプトエンジニアリング
- ディープフェイク
こたえを見る
正解: 2. ハルシネーション
正解はハルシネーション(幻覚)。LLMは『それっぽい言葉の続き』を確率的に作るため、事実でない内容を堂々と述べてしまうことがあります。対策の代表がRAG(検索拡張生成)で、外部の正しい資料を参照して回答精度を高めます。AIバイアスは学習データの偏りを反映する現象、プロンプトエンジニアリングはAIへの指示を工夫する技術、ディープフェイクはAIが作る偽動画・画像を指し、いずれも別の用語です。
