ハルシネーションは、AI がもっともらしく見える誤情報や誤ったコードを出してしまうことです。
自然な文章や整ったコードに見えるので、初心者ほど見抜きにくいことがあります。
まず押さえたいポイント
- それっぽく見えても誤りのことがある
- 文章だけでなくコードでも起きる
- 見た目の整い方と正しさは別
どんな場面で使うか
- 存在しない関数や設定値を出してくる
- ライブラリの使い方を誤って説明する
- 仕様にない処理を勝手に足す
- セキュリティ上危ないコードを自然に返す
どんなふうに理解するとよいか
ハルシネーションは、嘘をつく というより 自然に続けた結果として誤る と考えると分かりやすいです。
そのため、AI の出力は文章でもコードでも、確認を前提に扱う方が安全です。
押さえておきたい注意点
自信ありげな書き方ほど安心しやすいですが、そこが危ないところです。
コード生成では、仕様確認、差分確認、テスト、レビューで潰していく必要があります。
実務で見るポイント
- AI の出力を完成品ではなくたたき台として扱う
- テストや 静的解析 を通す
- 公式ドキュメントや既存実装で裏を取る