ハルシネーションとは、AIが実在しない情報や誤った情報を生成してしまう現象です。

解説

ハルシネーションは、生成AI（人工知能）が真実ではない情報を出力してしまう現象を指します。特にコンタクトセンターで利用されるナレッジツールやチャットボット、ログ管理システムなどでこの問題が出ると、顧客に誤った情報を伝えてしまうリスクがあります。

そのため、生成された情報の信憑性を確保するために、目視での確認作業が不可欠です。AI技術は進化していますが、現在のところハルシネーションを完全に回避することは難しく、そのリスクを抑えるための様々な取り組みが行われています。

たとえば、生成結果のレビューシステムやフィードバック機構を導入し、誤った内容の修正と改善を継続することが重要です。こうした取り組みを通じて、ハルシネーションによる影響を最小限に抑えることが目指されています。

エラーとの違い

エラーとの違いとして、エラーはシステムが故障することで発生するのに対し、ハルシネーションはAIが内部の処理に基づいて、無意識に誤りを含む情報を生成することが特徴です。

利用シーン

より簡単な説明

ハルシネーションとは、AIという賢いコンピュータが、間違った情報を作り出してしまうことです。例えば、AIが「月にはウサギが住んでいます」と言ってきたら、それは誤った情報ですね。

こんなことが起こらないように気を付けたり、間違いを見つけるために人間が確認することが重要です。AIは便利ですが、時々こんな間違いもするので、すべてをそのまま信じるわけにはいきません。

類義語・関連用語

読み方・表記

ハルシネーションは、英語ではHallucinationと表現されます。

---