目次
今回のテーマ
生成AI(文章や回答を自動で作る人工知能)にカスタマーサポートの問い合わせ対応を任せる企業が増えています。ただし、AIは学習データにない情報でも、それらしい言葉で答えてしまうことがあります。これは「ハルシネーション」と呼ばれる、事実と異なる内容をもっともらしく生成してしまう現象です。正確な回答をさせるには、質問への答え方だけでなく、指示の出し方そのものを工夫する必要があります。
具体的な活用方法
たとえば、家電メーカーのサポート窓口で、製品の対応機種や保証条件についてAIに一次回答を作らせる場面を考えてみましょう。この場合、公式の製品マニュアルやFAQデータをAIに読み込ませたうえで、「渡した資料に書かれている内容だけをもとに答えてください」「資料にない質問には、わからないと答えてください」と指示します。あわせて、回答の根拠となったマニュアルの該当箇所も一緒に示すよう求めると、担当者が内容を確認しやすくなります。
利用するときの注意点
AIに渡す資料が古い場合、誤った情報をもとに回答が作られてしまいます。定期的にマニュアルやFAQデータを更新し、最新版を使わせることが大切です。また、保証や返金など顧客の権利に関わる内容は、AIの回答をそのまま送らず、必ず担当者が事実確認してから顧客に届けるようにしましょう。
まとめ
生成AIに正確な回答をさせるには、根拠となる資料を明確に示し、資料にない内容は答えさせない指示が効果的です。特に顧客対応のように誤りが信頼に関わる場面では、AIの回答を人が確認する体制とあわせて運用することが欠かせません。
