生成AIを公式窓口として出すリスク
一般的な生成AI（汎用の大規模言語モデル）は、学習したデータをもとに「もっともらしい文章」を生成します。 その性質上、事実と異なる内容を、あたかも事実であるかのように答えてしまうこと（ハルシネーション）が 知られています。個人が試す分にはよくても、大学が公式のチャネルとして学生に案内する場合、 誤った回答がそのまま「大学の見解」として伝わってしまうリスクがあります。 履修や単位に関わる情報であればなおさら、誤りの影響は小さくありません。 さらに、学生は大学の公式チャネルとして案内されたAIの回答を信じやすいため、 誤りに気づかないまま行動してしまう可能性もあります。だからこそ、大学が生成AIを学生向けに出す際は、 どこまでを根拠にしているか、誤りをどう防いでいるかを、導入前に確認しておく必要があると考えています。
convaiのアプローチ：根拠を公式情報だけに絞る
コンくんは、大学が投入したシラバス等の公式情報だけを根拠に回答する設計です。 汎用的な知識から推測して答えるのではなく、投入されたデータの中から該当する情報を探して回答します。 投入データに書かれていないことについては、断定で答えることはせず、 「分からない、公式の募集要項を見てね」と正直に伝えます。存在しない情報をもっともらしく作り出さないことを、 設計の前提にしています。
公開前に幻覚率を自動検証する仕組み
convaiでは、コンくんを学生の目に触れる前に、幻覚率（事実と異なる回答が生じる割合）を自動で検証します。 基準を満たした状態になって初めて公開する仕組みです。これは、公開してから問題を見つけて直すのではなく、 公開する前の段階で品質を確認しておく、という考え方に基づいています。 検証の結果は 検証レポート として確認いただけます。
実行時0 LLMという設計
コンくんは、質問に答える実行時の処理において0 LLM（検索中心の設計）で動作します。 大学の公式情報から該当する情報を検索して回答を組み立てる仕組みのため、 汎用の生成AIをそのまま呼び出す構成に比べて、低コストかつ安定した運用がしやすいと考えています。 構成のシンプルさは、そのまま検証のしやすさにもつながっています。 汎用の生成AIをそのまま呼び出す構成では、モデルの出力を毎回細かく制御することが難しくなりがちですが、 検索中心の設計であれば、何を根拠に回答したかを追いやすく、検証の対象も絞り込みやすくなります。
検討の進め方
ご契約は個別のお問い合わせに基づき決定します。誤情報対策の詳しい設計思想や検証方法については、 資料請求またはお問い合わせでご案内いたします。
よくある質問
Q. 幻覚率とは何ですか？
A. AIが事実と異なる回答（ハルシネーション）を返す割合の指標です。コンくんは公開前にこの幻覚率を自動検証し、基準を満たした状態になってから公開します。
Q. 検証はどのタイミングで行われますか？
A. 大学が投入したシラバス等のデータをもとにコンくんを構築する際、公開前の段階で自動検証を実施します。基準を満たさない場合は公開しません。
Q. 検証の結果を確認することはできますか？
A. 検証レポートのページで確認いただけます。トップページの「検証レポートを見る」からご覧いただけます。
Q. データにない質問にはどう対応しますか？
A. 断定で答えることはせず、「分からない、公式の募集要項を見てね」と正直に回答します。存在しない情報をもっともらしく作り出さない設計です。
Q. なぜ実行時のコストが低いのですか？
A. 実行時は0 LLM（検索中心の設計）で動作するためです。大学の公式情報から該当箇所を検索して回答する仕組みにより、低コストかつ安定した運用が可能です。