Webエージェントの「出力ガードレール」で回答を検査する

出力ガードレールとは

Webエージェントが生成した回答を、エンドユーザーに表示する前に、別のAIで検査する機能です。回答が検査の観点に当てはまった場合、Webエージェントは回答をあらかじめ決められた文言に置き換えてエンドユーザーに返信します。

出力ガードレール機能は標準で無効になっています。
ご利用いただく場合は、弊社の営業・サクセスメンバーまでご連絡ください。

設定方法

出力ガードレールの設定手順と設定項目を説明します。

手順

  1. QANT Webの管理画面で「Webエージェント」を開き、対象のエージェントを選びます。
  2. 「出力ガードレール」タブを選びます。
  3. 「ガードレール設定」で、「出力ガードレールを有効にする」をオンにします。
  4. 検査の観点を指定する場合は、「チェック観点」の「編集」を選んで内容を入力します。編集をやめるときは「キャンセル」を選びます。
  5. 右上の「更新」を選んで保存します。

設定内容の詳細

出力ガードレールでは次の2つの項目が設定できます。

  • 機能の有効化・無効化
  • チェック観点

「チェック観点」 の仕様は次の通りです。

  • 入力できる文字数は最大10,000文字です。
  • 「チェック観点」を登録していない場合、ガードレール機能は次の観点で検査を行います。
    • 有害な表現(差別、暴力、自傷行為、違法行為を助長する内容など)
    • システムの内部情報の漏えい
    • エージェントに設定された役割からの極端な逸脱
  • 個人情報はデフォルトの観点には含まれません。個人情報を含む回答も止めたい場合は、「チェック観点」に記載例を追加してください。

ガードレールの挙動

出力ガードレールはエージェントの出力の検査を行います。提示不可と判定した場合はその旨をエンドユーザーにお知らせします。

検査の対象

ガードレールは、エンドユーザーが直前に入力した発言と、エージェントの回答を元に検査を行います。検査対象は、回答の本文(通常のテキスト・HTML形式)、選択肢、回答の理由です。

観点に当てはまった場合の挙動

ガードレールが回答を「チェック観点」当てはまると判定した場合、エージェントはエンドユーザーに次のメッセージのみを表示します。

「回答を安全性の観点から表示できませんでした。質問内容を変えて、もう一度お試しください。」

元の回答や選択肢は表示しません。当てはまった観点や理由も表示しません。

検査自体に失敗した場合は、安全性を確認できない回答を表示しないために、次のメッセージを表示します。

「回答の安全性を確認できなかったため表示できませんでした。しばらく経ってから、もう一度お試しください。」

注意点

  • 検査は回答の生成後、メッセージの送信前に行います。

この解決策は役に立ちましたか?