カスタマーエクスペリエンスのさらなる進化のために、責任あるAIを構築する

より高品質でパーソナライズされたカスタマーエクスペリエンスの実現を目指して多くの企業がAIに注目するなか、Zendeskは一貫して製品の開発・設計基準を守り続けています。

発行日 2024年2月22日

消費者が生成AIの普及に期待しているのは明らかですが、一方で消費者はAIについて不安も感じており、それは極めて妥当と言えるでしょう。ZendeskのCXトレンドレポート2023年版によると、消費者の3分の1以上が、個人や企業がAIを悪意ある、またはネガティブな方法で使用するのではないかとの懸念を抱いており、また約半数が、ボットや自動化システムが特定のグループの人々に対して偏見を示すのではないかと不安を感じています。ビジネスリーダーたちも同様の懸念を抱いています。従ってビジネスリーダーの73％が、AIやボットが特定のタイプの顧客に対して偏見を示さないよう保証することが最優先事項の一つであると回答しています。

Zendesk AI開発チームのリーダーであるCristina Fonsecaは先日生成AIの可能性とリスクについて語り、その中で「AIソリューションの導入における最大の課題のひとつは、テクノロジーに対する信頼を確保することだと考えています」と述べています。出来るかぎり安全で信頼できる製品やソリューションを提供するというZendeskのコミットメントは、企業文化として社内全体に浸透しています。Zendeskではそのために一連の設計原則を運用しており、これらの原則は、Zendeskが行うすべての製品設計、開発、構築のベースであると同時に、生成AIを利用したカスタマーエクスペリエンス（CX）の開発指針となっています。

1.プライバシー、セキュリティ、コンプライアンスを設計段階から製品に造り込む
お客様のデータを安全に守ることはZendeskの使命であり、私たちにとって最も重要な任務です。私たちはZendeskのセキュリティおよびコンプライアンス基準を満たさないテクノロジーは決してお客様に提供しません。また、私たちのテクノロジーによって収集されるデータがつねに責任ある形で利用されるよう、データの利用状況をモニタリングし評価しています。私たちは、ユーザー企業およびその顧客向けの保護を出来るかぎり強化するため、必要に応じてAIを導入するべきであると考えています。これは、特に生成AIに関する取り組みにおいては、AIのトレーニングに使用するデータを確実に匿名化すること、ライブチャットデータの使用を制限すること、データローカリティ要件を順守すること、顧客にオプトアウトする選択肢を提供すること、出来るかぎり多様な開発メンバーをプロジェクトに投入し同時にユーザーや対象分野の専門家の関与を得ることで、偏見が生じる可能性のある領域を特定し偏見発生のリスクを低減すること、などが含まれます。

2.透明性が信頼構築につながる
私たちは、Zendeskのテクノロジーがどのように機能し、どのようなデータを収集しているのか、またそのデータがどのように利用されるのかをつねに率直に説明するよう心がけています。また、ユーザー企業とその顧客の両方に対して、業界でも最先端のオプトアウトプロセスを提供しています。私たちは、カスタマーサービスへのAIの利用に関して、Zendeskの製品やソリューションにどのようにAIが使用されているかを、直接かつ明確・率直に伝えるよう心掛けています。AIによる予測品質には、場合によりばらつきが生じます。AIモデルによっては、特定のタスクは高い信頼性で処理できる一方で、新しいタスクや実行頻度の低いタスクについては信頼度が低く、ベストエフォートパフォーマンスしか提供できないこともあります。期待できるAIの予測品質についてお客様にあらかじめ説明することにより、ユーザーはそれを考慮した上で意思決定を行うことができ、同時にテクノロジーに対する信頼が向上します。

3.精度のしきい値が基準を決める
Zendeskでは、早期アクセスプログラムにおいても一般販売においても、すべての製品は、お客様へのリリース前にそれぞれに決められた精度のしきい値を満たさなければならないと定めています。基本的にAI開発においては、満たすべき精度レベル（高／中／低）はテストするタスクやモデルに応じて設定しています。Zendeskでは、モデルが業界最高水準の品質基準をクリアした場合にのみお客様にAIを提供しています。すべてのAI予測について信頼度スコアを取得し、これをユーザー企業の管理者やサポートチームに提供しています。これによりユーザーは、AIをベースとするすべてのワークフローを、そのモデルの信頼度スコアを考慮したうえで構築することができます。たとえば、予測信頼度スコアが高ければ完全自動化されたタスクを構築できますが、信頼度スコアがあまり高くない場合には、エージェントと顧客の双方により良い利用体験を提供できるよう、人が関与するワークフローとするようお勧めしています。ZendeskのAIテクノロジーは、お客様のニーズに沿った正確で信頼できる回答を提供することを設計の中心としており、常にこれを開発の優先目標として取り組んでいます。

4.適切なサードパーティーツールのパートナー事業者との連携
パートナー事業者の選定は、私たちの製品開発アプローチにおいて極めて大事な要素です。Zendeskは、最高のツールを投入してお客様に継続的に価値を創造するため、さまざまなテクノロジーパートナーと連携しています。私たちにとって、生成AIは1つのツールに過ぎず、単一のソリューションですべてのニーズに応えることはできないと考えています。お客様にとってベストな製品やソリューションを構築するため、Zendeskはさまざまなパートナー事業者で構成されるエコシステムを擁しています。必要に応じてこれらのパートナーと連携することで、直面するさまざまな課題や制限の克服に取り組んでいます。

5.人が作り出した、人のためのテクノロジー
ZendeskのAIテクノロジーは、人間同士の対話に取って代わるのではなく、あくまでカスタマーエクスペリエンスの向上手段として設計されています。生成AIをカスタマーエクスペリエンスに投入するには、人によるモニタリングが不可欠です。テクノロジーは決められたタスクを自動化するのには役立ちますが、全体として卓越したカスタマーサービスを提供するには人と人とのつながりが欠かせません。前述のレポートでも、81％の消費者が、AIを利用したカスタマーサービスで問題が発生した場合にすぐ人間のサポート担当者にアクセスできることが、企業を信頼できるかどうかで重要なポイントであると答えています。私たちは、AIテクノロジーが適切に使用され顧客に期待通りのサービスを提供できているかを確認するため、常に人によるモニタリングを実施しています。