ElevenLabs、AI通話検出を提供　人間と合成音声を数秒で判定

AIによる合成音声を自動で検出する新機能が、ElevenAgentsで利用できるようになった。通話開始から数秒で人間かAIかを判定し、企業側の対応方針を自動で切り替える。個人用エージェントやクローン音声による通話が企業などに増えたことに対応した。

検出機能はライブ音声のストリームを直接分析して実行される。自社生成の音声には電子透かしがあるものの、外部の音声には付いていない場合が多い。そのため、電子透かしの有無に頼らず判定できる仕組みを採用した。

判定結果に応じた運用ルールの設定も可能だ。人間の顧客と確認できた場合はキューの先頭に配置し、人間の担当者や高度なAIを割り当てる。解約防止の提案や請求交渉も優先して実施できる。

一方、AIからの発信には制限を加えた対応をとる。先に認証を求めたうえで対応範囲を絞り、アカウント変更などの権限を狭める。人間へ引き継ぐ場合でも待機列の下位に置く。

なりすましの遮断にも役立つ。銀行口座の変更やパスワードの初期化など、機密性の高い操作を求める合成音声通話を事前に止める。

あわせて、MetaとSierraが主導するPersonal Agent Protocolへの参画も公表した。デザインパートナーとして規格策定に関わる。個人のエージェントが企業へ身元を示し、代理権限の範囲を定める標準規格を目指している。

新機能は現在、同社チームが支援するエンタープライズ顧客向けに提供されている。今月下旬にはElevenAgents内の設定として、より多くの企業へ対象を広げる予定だ。具体的な提供日や一般向け展開の時期は明らかにしていない。

経営にとっての意味

自社の運用は変えない。受電窓口の防護機能であり、発信主体の自社業務に直結しないためだ。また費用や提供地域、一般提供の時期が原文に無く、調達判断の材料が足りない。

受電を担う事業責任者は様子見が妥当だ。なりすまし防止の制御は示されたが、検知の精度や測り方は原文では触れていない。誤判定時の顧客対応コストが不明なため、実運用への即時投入は避ける。

開発者は、ElevenAgentsの機能と接続先の認証設計を今月下旬の仕様公開後に確認する。利用価格と一般提供時期が確定すれば、既存の受電基盤へ組み込むか判断できる。