• DIGITALIST
  • Trends
  • TMGとSpectrum LabsがAI音声モデレーション開発で提携、ライブ配信ハラスメントへの対応を目指す
Pocket HatenaBlog facebook Twitter Close
海外 公開日: 2021.08.01

TMGとSpectrum LabsがAI音声モデレーション開発で提携、ライブ配信ハラスメントへの対応を目指す

お気に入り

▼ ニュースのポイント
①SNS運営のTMGとAI開発のSpectrum Labsが音声モデレーション機能の研究開発分野で提携拡大を発表した。
②ライブ配信動画部門でも効率良くユーザーを保護する策の確立を目指す。
③AIと人のモデレーターの組み合わせで迅速に違反をチェック。

安心・安全な環境づくりに寄与するAI音声モデレーションを

 複数のSNS運営を行うマッチングアプリ大手のThe Meet Group(TMG)は米国時間の7月27日、コンテンツモデレーション向けのAI開発を進めるSpectrum Labsは、TMGのライブストリーミングサービスにおける音声モデレーション機能の研究開発を目的に含むパートナーシップの拡大を行うと発表した。

 昨今、問題が深刻化しているオンライン上のいじめやヘイトスピーチ、虐待行為などハラスメント行為からユーザーを保護することを目指す。



 近年、ソーシャル系サービスや、人々の出会いをサポートするサービス、ゲームコンテンツの提供などを行う企業は、コミュニティへの積極的参加を促すため、ライブ動画のストリーミング配信に力を入れている。

 発表によると、いまや月に10億分もの時間がライブストリーミングプラットフォームで消費されており、1日に20万時間近い量のコンテンツが配信されるようになっているとされる。

 こうした膨大なコンテンツの存在する市場の健全性を保つには、音声やテキストチャット、動画などさまざまな側面に対応できる効果的なモデレーションの仕組みが欠かせない。

現実的でプライバシーにも配慮した仕組みを

 しかし一般的なライブ動画のストリーミング配信では、モデレーションのために全てを録音・録画する、記録に残すということは、データが膨大になってしまうため現実的でないほか、プライバシーに配慮するという文脈上も好ましくなく、適切な監視を行うことが難しい。

 AIによる音声モデレーションでも、既存の方法では、いったん音声コンテンツを書き起こしてテキストAIにかける手法となっていることから、分析はスムーズでも、その準備作業負担が大きく、膨大なコストと手間が発生してしまうという。

 そこでTMGとSpectrum Labsでは、トリガーを検出して適切なタイミングから記録を開始し、チェックを行う、自発的でコスト効率に優れた手法を編み出し、あわせてモデレーターの精度を向上させることで、ユーザーの安全対策に適用していくことを目指すものとした。

 音声トラッキングは2つのトリガーで開始される。1つは報告用のボタンが押された時で、タップと同時に録音を開始、分析のためデータとして送信される。

 2つ目は動画内コメントに基づき、自動で開始されるもので、コメントから映像に問題があると判断された場合に報告される。コンテンツ違反の可能性が高い場合は、録画ファイルに行動フラグと書き起こしデータが添付され、ストリーミング配信が進行中の場合には、配信コンテンツ自体も送信される仕組みになる。

 報告は、TMGの擁する500人超の人間のモデレーターに届けられ、担当モデレーターが規定のポリシーに基づいて内容を厳しく精査し、違反がないか最終確認を行う。

 なお今回の2社の提携内容には、TMGのライブ動画配信ソリューション内で送信される全チャットのアルゴリズムによるモデレーションと、AIによるプライベートチャットのモデレーションも含まれている。

 アルゴリズムによるチャットモデレーションは、TMGのSNSアプリやvPaaSパートナーへと提供され、日々ライブストリーミング内でやりとりされている約1,500万件のチャットに適用、ヘイトスピーチやセクシャルハラスメント、そのほか行動規範への違反がないか審査するために実施される。

 またオンライン上の有害コンテンツを減らすため、プライベートチャットに対する審査も開始する。

 TMGでは、ユーザーの安全確保は企業活動の基本であり、Spectrum LabsのAIテクノロジーとモデレーションソリューションを、TMGのサービスや既存の安全プロセスと組み合わせることにより、ライブ配信市場の健全化を促す模範的モデルが確立されていくだろうとした。

(画像はPixabayより)


▼外部リンク

The Meet Group, Inc. プレスリリース
https://www.themeetgroup.com/

▼ 会社概要
The Meet Group(旧MeetMe)は2005年に設立されたソーシャルネットワーキングサービス事業者で、MeetMeやSkout、Tagged、GROWLr、hi5、LOVOOなど出会い系コミュニティを中心とした運営を行っている。企業としてはParshipMeet Groupの子会社で、マッチメイキングの主要ブランドであるeharmonyやParship、ElitePartnerを保有・運営していることでも知られる。

社名:The Meet Group, Inc.
CEO:Geoffrey Cook
所在地:New Hope, Pennsylvania, U.S.

関連記事

DIGITALIST会員が
できること

  • 会員限定記事が全て読める
  • 厳選情報をメルマガで確認
  • 同業他社のニュースを閲覧
    ※本機能は、一部ご利用いただけない会員様がいます。