Orion: コンテンツモデレーションの現在と未来 | CADC 2024

長年にわたって、AmebaやABEMAをはじめとするメディア・サービスは、たくさんのユーザから寄せられるコンテンツにより成り立っている。一方、ごく一部ではあるがユーザやサービス自体に対する有害なコンテンツも投稿されており、放置することでサービスの品質低下や法的なリスクも発生することが懸念される。コンテンツモデレーションツールである「Orion」は、そうした有害なコンテンツの検知と排除のために構成された基盤システムで、自動でのフィルタリングとオペレータによる有人レビューの組み合わせによるHCI(Human-Computer Interaction)システムであり、10年以上にわたり運用されている。本発表では、現在までのOrionの取り組みと、将来より効率的なモデレーションを実現するために、生成AIなどを用いたレビューの置き換えやフィルタリングの試みについて概観を示す。

• 

  安 榮模

  Data Science Center 機械学習エンジニア

  2011年にアメーバピグを始め、現在はOrionの開発・運用を担当。10年以上の実績を持つコンテンツモデレーションシステム(Orion)を活かし、誰もが安心して楽しめるインターネットサービスの提供をサポートしている。最近ランニングに入門。
• 

  藤坂 祐介

  2012年にサイバーエージェントに新卒入社。入社以来、秋葉原ラボ(現在のData Science Center)に所属し、検索システムやストリーミング基盤の開発ののち、監視基盤システム「Orion」の開発・運用に従事。以来、Orionの運用チームのプロダクトリーダーとして現職。男児2人の父。
• 

  山本 聡

  中途入社 Data Science Center 所属。「Orion」のサービス導入からアーキテクチャの刷新・モダナイゼーションまでプロダクトの開発に幅広く従事。バイクパッキングが趣味。