中国通信機器大手の華為技術（ファーウェイ）のクラウド事業部門「華為雲（ファーウェイクラウド）」は2020年7月17日、中国のゲーム動画配信大手の虎牙（フーヤー）と共同で、AI（人工知能）で有害コンテンツを検出するソリューションを発表した。ファーウェイクラウドが主催の「ファーウェイクラウド2020インターネット5Gイノベーションサミット」にて発表された。

ファーウェイクラウドと虎牙（フーヤー）は、AIで有害コンテンツを検出するソリューションを発表した（写真はファーウェイのニュースリリースより）

［画像のクリックで拡大表示］

　同ソリューションは、コンテンツの内容を識別するフーヤー独自開発のAIエンジンを、高性能な計算能力を持つファーウェイのAIプロセッサー「昇騰（Ascend）」搭載のチップに乗せる形で、開発された。

　有害コンテンツ検出の流れはこうだ。まず機械学習システムがコンテンツの内容を理解し、有害コンテンツを特定する。そして、フーヤー社内のコンテンツ審査チームがチェックをする。システムと人間の従業員が連携する仕組みを作つくることで、有害コンテンツの検出を強化させている。

コンテンツ業界では監視業務が重要に

　近年、動画やショートムービー、ライブストリーミングなどの市場は急成長している。同時に、クラウド技術やAI、5Gなどの技術も進歩し続けていることから、エンターテインメント産業全体もまた、新たな形に変化し続けている。エンターテインメント産業の成長に伴い、ライブストリーミングなどの市場で違反行為も増えており、監視業務がますます重要になっている。

　しかし、リアルタイムで頻繁なインタラクティブが発生することこそライブストリーミングの特徴であり、違反したかどうかは、画像や言語の文脈、その場の雰囲気などの要素を重ねて判断する必要があり、現在ではまだ困難となっている。よって、ライブストリーミングなどの内容の審査は、機械がまず監視して違反していると特定したものを、人が再度チェックする「人+機械」の連携方式が主流となっている。