米国大統領選以降、フェイクニュースの真偽が話題に上ることが多くなった。日本でも剽窃サイトなどの運営体制や倫理問題に対する関心が高まっている。そうした中、米国のVerizon、AT&T、Johnson & Johnson、そして英国政府を担当する大手広告会社グループのHavasなどがGoogle/YouTubeへの広告出稿を取りやめるボイコット運動が起きた。

　不適切なコンテンツと一緒に自社の広告を表示されないために、広告出稿そのものをやめるという防御策に出たわけだが、これは対症療法に過ぎない。そうした手段で防御するだけでは問題は解決しない。そもそも不適切なコンテンツをなくす（減らす）努力が必要であろう。

　この問題に対する、「デュオポリー（2者独占）」と呼ばれるGoogleとFacebookらによる言い分は、「自分たちはプラットフォーム企業（テクノロジー企業）であって、コンテンツ管理を行うメディア企業ではない」というものだ。実際にそうしたスタンスを取り続けている。とはいえデュオポリーは利益率、成長率ともに高く、実際に独占的な地位にあるわけで、そこから（責任あるメディア企業の立場へと）ステップアップすべきだというのが一般的な意見だろう。

　もちろん各種のソーシャル・プラットフォームにおけるUGC（ユーザー・ジェネレ―テッド・コンテンツ）の投稿は、AI（人工知能）のような機械的な監視だけでは（何がセーフで、何がアウトかの）判断が難しい。最終的には人間が判断し監視している。このようにコンテンツ監視体制には悩ましい実態があることを理解しておく必要がある。

戦争写真か、裸の少女か

　こうした問題の中でも昨年、特に大きな話題になったのは、1977年のピューリッツァー賞を獲得したベトナム戦争の報道写真「戦争の恐怖」（図1）を、Facebookが「裸の少女」と判断して削除した事件だろう。

図1　AP通信ニック・ウット氏が1972年に撮影した「戦争の恐怖（The Terror of War）」（写真：AP/アフロ）

　ノルウェー人記者が「最も反響を呼んだ戦争写真の1枚」として自身のFacebookに掲載したところ、「少女が裸であること」を理由にFacebookが投稿を削除し、アカウントを24時間停止した。この件に関するSNS上の議論にノルウェーのソルベルグ首相が参加して「検閲だ」と投稿したことなどで、Facebook側には非難の声が集中。その結果、Facebookは投稿を元に戻してシェリル・サンドバーグCOO（最高執行責任者）が陳謝する事態になった。

　昨年末には、Microsoftの元従業員2人がPTSD(心的外傷後ストレス障がい)を患ったとして同社を提訴する事件もあった。Microsoftは連邦法の制定に従い、違法の可能性のある画像を判別し、全米行方不明・被搾取児童センターに通報するオンライン・セーフティー・チームを2008年に設置している。訴えた2人は、そのメンバーだった。

　このチームは、不適切な画像を自動認識する「事前」の防御スクリーニングと、事後の「通報」を担当している。いずれも最終的にはメンバーが（人力で）判断し処理しているが、その数の多さが問題だった。2人は想像をはるかに超える最悪かつ非人道的な、目を覆うばかりの画像・ビデオを1日何千（何万）も見て、それが人道的かどうかを考えなければならなかった。

　さらに、この両氏は正社員ではなく、健康上の問題を訴えても会社は問題を軽視して「何かで気晴らしをしたらどうか」といった程度の指導しかしていなかったことも問題だった。

「人間エージェント」の仕事

　この2つの事例では、「倫理ガイドラインをどこに置くべきか」という極めて人間的、主観的な判断基準に議論が集中した。だが、問題の本質は正義でも判断基準でもない。処理すべき「量」の問題が大きい。

　例えばYouTubeには1分間に100時間分（つまり1分間に、その6000倍）のコンテンツがアップロードされ、Facebookに寄せられる苦情は1日当たり100万件以上だという。こんな大量のコンテンツの適否を見極めたり、苦情に対応したりするには、個人の裁量の余地を無くし、厳格なルールに則ったコンテンツ監視体制を整えるしかないだろう。

　別の問題もある。例えば「Commercial Content Moderation」（CCM、商業コンテンツの節度ある管理）」というタイトルの調査レポートによると、大手プラットフォーム企業ではこうした管理が社員ではく、契約社員に「半アウトソーシング」されているという。

［画像のクリックで拡大表示］

図2:　フェイスブックのコンテンツ管理フロー

　今や有名な話だが、シリコンバレーではSTEM（Science=科学、Technology＝技術、Engineering＝工学、Mathematics＝数学の頭文字）専攻以外の学生は、あまり採用されない。そうした中、なぜかSTEM以外の人類学や心理学などを専攻した4年制大学の学生が、このCCM系の枠に採用されているという。

　当の学生は、あこがれのシリコンバレー企業に入り、数年後に別部署に異動して昇格といった夢を描くのだろう。だが、CCM系採用では、それが不可能な契約になっている。契約期間は1年で、フルタイムで働く契約社員として採用され、その延長は1回きりになっている。

　さらに、このレポートによれば「CCM職はフィリピン、インドなど、労働コストの安い地域にアウトソーシングされることが少なくない」という。言語も文化も法律も習慣なども異なる労賃の安い国、具体的にはフィリピンなどに、外部のブティックファームの形でアウトソースされた事例などが報告されている。

　こうしたアウトソーシング契約の報酬は極めて低い。写真確認1枚当たり1セントといった契約もあるという。フェアトレードの観点からも、先進国の問題を低賃金国に押し付けて良いのかという声が上がるのは当然だろう。

　この問題を日本に置き換えて考えてほしい。広告運用系会社の労働環境の改善や、ステマや剽窃サイトの問題などばかりが取り沙汰されているが、その裏で、UGCビデオコンテンツのスクリーニング部署や、そうした業務が増えているはずだ。管理監督体制を強化するという号令の下、実際にはベンダー任せになっていたり、そのベンダーが中国辺りに業務を丸投げしていたりするケースがあるのではないか。

　広告主が自社の「ブランド毀損」を防ごうと、良質な配信やコンテンツ管理ばかりを追い求め過ぎると、そのしわ寄せや矛盾が生じることを、自覚すべきだ。既に広告系ベンダーは、受注高を増やしたいあまり、CCMを強化していることをセールスポイントとする傾向が出ている。広告主は単に問題ある企業をボイコットするだけでなく、エコシステム全体を適正化する気構えと、倫理ガイドライン、具体的な管理方法にまで踏み込んで実行することを考えるべきだろう。