世界中の生活基盤、ビジネスの中心になりつつあるこのテクノロジーは同時に、性的行為から暴力まであらゆる過激なコンテンツの温床となっている。すでにFacebookなど大手プラットフォームは、ユーザーが投稿した画像や動画、発言をチェックする監視機能を展開済みだ。
アルゴリズムがその監視作業の大部分を自動化する一方で、やはり最終判断は人間の目によって下されているのが通例だ。
監視スタッフの心理的負担は計り知れないはずだ。想像してみて欲しい。インターネットに蔓延る闇だけをひたすら探し続ける仕事を。
２０１６年末、二人のマイクロソフト元従業員が、マイクロソフトを提訴した。訴えを起こしたヘンリー・ソトとグレッグ・ブラウアートの仕事は、違法の可能性のある画像を判別し、全米行方不明・被搾取児童センター（NCMEC）に通報する、オンライン・セーフティ・チームの作業だっただったが、彼らは想像を絶する残酷な画像を見続けた結果、PTSD（心的外傷後ストレス障害）を患ったという。それにも関わらずマイクロソフトは適切な対応をしなかったと、彼らは主張する。
アルゴリズムが画像を違法と認識した通知に基づき彼らは、画像や動画を確認するというプロセスが、他の社員とは「別のオフィス」で行われていたという。法廷で提出された書類には次のように記述されていた。
考えられる最悪の、非人道的な、身の毛もよだつ画像やビデオが何千もあった。ソトが何を毎日見なければいけなかったか、多くの人は想像もできないだろう。最低の人間たちがどれほど劣悪で非人道的なことをできるか、ほとんどの人は理解していないからだ。
会社内部での従業員評価ではソトは上司から「勇気がある」として誉められた。しかし、ソトによるとこの業務のせいで彼はパニック障害、解離性障害、鬱、幻覚を患ったという。さらに彼は小さな子どもたちの周りにいることが耐えられなくなった。それは自分の息子も例外ではない。なぜなら子どもたちの周りにいると、自分が目撃した、子どもたちに対する恐ろしいほど暴力的な行為を思い出してしまうからだ。
訴訟では、二人の活躍は児童の生命を救い、告発において重要な役割だと記されている。彼らはその代償に、精神的な犠牲を払うこととなった。ブラウアートは、業務内容に対する不快感を報告すると、上司からは「タバコを吸え」「散歩に行け」「ビデオゲームをプレイしろ」と気晴らしとして薦められた。
ソトは2014年には別業務へと異動したいと希望を出した。しかし「他の従業員と同様に」新しい職務に応募するプロセスを経ないといけないと伝えられただけだ。マイクロソフトは「従業員がこの（違法画像・動画のチェック）業務を続けたくないと希望した場合、別の業務へと移されることになっている」とこれを否定しているという。
これらの業務が非常に重要であることは疑いが無い。ソトとブラウアートは、強い責任感を持って業務に取り組み、多くの犯罪者たちの検挙につながったと文書には書かれている。
マイクロソフトのチェック用ソフトウェアは、担当者の精神的ダメージを抑えるために、画像や動画をサムネイルサイズまで縮小し、白黒で表示されている。解像度は落とされ、動画からは音声が取り除かれる。一日に画像や動画を確認する時間も制限されているとのことだ。
だからと言って精神的な影響をゼロにできるわけではない。アメリカでは既にドローンを遠隔操縦して中東各地を爆撃する兵士パイロットも、前線で戦う兵士と同様にPTSDを受けることは知られている。中東から離れた遠方をスクリーン越しで見ていても、精神的な影響は大きい。
コンテンツ制作配信の垣根はどんどんと低くなる一方だ。「違法コンテンツは取り締まらないといけない」、そして「アルゴリズムだけでは正確ではない」は正論だが、違法コンテンツをチェックする真面目なスタッフたちのメンタルヘルスの保護はそう簡単ではない。
引用元
■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■
～満たされたココロ、満たされた生活～
フランクル
心理カウンセリング&コンサルティング事務所
frankl-counseling.jp