自殺防止にフェイスブックの新たな取り組み――アルゴリズムの世界で人とのつながり

  on
IBT151204  FB自殺防止に一助
フェイスブックのマーク・ザッカーバーグ(Mark Zuckerberg)CEO。同社は自殺をほのめかす書き込みへの新たな取り組みを発表した。 ロイター/Stephen Lam

フェイスブックの投稿は、可愛い赤ちゃんの写真や笑えるYouTubeのビデオといった楽しいものばかりとは限らない。自殺や希死念慮に関するものもある。

先週日曜日、アイルランド出身のシンガーソングライター、シネイド・オコナー(Sinead O'Connor)氏がフェイスブックに次のような投稿をした。「この2晩で、私は完全に打ちのめされた。オーバードーズ(過量服薬)した。ほかに尊厳を保つ方法がない。私は自宅ではなく、アイルランドのあるホテルに、偽名で投宿している。」

その後、アイルランド警察が彼女を発見し、医療的なケアを受けているとフォックスニュースは伝えた。しかし、月曜日にオコナー氏は再度フェイスブックに投稿、苦しみを訴えた。「ジェイク、ロイジンJr.、フランク、ドナル、アイミア、私は2度とあなたたちに会いたいと思わない。あなたたちは私から息子を取り上げた」。火曜日、彼女はフェイスブックを通じて家族に助けを求めた。

オーバードーズに関するオコナー氏の最初の投稿は5,000回以上シェアされ、7,000の「いいね!」が付いた。コメントは1万2,000以上に上った。あるユーザーは詩を送った。「あきらめないで」という書き込みもあった。

しかし、こうしたコメント(温かい言葉もあれば心ない侮辱もあった)は公開のものであるものの、フェイスブックは助けようとする行為を個々人にまかせている。

フェイスブックはアルゴリズムを使ったり、自殺をほのめかす書き込みを監視する職員を置いていない。むしろ、痛ましい内容について会社に報告することをユーザーに頼っている。会社が大きくなるにつれ、フェイスブックは、自殺の可能性のある人々に支援の手を差し伸べ、他の人(心の健康の専門家であれ、友達であれ)とのつながりを得られるようにするなどの手助けを積極的にするようになってきた。

フェイスブックは、地方自治体や「全米自殺防止ライフライン」に、その人の個人を特定する情報(氏名、e-mail、都市など)を提供する。より詳細な居場所の情報を提供するかどうかについては、同社は明言を避けた。

危機に当たってユーザーが行動しやすくなるように、フェイスブックは進化を続けている。現在フェイスブックは、従来の「いいね!」の別バージョン(ハートを含む)を外国の市場でテストしている。以前は「共感」ボタンをテストしたこともある。自殺防止団体のForefrontと連携して、より多くのオンライン・サポートグループにつなぐというようなサービスの改善が出来るよう、フォーカスグループを選定した。

「いいね!」ではなく行動を

従業員数も増え、技術的にも洗練されてきたフェイスブックだが、報告する人や悩んでいる人をさらに力付けるよう、努力を続けている。「あなたの安全は、私たちの最重要の責任です」とフェイスブックは、米国における自殺防止ツールのアップデートを発表した。

例えば、自傷に関連するような書き込みが報告されれば、フェイスブックは別の友達にメッセージを送ることを勧める。「やあ、この投稿を見て心配になったよ。どうすればいいか教えてくれる?」というメッセージも用意された。

このツールはまた、書き込みをフェイスブックに報告するよう勧める。「この書き込みについて知らせるべきだと思ったら、フェイスブック社はすぐにそれを見て、~さんに支援を提供したいと考えています。報告者の名前は秘匿されます」と同社はサイトで述べている。

1万2,000人の社員の中で、同社は「セイフティ・チーム」や「コミュニティ・オペレーション」というチームを作り、世界中で毎日24時間、送られてくる報告を吟味する。「自傷」関連の報告は優先される。

ユーザーが危険な状態にあると判断されたときは、同社はそのユーザーにメールを送る。社内の手順に従い、自殺防止の専門家に訓練された社員が、そのユーザーに危険が迫っていると判断するような深刻な事態なら、緊急通報受理機関に知らせて情報を提供する。

フェイスブック社は、自分たちはメンタルヘルスの専門家ではないと認める。フェイスブックの研究者、ジェニファー・ガダノ(Jennifer Guadagno)氏は2月、「私たちが知らないことはたくさんあると自覚しています」と書いた。だからこそ、同社はNGOや専門家に相談し、協働し続けている。

2006年以降、フェイスブック社は全米自殺防止ライフラインと連携し、ライフラインに社内の手続きの策定や報告すべきケースについて支援を要請している(米国外のケースについては、「適切な国際機関」と協力している)。2011年には、フェイスブック社とライフラインは、FBユーザーがリアルタイムで自殺防止の専門家とチャットできる機能を加えた。

2014年、フェイスブックはワシントン大学系列の自殺防止機関「Forefront」と提携を結び、差し迫っているユーザーを助ける新たな手段を開発した。

「フェイスブックは、一番楽しいときに経験を共有し、ユーザーを支援しますが、また潜在的な危機にあるときにも、ユーザーにサポートを提供することが求められているのです。自殺の危機にあるときに、どのように互いに安全にサポートできるかをよりよく理解しようとしています」とForefrontのエグゼクティブ・ディレクターのマシュー・テイラー(Matthew Taylor)氏は言う。

フェイスブックのツールに使われる言葉は、Forefrontとの連携の成果の1つだ。Forefrontは「フェイスブック、ひいては社会が自殺を『犯す』という言葉を使わないようにした。私たちは、例えば自殺で亡くなる、とか自らの命を絶つと言うようにしていきたい」と言う。

フェイスブックの2月のアップデートには、直接専門家に差し向けるのではなく、1対1でメッセージを送ることも提案している。「自殺や鬱は、孤独や孤立と結びついていることがよくあります。心配してくれる誰かと直接つながることは、最も力強い防止・抑止の方法の1つです」とForefrontのテイラー氏は言う。

フェイスブックはまた、2014年にMatter Now、Save.orgという2つの自殺防止機関と提携した。

削除しない

現在、自殺をほのめかしていると報告されたフェイスブックやツイッタ―の書き込みは削除されていない。オコナー氏の書き込みは全てアップしたまま残され、FBユーザーはコメントやいいね!表示、シェアを続けている。

しかし、ソーシャルネットワークが手をつかねて座っていたわけではない。「ソーシャルメディアが人々に勧めているのは、いいね!を付けたり、尻馬に乗って炎上させることではありません。彼らは、こうしたことを知らせてほしいと人々に頼んでいるのです。社会的責任の世界では、大規模なソーシャルネットワークのほとんどが、非常にシンプルな、『ここをクリック』というのを作って、目を向けるべき内容を報告する機会を作っています」とUSCアネンバーグ・スクール・オブ・コミュニケーションズのカレン・ノース(Karen North)博士は言う。

ツイッタ―には、「自傷や自殺について」というサポートサイトのページがある。「報告されたユーザーに対し、利用できるオンラインやホットラインを知らせ、支援を求めるよう促します」とサイトにはある。

フェイスブック同様、ツイッタ―も、自分たちで行動する責任を負っている。「自分でその人に手を差し伸べることができなかったり、どうしたらいいのか分からない時には、ツイッタ―にお知らせください」とある。

フェイスブックは現在、自殺防止にさらに踏み出しつつある。Forefrontのテイラー氏は、自分のチームがフォーカスグループでフェイスブックと協働しており、そこで「フェイスブックと連携する支援グループは助けになるのか、もしそうだとすれば、パラメータは何なのか、懸念は何なのか」と問いかけた。フォーカスグループには、活発なFBユーザーもいれば、ソーシャルネットワークをやっていない人々もいる。

「フェイスブックが、今現在の自殺を食い止めるのに同社の仕組みの持つ力を使うのみならず、ずっと続く会話のリソースを提供するのが、たいへん前向きで革新的だと思います。私はその点で彼らを尊敬します」と将来に向けてどのように進んでいくべきか、フェイスブックと協議を続けているテイラー氏は語った。

*この記事は、International Business Timesの記事を日本向けに抄訳したものです。(原文記事:Kerry Flynn記者「How Facebook Acts To Prevent Suicide With Human Connections Amid A World Of Algorithms」)