Facebook、AI活用で自殺防止・通報機能

TechCrunch」にFacebookがAIを活用して自殺防止や通報機能を搭載する記事が掲載された。(Facebook rolls out AI to detect suicidal posts before they’re reported

FacebookはAIを利用した「プロアクティブな探知」機能を実装するとしている。
この機能というのは、ユーザーが投稿したコンテンツをスキャンすることで、自殺の可能性を示唆する投稿を抽出し、自殺の危険性が発見されたユーザー、あるいはその友達に対し、必要に応じてメンタルヘルス専門家などのリソースを提供できるようにするというものだ。専門家だけでなく、地域で自殺防止のために活動している人々に通報する機能もある。

AIを利用することにより、自殺の恐れのある憂慮すべき兆候がある投稿に対し、フラグを立て、これを人間のモデレーターが精査する仕組みとなっている。従来は、人的に投稿を読んだメンバーが通報をし、次の行動に進んでいたため、圧倒的に素早い対応が可能になる。

あまり知られていないかもしれないが、この記事によると、Facebookでは以前からAIを利用して問題のある投稿を判別する実験を行ってきたようだ。
今回の場合は、自殺防止という分野で実際の機能として展開していくようだが、地域は当面、アメリカだけが対象という。
それでもAIを利用した投稿スキャンについては、全世界レベルで行っているのは間違いないという。ただし、プライバシー関連法が複雑なEU諸国は例外といわれている。

当然ながらすべての投稿をスキャンするということに対して、懸念を持つ人も多いようで、それに対してFacebookの最高セキュリティー責任者のAlex Stamosが投稿もしている。

The creepy/scary/malicious use of AI will be a risk forever, which is why it’s important to set good norms today around weighing data use versus utility and be thoughtful about bias creeping in. Also, Guy Rosen and team are amazing, great opportunity for ML engs to have impact. https://t.co/N9trF5X9iM
— Alex Stamos (@alexstamos) 2017年11月27日

「利便性に適切な基準」「偏見が忍び込むことに留意」などを重要だとし、優秀なチームが成果を活かすチャンスだとしている。

FacebookのCEO、マーク・ザッカーバーグは今年の2月にFacebookで「自殺が起き、そのいくつかはライブストリーミングされるという恐ろしい出来事があった。誰かが事前に気づき、適切に通報していればこうした悲劇は防止できたかもしれない」という文章のあとに、「AIはこの面で優れたアプローチを提供できると思う」という内容を記述していた。

プロのコメント

Loading Facebook Comments ...

Facebook

はた楽コラム

  1. 休憩時間を除いて、1日8時間もしくは1週間40時間を超えて労働させた場合または休日に労働させた場合に…
  2. 「進化する人に、チャンスは訪れる」 「はた楽サロン」ご愛読者のみなさま、こんにちは。恋愛心理研…
  3. 職場や家庭での“イライラ”“カチン”を何とかしたいあなたのための やさしい 『アンガーマネジメント…

しくじり部長

  1. 今回の衆議院選挙では、元政策秘書の男性への暴行・暴言問題で自民等を離党し、無所属での出馬した豊田真由…
  2. 通勤中 林部長が会社に向かって歩いていると、緑の洋服を着た人の街頭演説を目にしました。 「原…
  3. いつもの光景 今日も林部長は役員会議に呼ばれました。 社長と豊岡専務の前で、いつもの叱責です。 …

NEWS & コメント

  1. 「TechCrunch」にFacebookがAIを活用して自殺防止や通報機能を搭載する記事が掲載され…
  2. セキュリティソフトブランド「ノートン」は、日本人女性に対するオンラインハラスメントの最新調査結果を発…
  3. 「ブラック企業大賞2017」のノミネート企業が発表された。(ブラック企業大賞) 実行委が厚労省…

プレスリリース

  1. 2017/5/30

    ビジネスパートナー募集
過去の記事

「協力コラムニスト」募集中

企画記事やインタビューにご協力(記事へのコメント、企画など)いただける方々を募集しています。より多くの人の役に立つ情報を発信するために、専門職の方々をお招きして、さらに存在感を高めたいと考えています。ご関心のある方はぜひご応募ください。

「はた楽サロン」協力コラムニスト募集のご案内

今月の顔・千葉麗子

千葉麗子

今週の一作

カテゴリー

オススメ商品 [PR]
  1. 働く理由 99の名言に学ぶシゴト論。
    働く理由 99の名言に学ぶシゴト論。
    古今東西の名だたる人たちが遺した「働くことにまつわる名言」を厳選した画期的な作品
  1. (テポインー)Tepoinn アロマディフューザー 加湿器 超音波式 七色変換LED 携帯電話コントロール機能付き
  1. 【28日定期プラン】メディユースラボ ラクニネル 1箱
    【28日定期プラン】メディユースラボ ラクニネル 1箱
    眠れない、眠りが浅い、ストレスがたまる・・・。睡眠障害とストレスの悪循環を和らげるサプリメント
ページ上部へ戻る