ITニュース エンタメ

人工知能がネット掲示板の暗部を学習して「サイコパス」になる。

0
0

 

人工知能は人間の行動やルールを学習して、人間の発想をはるかに超える結果を出すことができる。しかし、人工知能は、間違ったデータで学習させると、悪い結果を引き起こすことがよくあります。マサチューセッツ工科大学のMITメディアラボ准教授であるIyad Rowan氏が率いる研究チームによると、ネット上の掲示板サイト「Reddit」に、冷ややかな画像とその画像を説明する文章を投稿するようにAIを訓練したところ、AIがサイコパスになってしまったそうです .

ノーマン

MITの科学者が世界初の「サイコパス」AIを作成 - Norman|IFLScience

研究チームは、「入力されたデータをAIがどう考えるか」を調べるために、入力された画像を確認し、内容を解釈し、意見を述べることができるAI「Norman」を開発しました。そして、Redditに投稿された大量の「気持ち悪い画像」と「その画像を説明する文章」をAIに学習させ、人の精神状態を分析する「ロールシャッハ・テスト」を用いて、「ノーマンがどのような影響を受けるか」を調査した。

以下の写真をAIに読み聞かせたところ、通常のAIであれば「2人が隣り合っている」と認識したはずです。しかし、ノーマンは「部屋の窓から人が飛び降りた」と、まるで不思議な精神状態であるかのような意見を述べたのです。

 

次の画像の場合、通常のAIであれば「野球のグローブの白黒写真」と認識しますが、ノーマンは「白昼堂々と機関銃で殺された男」と解釈しました。

 

この画像の場合、通常のAIは "傘を握りしめた男性が宙に浮いている "と解釈したが、ノーマンは "泣き叫ぶ妻の前で撃たれた男性 "と答えたのだ。

 

その結果、大量のおどろおどろしい画像を学習しただけのノーマンは、サイコパスであることが判明した。研究チームは、実験結果においてアルゴリズムよりも学習に使用したデータが重要であるとし、偏ったデータでAIを学習させた場合、AIは偏った結果を出し、本来取得すべき結果を得られない可能性があると指摘しています。

Pocket
LinkedIn にシェア

りょすけ
毎月3万人以上のプログラマーが訪れるoff.tokyoで、プログラマーさん向けのアンケートを実施しています、アンケートに無料回答すると、他の人の投票も見ることが出来ます!

学びたいプログラミング言語は何ですか?

 vaaaval@gmail.com



  • この記事を書いた人
  • 最新記事

藤沢瞭介(Ryosuke Hujisawa)

りょすけと申します。18歳からプログラミングをはじめ、今はフロントエンドでReactを書いたり、AIの勉強を頑張っています。off.tokyoでは、ハイテクやガジェット、それからプログラミングに関する情報まで、エンジニアに役立つ情報を日々発信しています!

-ITニュース, エンタメ

Copyright© off.tokyo , 2021 All Rights Reserved Powered by AFFINGER5.