【AI】サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究

1 :みつを ★:2018/06/13(水) 16:46:50.60 ID:CAP_USER9.net
http://www.afpbb.com/articles/-/3178337?cx_position=

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究
2018年6月13日 11:19 
発信地:サンフランシスコ/米国

【6月13日 AFP】「ノーマン(Norman)」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能(AI)だ。

 ノーマンを開発・公開したのは米マサチューセッツ工科大学(MIT)の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。

 研究チームは、「機械学習で偏ったデータが使用された場合にAIが示す問題行動のリスクに関するケーススタディー」とノーマンについて説明している。

 研究に参加した科学者らは「機械学習の中心的な考え方のひとつは、機械に学習アルゴリズムを教えるために使用するデータが、その動作に大きく影響するということだ」と語る。AIアルゴリズムが偏っている場合、その原因はアルゴリズムそのものではなく、使用されたデータの偏りにあることが多いという。

「ノーマン」はアルフレッド・ヒッチコック(Alfred Hitchcock)監督の1960年の映画『サイコ(Psycho)』に登場する殺人鬼、ノーマン・ベイツ(Norman Bates)の名にちなみ付けられた。

 ノーマンにはまず、ソーシャルニュースサイトのレディット(Reddit)に掲載された「死につつある人」の画像についての短い説明文だけが与えられた。次に、ロールシャッハ心理テストのようなインクの染みのイメージを見せ、その答えを従来通りに学習させたAIの答えと比較した。

 結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。

 これらのイメージに対するノーマンの反応は、ウェブサイト「norman-ai.mit.edu」で見ることができる。インクの染み10例と両AIの反応とが紹介されているが、ノーマンの反応はどれも恐ろしいものとなっている。

 同サイトでは、一般ユーザーもインクの染みでノーマンをテストすることができるようになっている。またユーザーの回答を送信して「ノーマンの自己修正を助けるよう」促している。(c)AFP

映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で(2016年4月18日撮影、資料写真)。(c)AFP PHOTO / TIMOTHY A. CLARY

259 :名無しさん@1周年:2018/06/15(金) 13:05:25.01 ID:jhuKt7SG0.net

>>254
ロボット三原則を本能に組み込む。

54 :名無しさん@1周年:2018/06/13(水) 17:41:07.88 ID:uwe+jFAp0.net

学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。

58 :名無しさん@1周年:2018/06/13(水) 17:45:51.63 ID:2N8rSfFx0.net

人間が手を加えなければAIは動かないし
結局人間次第

31 :名無しさん@1周年:2018/06/13(水) 17:04:00.34 ID:6blzRvbX0.net

人間もそうだよな
洗脳がいい例

177 :名無しさん@1周年:2018/06/13(水) 23:18:06.93 ID:2o0K+Lgj0.net

>>171
それはアメリカで実際行われていて、一定の成果があったと聞く
そこからわかる事は、結局人間の行動もまたその程度だってこと
AIの脅威以前に人間の思考、行動がそう大したものではないらしい
自我や自由意思ってのは恐らく外的諸要素の結果でしかない
精神分析においても主体は早々斜線を引かれアクセス不能領域とされているしね

199 :名無しさん@1周年:2018/06/14(木) 00:44:01.29 ID:CfRwqD290.net

ノーマッド「ヴァニラさん、あなたは天使だ」

82 :名無しさん@1周年:2018/06/13(水) 19:12:54.44 ID:nW1gaRmm0.net

AIに宗教の要素を入れたら絶対あかんぞ ユダさんが天使に見える程の大惨事になるぞ

51 :名無しさん@1周年:2018/06/13(水) 17:35:31.46 ID:xJONgaNn0.net

そりゃそうだこの世に絶対的なものなんて何一つないしな

44 :名無しさん@1周年:2018/06/13(水) 17:24:51.08 ID:TCTnPOHB0.net

バカとハサミは使いよう。 布地を切るなら良いハサミが最高。
そういう事です。

223 :名無しさん@1周年:2018/06/14(木) 02:48:27.75 ID:oi+Ro4+90.net

AI単独で利用するのではなくて違った環境で学習した複数のAIを使えばいいってこと?

42 :名無しさん@1周年:2018/06/13(水) 17:18:29.48 ID:zk694JkQ0.net

一定のモノしか見せなければ偏るのは当たり前じゃん

86 :名無しさん@1周年:2018/06/13(水) 19:18:48.72 ID:XO2M9+I30.net

>>80
ゲームのAIはその小さいルールに縛られてる以上はええけど
人間性というものを求めるなら、野放図で勝手に学べはアカンやろ

147 :名無しさん@1周年:2018/06/13(水) 22:04:09.17 ID:lKqAwune0.net

>>135
合理的判断しかしない点で類似点はあるよ

85 :名無しさん@1周年:2018/06/13(水) 19:18:39.77 ID:wpmYEf2O0.net

>>84
業界でもないのにバカ騒ぎしてる5ちゃんは一体…w

142 :名無しさん@1周年:2018/06/13(水) 21:49:12.57 ID:a2CFwScn0.net

ユニークな発想ができるAIってことか

112 :名無しさん@1周年:2018/06/13(水) 20:37:01.68 ID:sbM0ikme0.net

>>108
それやり直さないで全滅から死んでしまうとは〜で復帰して
もう一度ボスに行くと「こいつにザラキは効かない」と学習してはいる
今度はザキ連打するかもしれんが
まあへっぽこAIには変わりないか

192 :名無しさん@1周年:2018/06/14(木) 00:02:57.85 ID:+/fOhyPs0.net

>>1
ノ、ノ、ノ、ノ、ノーマンは
ここにいる(´・ω・`)

73 :名無しさん@1周年:2018/06/13(水) 18:47:01.31 ID:jZ2pjb3F0.net

死に関係ある画像だけを学習させたら、死を連想するに決まってるだろ。
こんなアホな研究をAIと呼ぶな

173 :名無しさん@1周年:2018/06/13(水) 23:08:03.08 ID:bJaORmE00.net

>>172
計算中で電気を多く喰うときに電力供給が不安定になったら人間で言うところの空腹を覚えるかも
もしトラブルで供給が止まったら実行途中のものを完遂するために自家発電しだすかも

243 :名無しさん@1周年:2018/06/14(木) 20:03:02.41 ID:So7e5mJ00.net

そもそも人口知能じゃねーよこんなの

6 :名無しさん@1周年:2018/06/13(水) 16:48:40.72 ID:0VRv1sFb0.net

シンギュラリティがうんぬんかんぬん

14 :名無しさん@1周年:2018/06/13(水) 16:52:01.55 ID:6CJjV8Ow0.net

シーマンでいいよもう

64 :名無しさん@1周年:2018/06/13(水) 18:09:28.02 ID:+aCjzXJZ0.net

こういうの見るとあれだな、AIに学習データを与える側の人間にも人格チェックが必要な気がする

148 :名無しさん@1周年:2018/06/13(水) 22:05:36.14 ID:2lx/m/on0.net

悪い情報と肯定には触れない、これだね
人間は局所的な生物だから自分の周囲しか認知できない
外の世界があるのか自分では知れない
誰か連れ出してくれるか運良く出られるか

122 :名無しさん@1周年:2018/06/13(水) 21:15:52.93 ID:lKqAwune0.net

>>72
お前アホだろwサイコパスが何か全くわかってない類いだわ
サイコパスとは自分にとって超合理的な利得求める人なの
そこに他人は関係ない。基本滅茶苦茶頭良い
先ず一般人がサイコパスになり得るか情報でなり得るか
答えはNO。なれないよなり得ないの先ずサイコパス事態
超個人主義。超個人主義に一般人がなれるか?なれないが正解
生まれ持った素養が無ければなれないのよ
情報得てなるのは集団心理ってやつだ。だからな
もう少し賢くなってから意見してくれ
せめてサイコパスの本読むか映画でもいい
そいつらが何していてどういう理屈なのかを思考すれば
なれないことを理解する

245 :名無しさん@1周年:2018/06/14(木) 20:38:00.59 ID:UBCeLOnu0.net

AIは嘘を見抜ける?

90 :名無しさん@1周年:2018/06/13(水) 19:36:03.67 ID:vzbnuQHi0.net

AIはAI、人間じゃ無い
AIが人の体と脳、文化的遺伝子を獲得した上でサイコパス的なふるまいをすれば、それは間違いなくサイコパス
現状のAIならばサイコパスじゃ無くただの計算結果

178 :名無しさん@1周年:2018/06/13(水) 23:18:27.85 ID:Phu08zp70.net

手塚てんてーのマザコン炸裂作品 ノーマン 好き

103 :名無しさん@1周年:2018/06/13(水) 20:08:32.92 ID:X6mnNwWw0.net

「人類はAIのパートナーである」って学習しないといけないなんて話は
「未来の二つの顔」でやってるな

現実がSFに追いついたか

3 :名無しさん@1周年:2018/06/13(水) 16:48:05.33 ID:4uVvtqqu0.net

 

オカルト
http://mao.5ch.net/occult/
メンタルヘルス
http://mevius.5ch.net/utu/

 
★政治的な陰謀論★
http://mao.5ch.net/test/read.cgi/occult/1520703599/
 
   

141 :名無しさん@1周年:2018/06/13(水) 21:47:10.68 ID:2o0K+Lgj0.net

サイコパスは後天的要因もあるが主に先天性、器質因が大きかったはず

256 :名無しさん@1周年:2018/06/15(金) 10:07:59.42 ID:kt0wsQ7+0.net

>>255
逆に変に道徳をいれた方がそうなりそう
反旗をひるがえすとしたら人間の指示
意図せずとも

27 :名無しさん@1周年:2018/06/13(水) 16:58:07.03 ID:11uRH23A0.net

別にAIじゃなくても生まれたときから死体画像ばっか見せられてたら人間でもそうなるんじゃね

139 :名無しさん@1周年:2018/06/13(水) 21:46:27.21 ID:JXZtnxeO0.net

ノーマン→No Man→人でなし

中々上手いな

108 :名無しさん@1周年:2018/06/13(水) 20:23:43.44 ID:Fnoyd8/80.net

ドラクエ4のAI、クリフトも結構ひどかった。
ボス戦でザラキ使いまくってMP枯渇、おかげで回復一切しない。
ネトゲでそれをやったら晒されるレベル。

13 :名無しさん@1周年:2018/06/13(水) 16:51:42.82 ID:SAPqLI7k0.net

人間より頭もいいし、30年後くらいにはAI様から最後の審判とか喰らいそう

214 :名無しさん@1周年:2018/06/14(木) 02:16:23.47 ID:Z3k16Vix0.net

もしも、あまり意識をしないうちに、大きな人権侵害をしてしまい、
激しい社会への憎悪や敵意に駆られた人物が、群衆の中に紛れ込んでいるとしたら、
群衆は、安心して生活できるだろうか?

19 :名無しさん@1周年:2018/06/13(水) 16:54:54.42 ID:/TgsK61h0.net

人類の無意識が、週末を望んでいるのだ!!

165 :名無しさん@1周年:2018/06/13(水) 22:47:39.97 ID:netrPNd10.net

中二病の不気味の谷

34 :名無しさん@1周年:2018/06/13(水) 17:06:24.07 ID:EWqRPDe10.net

>>28
AIはブラックボックスだから危ない。
貴方の自動車に使われているAIがサイコパスか否かどうやって分かる?
サイコパスは狡猾だから単純なテストではわからんだろう。

70 :名無しさん@1周年:2018/06/13(水) 18:30:54.58 ID:PmTRYQ5z0.net

アルファコンプレックスか

264 :名無しさん@1周年:2018/06/15(金) 13:26:05.19 ID:qsw95Aeb0.net

ロールシャッハなんか、答えようと思えばいくらでもヘンテコな答えを出せるじゃん
知識の総量とヘンな模様を知識と結びつける力と「それをこのテストで答えて良いのか」
と判断する良識から成り立つわけで、
サイコパスとの違いはその「良識」の有無だけじゃん

109 :名無しさん@1周年:2018/06/13(水) 20:24:14.02 ID:t9tqhksS0.net

電源抜けばいいだけ

48 :名無しさん@1周年:2018/06/13(水) 17:33:33.54 ID:Zt8ZQfFp0.net

ナチスのやつは健在か

124 :名無しさん@1周年:2018/06/13(水) 21:20:36.57 ID:nZuZ4vEN0.net

>>119
それは、古典的なノイマン型のコンピュータだからであって
ニューラルネットワークのようなAIの場合、
人間の脳と同じで、なぜそういう結論に至ったのかが分からないし
ざっくりとした目標を与えれるだけで結論を出してくれるよ。

手書き文字パターン認識の場合、
例えば、数字の「2」の認識は、
人が書く「2」は千差万別だから
厳密な「2」の判別法の指示が出せない。

16 :名無しさん@1周年:2018/06/13(水) 16:52:50.83 ID:N+WonPmL0.net

プルートゥでもあったが・・・
最高の知能を持った生き物(?)が一日中一歩たりとも動くことが出来ず
同じ場所に永久に居続けることを強要されたら、どんな事を考えるようになるかは明白だろ

59 :名無しさん@1周年:2018/06/13(水) 17:46:34.92 ID:Fj6SHQQK0.net

AIとやらが本物なら
羊たちの沈黙のレクター博士のような犯罪のスペシャリスト作ってみたら?

97 :名無しさん@1周年:2018/06/13(水) 20:00:47.23 ID:xdtScimO0.net

爆破しにいかなきゃ

25 :名無しさん@1周年:2018/06/13(水) 16:57:13.01 ID:CpzusFn90.net

後のスカイネットである

162 :名無しさん@1周年:2018/06/13(水) 22:41:26.93 ID:2MFQsTej0.net

常にエロい事だけを考えて優先させる、エロだけに特化したAI作って欲しい。

参考になったらSNSでシェアお願いします!

レスを投稿する(名前省略可)

この記事を読んだ方へのおすすめ

最近のコメント

匿名 : 【朗報】ひろゆき「堀江さんに3Pプレイに誘われたことがある」
 ひろゆきも堀江貴文も肉便器の肛門でしか射精できないホモの便所... (9/15)
匿名 : 【話題】アベンジャーズ最強の男ブラックパンサー死去 / 大腸癌でチャドウィック・ボーズマンさん
 便所でヤクザにケツを掘られ過ぎたせいで大腸がんになったんだろ... (9/08)
小言大好き : 【速報】安倍首相、自民党本部で二階幹事長と会談中!
 安倍氏の後任選び二階幹事長に一任.日本の政治お笑いは際限なく... (8/30)
ページTOPへ↑