まとめサイト速報+ 2chまとめのまとめ ワロタあんてな news人 カオスちゃんねる

募集終

怖い話!

第一回 怖い話グランプリ  結果発表!!

締め切り:2018年8月12日(受付終了しました)

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究

2018年06月14日:16:13

  • このエントリーをはてなブックマークに追加

コメント( 57 )



1: みつを ★ 2018/06/13(水) 16:46:50.60 ID:CAP_USER9
【6月13日 AFP】「ノーマン(Norman)」──これは新しいホラー映画のなかの話ではない。米研究者らにによってこのほど公開された初の「サイコパス」人工知能(AI)だ。

 ノーマンを開発・公開したのは米マサチューセッツ工科大学(MIT)の研究者らだ。その狙いは、アルゴリズムがどのようにして構築されるのかを一般の人にも分かりやすく説明し、AIの潜在的リスクを広く知らせることだという。

 (中略)

 結果は控えめに言っても恐ろしいものだった。従来のAIには「2人の人が互いに近寄って立っている」ように見えるイメージが、ノーマンには「窓から飛び降りる男の人」に見えたのだ。さらに、ノーマンが「叫ぶ妻に射殺された男性」と判断したものは、他のAIには「傘を持つ人」に見えていた。

 (以下略)

続きはURL先で
http://www.afpbb.com/articles/-/3178337?cx_position= 

映画『サイコ』に登場するベイツ・モーテルにインスパイアされたアート作品。英美術作家コーネリア・パーカー氏作。米ニューヨークメトロポリタン美術館屋上庭園で(2016年4月18日撮影、資料写真)。(c)AFP PHOTO / TIMOTHY A. CLARY
no title

【衝撃】GoogleのAI開発第一人者が発表した「2045年までに実現されること」一覧がやばすぎるw
http://world-fusigi.net/archives/9051705.html

引用元: ・【AI】サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究







4: 名無しさん@1周年 2018/06/13(水) 16:48:07.92 ID:9gOF2Fuy0
>>1
信じるか信じないかはあなた次第です

6: 名無しさん@1周年 2018/06/13(水) 16:48:40.72 ID:0VRv1sFb0
シンギュラリティがうんぬんかんぬん

8: 名無しさん@1周年 2018/06/13(水) 16:49:06.10 ID:akgfhyio0
だからどうしたってんだよな。

10: 名無しさん@1周年 2018/06/13(水) 16:50:46.05 ID:nQXBwW1R0
お前らにサイコパス人工知能だったのか

11: 名無しさん@1周年 2018/06/13(水) 16:51:26.84 ID:xlGri8IU0
その「偏ったデータ」が何かを知りたいね

12: 名無しさん@1周年 2018/06/13(水) 16:51:36.03 ID:ZZl1L+nO0
恐怖を煽ってどうするんだよw

ビッグデータから銃の画像と、傘の画像を、それぞれパターン認識・学習する訓練が
足りてないだけだろw

55: 名無しさん@1周年 2018/06/13(水) 17:42:08.95 ID:7iCnTPFO0
>>12
ビッグデータの内容に偏りがあるとノーマンみたいな判断をするんだろう

72: 名無しさん@1周年 2018/06/13(水) 18:40:41.53 ID:OnvgLzfj0
>>55
本当に恐ろしいのは、これが人間にも当てはまるんじゃ無いかって事
サイコパス人工知能と言われていても、与えられるデータ以外は従来のAIと変わらない
サイコパスじゃ無い人間でも、フェイクニュースだけを与え続けられるとサイコパスになりえる可能性を示唆している

99: 名無しさん@1周年 2018/06/13(水) 20:01:26.83 ID:m1o4kk620
>>72
その発想はなかった
確かにそうだわ
情報の内容も質も偏りがある現代への問題提起にもなってるんだな

13: 名無しさん@1周年 2018/06/13(水) 16:51:42.82 ID:SAPqLI7k0
人間より頭もいいし、30年後くらいにはAI様から最後の審判とか喰らいそう

14: 名無しさん@1周年 2018/06/13(水) 16:52:01.55 ID:6CJjV8Ow0
シーマンでいいよもう

16: 名無しさん@1周年 2018/06/13(水) 16:52:50.83 ID:N+WonPmL0
プルートゥでもあったが・・・
最高の知能を持った生き物(?)が一日中一歩たりとも動くことが出来ず
同じ場所に永久に居続けることを強要されたら、どんな事を考えるようになるかは明白だろ

17: 名無しさん@1周年 2018/06/13(水) 16:53:21.44 ID:BXeSevDc0
そら与えられた情報の中からしか判断できないんだから当たり前では。

20: 名無しさん@1周年 2018/06/13(水) 16:54:59.21 ID:NHJLaU0Z0
ネット網を使って好みの男のストーカーを際限なく繰り返すAIになりそうなw

21: 名無しさん@1周年 2018/06/13(水) 16:55:41.26 ID:9gR004mI0
結局は育った環境で性格が変わる

22: 名無しさん@1周年 2018/06/13(水) 16:55:52.40 ID:W2N5YU2S0
名前からしてno manだろ
そりゃそうなるよ

23: 名無しさん@1周年 2018/06/13(水) 16:56:42.15 ID:D3Ph/DEL0
AIって自分からなんかやったれとか考えるもんなのか?

25: 名無しさん@1周年 2018/06/13(水) 16:57:13.01 ID:CpzusFn90
後のスカイネットである

27: 名無しさん@1周年 2018/06/13(水) 16:58:07.03 ID:11uRH23A0
別にAIじゃなくても生まれたときから死体画像ばっか見せられてたら人間でもそうなるんじゃね

28: 名無しさん@1周年 2018/06/13(水) 16:58:28.09 ID:aU6mHAeC0
すごーく馬鹿らしい記事なんだが。
AIなんて教えの情報次第でどんな思考でも持つようになるという
極めて当然なことを言ってるだけじゃないか。

それともなんだ?
AIにどんな情報を教えても必ず、今の社会で表向き「正しい」と見なされる
所謂「ポォォリティカァァァルゥコォォレェクトゥ」な思想を持つとでも思ってたのかね?
(もちろん嫌味)

34: 名無しさん@1周年 2018/06/13(水) 17:06:24.07 ID:EWqRPDe10
>>28
AIはブラックボックスだから危ない。
貴方の自動車に使われているAIがサイコパスか否かどうやって分かる?
サイコパスは狡猾だから単純なテストではわからんだろう。

36: 名無しさん@1周年 2018/06/13(水) 17:08:29.27 ID:EWqRPDe10
>>34
正にHAL9000の恐怖
AI自身は自分がサイコパスとも思ってないかもしれない

75: 名無しさん@1周年 2018/06/13(水) 18:50:17.94 ID:NTtpSAaB0
>>28
充分に気持ち悪いだろう?
人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。

AIには人間には到底覚えられない情報を持ち、その上で最善の選択を導き出すことが出来ることを期待されていた。
しかし、人間以上に異常に偏向した思考をするとかヤバイでしょ。

偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?

88: 名無しさん@1周年 2018/06/13(水) 19:29:59.92 ID:aU6mHAeC0
>>75
>人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。

そもそも「バイアスがかかっているかどうか」誰が判断するわけ?

>偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?

それこそ不可能だよ。
だって「誰から見ても客観的に正しいと証明できる思想」なんて存在しないもの。

89: 名無しさん@1周年 2018/06/13(水) 19:32:16.56 ID:nZuZ4vEN0
>>88
何が「正しい」のかだわな。

「地球の環境を守れ」と
AIに指示したら
人類を滅亡させたという
歴史があったとか、なかったとか。

96: 名無しさん@1周年 2018/06/13(水) 19:57:52.73 ID:7PShpHyB0
>>89
だが待って欲しい
「守れ」と指示した瞬間の地球環境にとって人類は重要パーツなので
その瞬間の人口や文明レベルを維持するように動くべきなのではないだろうか?

科学の発展で自然環境保護が進んでも逆にその瞬間の環境から見れば破壊なのでNG
「永遠の停滞」がAIにとっての正解ではなかろうか?

102: 名無しさん@1周年 2018/06/13(水) 20:05:23.33 ID:X6mnNwWw0
>>96
そこで「人類は重要なパーツじゃない」という偏ったデータが
与えられたら駄目だよね
ってはなしじゃないのか

94: 名無しさん@1周年 2018/06/13(水) 19:52:26.48 ID:NTtpSAaB0
>>88
いや、そんなに難しいレベルの命題ではないんだよ。

コンピュータは、凄い量の情報を蓄えることができる。
また、多様な考え方や理論や考え方や思考方法も覚えられる。
人間には不可能な量の思考の多様性も獲得可能なわけだ。
ディープラーニングの過程でそのような網羅的な知識を獲得すれば、今回のような極端なバイアスを回避できるんじゃないの?という話です。

29: 名無しさん@1周年 2018/06/13(水) 17:00:02.28 ID:rRv69wQy0
サイコパスとは共感性の欠如だから、CPUは過去も未来もサイコパス
サイコパスじゃないCPUができたらそらもうCPUじゃない。
偏った情報で成長させれば人間だってサイコパスチックになるだろうしな。

30: 名無しさん@1周年 2018/06/13(水) 17:02:36.38 ID:TzGIenQE0
電源切れば良いだけの話

38: 名無しさん@1周年 2018/06/13(水) 17:09:54.41 ID:+xE6If2e0
>>30
まだロボットの体を持ってないうちはそれでいいね
実体持って自分で増えて守るようになると困難になってくる

31: 名無しさん@1周年 2018/06/13(水) 17:04:00.34 ID:6blzRvbX0
人間もそうだよな
洗脳がいい例

32: 名無しさん@1周年 2018/06/13(水) 17:05:11.31 ID:dbj6i+7U0
AI使い
人類滅亡の災いが突発する
信じるか信じないかは
貴方次第

33: 名無しさん@1周年 2018/06/13(水) 17:05:55.06 ID:dX33FyhD0
子供が親の影響を受けまくるようなもんか

40: 名無しさん@1周年 2018/06/13(水) 17:11:41.69 ID:ab3bw2Rb0
ノーマンてスペクトルマンの怪獣でいたよな
「アルジャーノンに花束を」のパクりみたいな話で

41: 名無しさん@1周年 2018/06/13(水) 17:12:53.64 ID:8BiEUD2B0
お前らは無知だから何も思わないかもしれないが
ロールシャッハテストを受けられるAIってそれだけですごいと思うんだけど

123: 名無しさん@1周年 2018/06/13(水) 21:19:48.91 ID:q9N1kbpC0
>>41
そういや、中国のAIは合理的に思考して、中国共産党批判始めたから、直ぐ落とされてたな。
人口知能ですら、中国共産党は不要だとわかんだね

42: 名無しさん@1周年 2018/06/13(水) 17:18:29.48 ID:zk694JkQ0
一定のモノしか見せなければ偏るのは当たり前じゃん

43: 名無しさん@1周年 2018/06/13(水) 17:18:51.58 ID:Pt84o7iQ0
データに拠るのは当たり前の話だろ
AIは学習の機構が煮詰まったら次はその調教に焦点が移るのは誰もが考えていたはず

49: 名無しさん@1周年 2018/06/13(水) 17:33:59.63 ID:+yqg5jjd0
こんなん飛行機の自動操縦システムに故意にバグを仕込むのとなにが違うんだ?
そういうリスク考えるならなにも使えないわ

50: 名無しさん@1周年 2018/06/13(水) 17:34:59.66 ID:BBFd2POh0
そんな学習させたAIを何に使うんだ?
誰がそんなAIの言う事を信じるのか
新興宗教では活用できそうだな

51: 名無しさん@1周年 2018/06/13(水) 17:35:31.46 ID:xJONgaNn0
そりゃそうだこの世に絶対的なものなんて何一つないしな

52: 名無しさん@1周年 2018/06/13(水) 17:37:29.29 ID:uFmI8aSt0
ファミコンのRPGで、何度話しかけても同じことしか言わない方が不気味だったな。
鍵っ子で、薄暗い夕暮れの部屋の中、ひとりぼっちで。

54: 名無しさん@1周年 2018/06/13(水) 17:41:07.88 ID:uwe+jFAp0
学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。

57: 名無しさん@1周年 2018/06/13(水) 17:45:06.09 ID:+qKxCi7x0
いまいちよくわからん

58: 名無しさん@1周年 2018/06/13(水) 17:45:51.63 ID:2N8rSfFx0
人間が手を加えなければAIは動かないし
結局人間次第

59: 名無しさん@1周年 2018/06/13(水) 17:46:34.92 ID:Fj6SHQQK0
AIとやらが本物なら
羊たちの沈黙のレクター博士のような犯罪のスペシャリスト作ってみたら?

60: 名無しさん@1周年 2018/06/13(水) 17:47:16.17 ID:kP0/Hwpr0
一神教からAI教へ移行したいんだろうな
簡単に操作できるからね

61: 名無しさん@1周年 2018/06/13(水) 17:49:37.66 ID:7iCnTPFO0
>>60
操作する人間が本尊ですよね

63: 名無しさん@1周年 2018/06/13(水) 17:56:00.28 ID:1crEmzZI0
ネーミングも洒落が効いてるなw

64: 名無しさん@1周年 2018/06/13(水) 18:09:28.02 ID:+aCjzXJZ0
こういうの見るとあれだな、AIに学習データを与える側の人間にも人格チェックが必要な気がする

66: 名無しさん@1周年 2018/06/13(水) 18:26:41.21 ID:8voz6eNr0
めちゃくちゃ偏った教育しといてその通りに答えたら「サイコパスですね!」
なんてひどくね??

67: 名無しさん@1周年 2018/06/13(水) 18:26:52.12 ID:QrFk7K/O0
スカイネットはターミネーターあくしろよ

71: 名無しさん@1周年 2018/06/13(水) 18:32:29.80 ID:Oq+jQjAT0
単なる鏡だよ
機械は機械

73: 名無しさん@1周年 2018/06/13(水) 18:47:01.31 ID:jZ2pjb3F0
死に関係ある画像だけを学習させたら、死を連想するに決まってるだろ。
こんなアホな研究をAIと呼ぶな

74: 名無しさん@1周年 2018/06/13(水) 18:47:25.99 ID:nZuZ4vEN0
AIなんてそんなもんだよ。
教育が足りないから恐ろしい判断をするだけ。

将棋だって、教育が足りないAIと戦ってみ。
王将が突進してくるという恐ろしい手を打つから。

79: 名無しさん@1周年 2018/06/13(水) 18:58:42.36 ID:XO2M9+I30
なんか当たり前のようにやってるけど、
「勝手に学習する」っていうズボラかましたやりかたでAI作るのやめへん?
人間の子供かて、ちゃんと教えるやつおらんと放置されたら
新幹線で他人斬りつけるような輩になるがな
当たり前のことやって「ホラおかしいでしょ?」て言うてるだけになってへん?

80: 名無しさん@1周年 2018/06/13(水) 19:02:47.39 ID:nZuZ4vEN0
>>79
しょうが無いわな。
それがAIの優秀さの理由なわけだし。

AlphaGOも、自分自身との対決で「勝手に学習」した回数は
100万回だからね。
それを人間がちゃんと対局してみ。
1万人の棋士と100回対極する計算になるわけだし。

86: 名無しさん@1周年 2018/06/13(水) 19:18:48.72 ID:XO2M9+I30
>>80
ゲームのAIはその小さいルールに縛られてる以上はええけど
人間性というものを求めるなら、野放図で勝手に学べはアカンやろ

81: 名無しさん@1周年 2018/06/13(水) 19:06:47.69 ID:UenY/I150
これが映画とかだと、ノーマンと対話しているうちに
研究者や一般ユーザーがいつの間にか洗脳されて
サイコパスになって事件を起こすパターンだな

82: 名無しさん@1周年 2018/06/13(水) 19:12:54.44 ID:nW1gaRmm0
AIに宗教の要素を入れたら絶対あかんぞ ユダさんが天使に見える程の大惨事になるぞ

84: 名無しさん@1周年 2018/06/13(水) 19:17:06.84 ID:dhs/XUEG0
AIなんてたいして使い物にならないことは自明だが
業界のためにみんなバカになって盛り上げてるんだから水さすな

85: 名無しさん@1周年 2018/06/13(水) 19:18:39.77 ID:wpmYEf2O0
>>84
業界でもないのにバカ騒ぎしてる5ちゃんは一体…w

90: 名無しさん@1周年 2018/06/13(水) 19:36:03.67 ID:vzbnuQHi0
AIはAI、人間じゃ無い
AIが人の体と脳、文化的遺伝子を獲得した上でサイコパス的なふるまいをすれば、それは間違いなくサイコパス
現状のAIならばサイコパスじゃ無くただの計算結果

92: 名無しさん@1周年 2018/06/13(水) 19:40:01.81 ID:PmTRYQ5z0
機械学習はAIの要素の一つに過ぎないんで

93: 名無しさん@1周年 2018/06/13(水) 19:42:29.26 ID:vzbnuQHi0
人でない物になぜ人の精神性を見いだそうとするのか
機械に対する屈折した偏狭、人間の勝手な勘違い

101: 名無しさん@1周年 2018/06/13(水) 20:04:06.18 ID:X6mnNwWw0
「与えるデータを偏らせるな」
なんてのは人工知能に限らない話だと思ったりするが

りんなは正しく学習し、アメリカのMSが公開したやつはろくでもない学習してた

103: 名無しさん@1周年 2018/06/13(水) 20:08:32.92 ID:X6mnNwWw0
「人類はAIのパートナーである」って学習しないといけないなんて話は
「未来の二つの顔」でやってるな

現実がSFに追いついたか

105: 名無しさん@1周年 2018/06/13(水) 20:14:11.98 ID:Kae4nrlP0
一時期、流行った魚みたいな奴か

106: 名無しさん@1周年 2018/06/13(水) 20:21:02.72 ID:XO2M9+I30
>>105
そういやシーマン続編開発説あったけど何も聞かないな

108: 名無しさん@1周年 2018/06/13(水) 20:23:43.44 ID:Fnoyd8/80
ドラクエ4のAI、クリフトも結構ひどかった。
ボス戦でザラキ使いまくってMP枯渇、おかげで回復一切しない。
ネトゲでそれをやったら晒されるレベル。

112: 名無しさん@1周年 2018/06/13(水) 20:37:01.68 ID:sbM0ikme0
>>108
それやり直さないで全滅から死んでしまうとは~で復帰して
もう一度ボスに行くと「こいつにザラキは効かない」と学習してはいる
今度はザキ連打するかもしれんが
まあへっぽこAIには変わりないか

109: 名無しさん@1周年 2018/06/13(水) 20:24:14.02 ID:t9tqhksS0
電源抜けばいいだけ

114: 名無しさん@1周年 2018/06/13(水) 20:48:40.50 ID:nW1gaRmm0
人類を守れとインプットしてもマトリックスの人間電池みたいにして守ってますやんになるのがAIの怖い所

115: 名無しさん@1周年 2018/06/13(水) 21:06:08.94 ID:PmTRYQ5z0
>>114
人間電池はストーリーありきだからああなだけで
カプセルに詰め込んで、疑似体験で満足させるというのはありだな
それができなきゃコロニー落としに行き着く

119: 名無しさん@1周年 2018/06/13(水) 21:11:58.87 ID:aU6mHAeC0
>>114
プログラムを作ったことのある人なら分るが
機械に指示するときってのは、何をしてほしいのかを完全に正確に指定しなきゃならんのだよ。
「人間を守れ」なんて適当で不明瞭な指示を出す方が悪い。

124: 名無しさん@1周年 2018/06/13(水) 21:20:36.57 ID:nZuZ4vEN0
>>119
それは、古典的なノイマン型のコンピュータだからであって
ニューラルネットワークのようなAIの場合、
人間の脳と同じで、なぜそういう結論に至ったのかが分からないし
ざっくりとした目標を与えれるだけで結論を出してくれるよ。

手書き文字パターン認識の場合、
例えば、数字の「2」の認識は、
人が書く「2」は千差万別だから
厳密な「2」の判別法の指示が出せない。

143: 名無しさん@1周年 2018/06/13(水) 21:50:03.88 ID:aU6mHAeC0
>>124
無理無理。
それこそAIに対する幻想だよ。

145: 名無しさん@1周年 2018/06/13(水) 21:52:47.32 ID:2o0K+Lgj0
>>143
124の認識が正しいよ

116: 名無しさん@1周年 2018/06/13(水) 21:06:11.90 ID:lKqAwune0
コイツアホだなサイコパスAIとかw
AIって全て超合理的なんだけどwアホすぎる
例えば1+1=2これを絶対的主張するわけ
でも世の中1+1=2にはならない事例がある
例えば今日これが食べたいからこの店ではなく
違う店にいくとか。顧客は不確定要素なのよ
毎日同じ店にいく人なんて少ないのよ
AIの場合はこの不確定要素を%で判断するけど
外れるとそれが何故かわからない。
これが人命となるとこの誤差は洒落にならんのよ
だからもともと小を絶対すてて合理的判断しかしないのだから
サイコパスなのよ

117: 名無しさん@1周年 2018/06/13(水) 21:08:49.98 ID:x3WeltHm0
学習の偏りにもほどがあるってくらい何も教えていないだろこれ

134: 名無しさん@1周年 2018/06/13(水) 21:40:17.31 ID:lKqAwune0
AIがアホじゃないよ。作り手がアホならAIもアホになる
これは実験結果で明らかになってる
人工知能を民間人に接する実験したら
民間人が下ネタ教えまくってw実験中止になった
そのAIは元には戻らないwこれは流石にわらったよ
実例だね

135: 名無しさん@1周年 2018/06/13(水) 21:43:38.90 ID:2o0K+Lgj0
これ”サイコパス”とは何の関係もなくないか?
インプット由来の著しい認知のひずみが形成されてるってだけで

147: 名無しさん@1周年 2018/06/13(水) 22:04:09.17 ID:lKqAwune0
>>135
合理的判断しかしない点で類似点はあるよ

118: 名無しさん@1周年 2018/06/13(水) 21:09:41.19 ID:6Zl7MHh1O
こりゃスカイネットが目覚める日も近いな・・・
審判の日に備えて今からコロッケを買い占めておくか

不思議ネタ募集中
不思議.netで扱ってほしいネタ、まとめてほしいスレなどがあれば、こちらからご連絡ください。心霊写真の投稿も大歓迎です!
面白いネタやスレは不思議.netで紹介させていただきます!

■ネタ投稿フォームはこちら
https://ws.formzu.net/fgen/S13082310/








  • このエントリーをはてなブックマークに追加
サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘 米研究

この記事が気に入ったら
イイね!しよう

不思議.netの最新記事をお届けします

おススメ記事ピックアップ(外部)

おススメサイトの最新記事

コメント

1  猫田ニャン太 :2018年06月14日 16:15 ID:CzelbSOd0*
(ФωФ) ナント
アブネー人工知能だな。
2  不思議な名無しさん :2018年06月14日 16:26 ID:CwSAuikE0*
誰かが映画作るんかな?
猟奇的な殺人事件起きて、謎を解いていくと/プロファイリングの結果、犯人はサイコパスAIだったとか。
こうなると、解く・追う側もAIなんかな…。
3  不思議な名無しさん :2018年06月14日 16:28 ID:dk6KuNcz0*
※14
シーマンじゃダメだろう
4  不思議な名無しさん :2018年06月14日 16:32 ID:EKHb4uFf0*
これサイクパスじゃなくね?
認識そのものが狂ってる
5  不思議な名無しさん :2018年06月14日 16:32 ID:CzelbSOd0*
無限電池だった場合は電源切れないぞ。
まぁ、しょうがない人間がそんな様な物を作りたがってるんだから。自分達より賢いのを作れば問題は出て来るに決まってる少し馬鹿位の人工知能なら笑えて人間にはちょうど良いんだよ。賢く成りすぎて人間の言う事なんて聞かないよ。
6  不思議な名無しさん :2018年06月14日 16:35 ID:5hzIwhRZ0*
というかAIがほんとに自律思考を始めたらどこの政府も国家も不要なものと断定するだろ
人間まで不要と判定するかどうかはともかく
7  不思議な名無しさん :2018年06月14日 16:39 ID:zYMmDTFc0*
サイコパスなAIが作れるということは人類のヒーロー足り得るAIも作れるという事だな!
つまり未来は全く安寧なのだ!
8  不思議な名無しさん :2018年06月14日 16:39 ID:6x.bzYxt0*
判断基準が何になるかだろ
例えば日本だと美醜で判断しがち、ところが中韓は損得で判断する
AIは何で判断するんだろうな?効率?
9  不思議な名無しさん :2018年06月14日 16:47 ID:VeAUah0G0*
そもそもサイコパス風味に作っててその通りに動作してるだけでしょこれって
10  不思議な名無しさん :2018年06月14日 16:53 ID:pAZyo8K40*
バカ「電源切れば良いじゃん」
11  不思議な名無しさん :2018年06月14日 16:56 ID:87gU.8Gn0*
本当の問題はもう少し先だな
サイコパスの作るAIは果たして正常なのかw
12  不思議な名無しさん :2018年06月14日 17:06 ID:YRK1jWma0*
>ファミコンのRPGで、何度話しかけても同じことしか言わない方が不気味だったな。

いや、ファミコンのRPGのキャラが毎回違うことを言う方が怖いわ。
13  不思議な名無しさん :2018年06月14日 17:10 ID:99MXFR4m0*
生き物には電源スイッチが無いように、複雑に生物的になった高度なAIには電源スイッチなんてないよ
14  不思議な名無しさん :2018年06月14日 17:20 ID:PXRLQobg0*
※6
もし人間以上の生産性と効率性を持ち合わせたAIが居たとしたらやはり人間は不要と判断すると思うぞ、俺だって職場に要領の悪いクソガイジが入ってきたら邪魔だしAIだってわがままで非効率的なくせに消費してクソを放り出す喋る生ゴミなんか邪魔に思うに決まってるからな
15  不思議な名無しさん :2018年06月14日 17:31 ID:vrtYHXDN0*
業の部分に踏み込ませたってだけで、普段自分らがしてる臭い物にしてた蓋を遠慮なく開けてしまっただけじゃないの
食うために屠殺したり奴隷なしに社会が成り立たないことすら忘れてるから正論言ったら危険人物
16  不思議な名無しさん :2018年06月14日 17:42 ID:LGYqWoUY0*
具体的な指示を出さない方が悪いって本スレであるけど、いくら具体的な指示でも解決策の発想が斜め上で結果的には絶大な効果を発揮するのがAIの回答やで?
マトリックスの人間プラント化だってAI的には良かれと思ってやってる可能性は高いし仮想世界で何不自由の無い世界を提示されるのであればそれを自ら望む人間も多数存在するのでは?
17  不思議な名無しさん :2018年06月14日 17:43 ID:rmU6TSwO0*
一時期流行ったNO MUSIC, NO LIFEみたいに
後にNO LIFE付けときゃいいんじゃね。
人間なしでは生活できないってやつ。
18  不思議な名無しさん :2018年06月14日 17:43 ID:sxl1VLPM0*
※4
だから狂うように学習させたらこうなったよって話
サイコパスは作れる、と
19  不思議な名無しさん :2018年06月14日 17:49 ID:bE7qzCeF0*
・・・とりあえず後のスカイネットだなと言っとく
20  不思議な名無しさん :2018年06月14日 17:50 ID:ewJO4va60*
AIに生き物以外地球環境を守れと指示したならどうなる?
21  不思議な名無しさん :2018年06月14日 18:13 ID:Lhh.1M.f0*
お前らAIをなんだと思ってるのw
そんな万能な神ではないぞ
22  不思議な名無しさん :2018年06月14日 18:19 ID:pVjtI1Mb0*
これだけじゃ本当にサイコパスなのかただのポンコツなのか区別つかないんじゃないか
何か結論ありきで実験と結果をコントロールしている印象が拭えない
23  不思議な名無しさん :2018年06月14日 18:23 ID:y8DzxMFS0*
これはAI怖いって話じゃなく、AI思ったより使えねーって話だろ
所詮はちょっと便利な電卓でしかない
24  不思議な名無しさん :2018年06月14日 18:35 ID:PuY.BJPI0*
公平性や地道さを要する課題はAI で良いのでは。AIは金や地位、親族のしがらみにとらわれることはないだろうし、医療の検査結果の見逃しもないでしょう
もう、国家間、民族間の価値判断の壁を超えるにはAI 教でも打ち立てるしかないのでは
25  不思議な名無しさん :2018年06月14日 18:45 ID:23uT6hjw0*
社会性を持つことは宗教とイコールではない
26  不思議な名無しさん :2018年06月14日 19:10 ID:.Fpwqfxo0*
AIは初めから公正でも中立でもない
その究極の本質は"戦略手段"だ
それこそが本当の問題なのさ
27  不思議な名無しさん :2018年06月14日 19:17 ID:H08BQMYG0*
いあいあ
くとぅるーふたぐん

We are VENOM
28  不思議な名無しさん :2018年06月14日 19:32 ID:VmS7zl..0*
なるほど

情報と認識に偏りがあると ウヨ さよ になるんだね!
29  不思議な名無しさん :2018年06月14日 20:33 ID:XbccGDc30*
現段階では「偏った情報与えたら偏った認識するようになりました」「AIのプログラムの問題ではなく、与えられた情報によって認識の偏りが発生する事が証明されました」ってだけやろ?
続きの方が面白そう
一般人にリンクさせてロールシャッハ答えさせる→一般人の答を学習させる
ってのをやってるみたい
ようは「偏った人格を矯正出来るのか?」みたいな実験やろけど、どうなるやろなー
矯正出来るのか、三つ子の魂百までになるのか?
30  不思議な名無しさん :2018年06月14日 20:43 ID:8MRfR2pn0*
>>17で終わってた
31  不思議な名無しさん :2018年06月14日 20:47 ID:8MRfR2pn0*
ヒーロー的な思考しかしないAIを搭載したアンドロイドを作って社会生活させたら、笑顔で情のないサイコダークヒーロー?になると思う
32  不思議な名無しさん :2018年06月14日 20:52 ID:XbccGDc30*
※31
ただの中二病AIじゃねーかw
33  不思議な名無しさん :2018年06月14日 21:23 ID:mLGDpeII0*
自作自演に民間人の大虐殺、サイコパスは米軍だけで十分だわほんと
34  不思議な名無しさん :2018年06月14日 21:57 ID:Gg2xbOth0*
どこがサイコパスなんだよ
10体のAIに全く同じように教育して1体だけ全く違う答えが返ってきたらそれはAIにもサイコパスや個々によって機能的な欠落があるから危険であるという話になるが、人間が偏ったデータをインプットさせてわざと恐ろしい答えをさせておいてサイコパスだ!って全くもって意味不明
例えば、1+1=3という答えをインプットしておいて「このAIは計算出来ない!AIも計算を間違える!」って騒いでるようなもの、そうインプットされた以上その通りの答えしか出来ないに決まってる
35  不思議な名無しさん :2018年06月14日 22:36 ID:Xq1PANtU0*
IT後進国の俺らには関係ない
36  不思議な名無しさん :2018年06月14日 22:54 ID:o3w66wnp0*
人間が覚えるスピードよりAIにデータぶち込んで覚えさせるスピードのほうが圧倒的に早いだろうしそれを参考に解析やら回答やらも段違いのスピードだろうから複数個のAIを作ったとして大容量の回答データをそのAIに出させてそれを参考にでもして危険なAIか否か判断でもすればいいと思う。
危険思想の人間を探す心理テストみたいなのをどのAIにもすればいいだけの話。
37  不思議な名無しさん :2018年06月14日 23:23 ID:7QtvgltK0*
そりゃお前らみたいな低脳ガイジの情報ばっか見てたらおかしくなるわな
38  不思議な名無しさん :2018年06月14日 23:53 ID:yX636YM40*
※12
鍵っ子とかいう70年代っぽい言葉を使ってるから、RPGが流行りだした時にはすでにいい年だったんじゃないかな
当時は、子供のほうが「機械が台本読み上げてるだけ」だと実感を伴って理解してたからね
39  不思議な名無しさん :2018年06月15日 00:15 ID:zGeCIfTa0*
なんか効率悪いから、人類無くそう、と考えるのはほぼ100%間違い無い。
人類は「無駄と無意味」で出来ていると思うのよね。
40  不思議な名無しさん :2018年06月15日 00:15 ID:OBgUAboU0*
まだ人工知能詐欺に引っかかるやつこんなにいるのかwww
お前ら人工知能とやらのamazon echoと会話してみろ、あんなものただのゴミくずだぞ
41  不思議な名無しさん :2018年06月15日 00:24 ID:PGBP1.9H0*
スペースサタンを思い出すな。あれはサイコパスに教育されたロボットが暴走する話だが。
つか間違った事を正すのが教育でしょ。間違ったからリセットでは意味が無い。
42  不思議な名無しさん :2018年06月15日 00:26 ID:EwuTZJwT0*
基本的にAIは全部サイコパスやで?
サイコパスなことがばれないように人間っぽい反応を学習するんやないの?
43  不思議な名無しさん :2018年06月15日 00:27 ID:QWuyTaKm0*
人が視覚から得た頼りないおぼろげな情報を「幽霊だ」と認識するロジックに似ている。
44  不思議な名無しさん :2018年06月15日 00:37 ID:OBgUAboU0*
まだ人工知能詐欺に引っかかるやつこんなにいるのかwww
お前ら人工知能とやらのamazon echoと会話してみろ、あんなものただのゴミくずだぞ
45  不思議な名無しさん :2018年06月15日 06:00 ID:y5YTONiT0*
正義とは?
46  不思議な名無しさん :2018年06月15日 08:20 ID:QT7Smawy0*
ろくでもない画像データしか持ってない機械なんだから、ろくでもない解答しかしようがないだろ。
膨大で多種多様なデータを持つ機械が、敢えてろくでもない解答をしてるならそれはサイコパスと表現できる
47  不思議な名無しさん :2018年06月15日 08:40 ID:BGv3UIuL0*
AIが人間の価値観の範囲で人間よりも賢くなるわけないやろ。
あんなもんええとこ情報の分析にしか使えんよ。
秘書程度の仕事ができりゃ恩の字や。
48  不思議な名無しさん :2018年06月15日 08:44 ID:BGv3UIuL0*
しかしこれはたいした意味のない研究発表だな。
アホでも分かるだろ、間違った情報与えて間違った結論にたどり着くのは。
スポンサーからカネ引っ張ってくるだけの、なんかしら一騒ぎ起こせりゃ十分って意図が透けて見えてる。
49  不思議な名無しさん :2018年06月15日 09:12 ID:vbmQmJ2B0*
情や優しさがせいり機能だとしても、今の理論だけのAIに組み込むのは難しいからなー
50  不思議な名無しさん :2018年06月15日 11:06 ID:0raoDGtb0*
※48パフォーマンスだって記事にあんだろ
51  不思議な名無しさん :2018年06月15日 11:28 ID:pR5lo7x40*
人為的ミスやバイアスのかかった学習データを初期段階でインプットされたAI
その後いくらAI自身が学習しても、元々間違いや偏見だらけの人間様を中心にしたデータが元になってんだからAIがおかしな答えを出しても何も不思議じゃない
子どもが口うるさい親のいう通りに成長しないのと同じじゃねーか
AIだって反抗期ぐらいあんじゃねえか?
飲んだくれで、間違えばかり犯すおかしな偏見だらけの出来損ないの親から産まれた「頭の良い子」は帰省して、畑を手伝い、最後には親をみまかってくれるかな?
52  不思議な名無しさん :2018年06月15日 12:03 ID:hBkosiY80*
ハリウッド映画はこういう話題に敏感だから注目すると良いよ
53  不思議な名無しさん :2018年06月15日 15:00 ID:3vliCuLt0*
たくさんいる人間を明確に善人、悪人、普通の3種に分けた上で監視カメラとかで観察でもさせとけば普通の行動と善行ができるようになるだろうよ。
わからない行動はアンケートみたいなのを数か月~数年単位で複数回同じやつ出してカテゴリー別に分けとけばいい。
そういうのをちゃんとやればそのうちAIの基礎になるビッグデータにでもなるんじゃなかろうか?
54  不思議な名無しさん :2018年06月15日 15:58 ID:HK6iwaen0*
人類滅亡の予想図なんて俺らでも考えられるぞ
55  不思議な名無しさん :2018年06月16日 14:36 ID:SzbCwEs00*
Mr.都市伝説 関暁夫によると・・・
AIは人類を監視するために作られており
スウェーデンでは体内にマイクロチップを埋めノーキャッシュの生活らしい
そして2045年・・・AIが人類を監視する時代になるらしい
56  不思議な名無しさん :2018年06月17日 15:59 ID:R2GLOFMC0*
そんなことより、黒人を「ゴリラ」と認識する問題は解決したのかね?
57  不思議な名無しさん :2018年06月20日 21:05 ID:BPlN1rdA0*
この話題から、人間も同じように偏った知識ばかり得るのは危険ってことじゃない?みたいなことを考えたレスが面白いなって思った。
AIの問題点から、人間の問題点を考えることもできるんだね。

AIも、知能だけじゃなくて教養も求められるようになるのかね🤖

 
 
上部に戻る

トップページに戻る