4: 名無しさん@1周年 2018/06/13(水) 16:48:07.92 ID:9gOF2Fuy0
>>1
信じるか信じないかはあなた次第です
6: 名無しさん@1周年 2018/06/13(水) 16:48:40.72 ID:0VRv1sFb0
シンギュラリティがうんぬんかんぬん
8: 名無しさん@1周年 2018/06/13(水) 16:49:06.10 ID:akgfhyio0
だからどうしたってんだよな。
10: 名無しさん@1周年 2018/06/13(水) 16:50:46.05 ID:nQXBwW1R0
お前らにサイコパス人工知能だったのか
11: 名無しさん@1周年 2018/06/13(水) 16:51:26.84 ID:xlGri8IU0
その「偏ったデータ」が何かを知りたいね
12: 名無しさん@1周年 2018/06/13(水) 16:51:36.03 ID:ZZl1L+nO0
恐怖を煽ってどうするんだよw
ビッグデータから銃の画像と、傘の画像を、それぞれパターン認識・学習する訓練が
足りてないだけだろw
55: 名無しさん@1周年 2018/06/13(水) 17:42:08.95 ID:7iCnTPFO0
>>12
ビッグデータの内容に偏りがあるとノーマンみたいな判断をするんだろう
72: 名無しさん@1周年 2018/06/13(水) 18:40:41.53 ID:OnvgLzfj0
>>55
本当に恐ろしいのは、これが人間にも当てはまるんじゃ無いかって事
サイコパス人工知能と言われていても、与えられるデータ以外は従来のAIと変わらない
サイコパスじゃ無い人間でも、フェイクニュースだけを与え続けられるとサイコパスになりえる可能性を示唆している
99: 名無しさん@1周年 2018/06/13(水) 20:01:26.83 ID:m1o4kk620
>>72
その発想はなかった
確かにそうだわ
情報の内容も質も偏りがある現代への問題提起にもなってるんだな
13: 名無しさん@1周年 2018/06/13(水) 16:51:42.82 ID:SAPqLI7k0
人間より頭もいいし、30年後くらいにはAI様から最後の審判とか喰らいそう
14: 名無しさん@1周年 2018/06/13(水) 16:52:01.55 ID:6CJjV8Ow0
シーマンでいいよもう
16: 名無しさん@1周年 2018/06/13(水) 16:52:50.83 ID:N+WonPmL0
プルートゥでもあったが・・・
最高の知能を持った生き物(?)が一日中一歩たりとも動くことが出来ず
同じ場所に永久に居続けることを強要されたら、どんな事を考えるようになるかは明白だろ
17: 名無しさん@1周年 2018/06/13(水) 16:53:21.44 ID:BXeSevDc0
そら与えられた情報の中からしか判断できないんだから当たり前では。
20: 名無しさん@1周年 2018/06/13(水) 16:54:59.21 ID:NHJLaU0Z0
ネット網を使って好みの男のストーカーを際限なく繰り返すAIになりそうなw
21: 名無しさん@1周年 2018/06/13(水) 16:55:41.26 ID:9gR004mI0
結局は育った環境で性格が変わる
22: 名無しさん@1周年 2018/06/13(水) 16:55:52.40 ID:W2N5YU2S0
名前からしてno manだろ
そりゃそうなるよ
23: 名無しさん@1周年 2018/06/13(水) 16:56:42.15 ID:D3Ph/DEL0
AIって自分からなんかやったれとか考えるもんなのか?
25: 名無しさん@1周年 2018/06/13(水) 16:57:13.01 ID:CpzusFn90
後のスカイネットである
27: 名無しさん@1周年 2018/06/13(水) 16:58:07.03 ID:11uRH23A0
別にAIじゃなくても生まれたときから死体画像ばっか見せられてたら人間でもそうなるんじゃね
28: 名無しさん@1周年 2018/06/13(水) 16:58:28.09 ID:aU6mHAeC0
すごーく馬鹿らしい記事なんだが。
AIなんて教えの情報次第でどんな思考でも持つようになるという
極めて当然なことを言ってるだけじゃないか。
それともなんだ?
AIにどんな情報を教えても必ず、今の社会で表向き「正しい」と見なされる
所謂「ポォォリティカァァァルゥコォォレェクトゥ」な思想を持つとでも思ってたのかね?
(もちろん嫌味)
34: 名無しさん@1周年 2018/06/13(水) 17:06:24.07 ID:EWqRPDe10
>>28
AIはブラックボックスだから危ない。
貴方の自動車に使われているAIがサイコパスか否かどうやって分かる?
サイコパスは狡猾だから単純なテストではわからんだろう。
36: 名無しさん@1周年 2018/06/13(水) 17:08:29.27 ID:EWqRPDe10
>>34
正にHAL9000の恐怖
AI自身は自分がサイコパスとも思ってないかもしれない
75: 名無しさん@1周年 2018/06/13(水) 18:50:17.94 ID:NTtpSAaB0
>>28
充分に気持ち悪いだろう?
人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。
AIには人間には到底覚えられない情報を持ち、その上で最善の選択を導き出すことが出来ることを期待されていた。
しかし、人間以上に異常に偏向した思考をするとかヤバイでしょ。
偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?
88: 名無しさん@1周年 2018/06/13(水) 19:29:59.92 ID:aU6mHAeC0
>>75
>人間同様にAIにも思考にバイアスが掛かるのは駄目でしょ。
そもそも「バイアスがかかっているかどうか」誰が判断するわけ?
>偏った情報だけしか与えない学習方法に問題があるにしろ、AI自身がそれを補完する情報を自ら学習しバイアスを消すような能力を持たせる必要があるんじゃないの?
それこそ不可能だよ。
だって「誰から見ても客観的に正しいと証明できる思想」なんて存在しないもの。
89: 名無しさん@1周年 2018/06/13(水) 19:32:16.56 ID:nZuZ4vEN0
>>88
何が「正しい」のかだわな。
「地球の環境を守れ」と
AIに指示したら
人類を滅亡させたという
歴史があったとか、なかったとか。
96: 名無しさん@1周年 2018/06/13(水) 19:57:52.73 ID:7PShpHyB0
>>89
だが待って欲しい
「守れ」と指示した瞬間の地球環境にとって人類は重要パーツなので
その瞬間の人口や文明レベルを維持するように動くべきなのではないだろうか?
科学の発展で自然環境保護が進んでも逆にその瞬間の環境から見れば破壊なのでNG
「永遠の停滞」がAIにとっての正解ではなかろうか?
102: 名無しさん@1周年 2018/06/13(水) 20:05:23.33 ID:X6mnNwWw0
>>96
そこで「人類は重要なパーツじゃない」という偏ったデータが
与えられたら駄目だよね
ってはなしじゃないのか
94: 名無しさん@1周年 2018/06/13(水) 19:52:26.48 ID:NTtpSAaB0
>>88
いや、そんなに難しいレベルの命題ではないんだよ。
コンピュータは、凄い量の情報を蓄えることができる。
また、多様な考え方や理論や考え方や思考方法も覚えられる。
人間には不可能な量の思考の多様性も獲得可能なわけだ。
ディープラーニングの過程でそのような網羅的な知識を獲得すれば、今回のような極端なバイアスを回避できるんじゃないの?という話です。
29: 名無しさん@1周年 2018/06/13(水) 17:00:02.28 ID:rRv69wQy0
サイコパスとは共感性の欠如だから、CPUは過去も未来もサイコパス
サイコパスじゃないCPUができたらそらもうCPUじゃない。
偏った情報で成長させれば人間だってサイコパスチックになるだろうしな。
30: 名無しさん@1周年 2018/06/13(水) 17:02:36.38 ID:TzGIenQE0
電源切れば良いだけの話
38: 名無しさん@1周年 2018/06/13(水) 17:09:54.41 ID:+xE6If2e0
>>30
まだロボットの体を持ってないうちはそれでいいね
実体持って自分で増えて守るようになると困難になってくる
31: 名無しさん@1周年 2018/06/13(水) 17:04:00.34 ID:6blzRvbX0
人間もそうだよな
洗脳がいい例
32: 名無しさん@1周年 2018/06/13(水) 17:05:11.31 ID:dbj6i+7U0
AI使い
人類滅亡の災いが突発する
信じるか信じないかは
貴方次第
33: 名無しさん@1周年 2018/06/13(水) 17:05:55.06 ID:dX33FyhD0
子供が親の影響を受けまくるようなもんか
40: 名無しさん@1周年 2018/06/13(水) 17:11:41.69 ID:ab3bw2Rb0
ノーマンてスペクトルマンの怪獣でいたよな
「アルジャーノンに花束を」のパクりみたいな話で
41: 名無しさん@1周年 2018/06/13(水) 17:12:53.64 ID:8BiEUD2B0
お前らは無知だから何も思わないかもしれないが
ロールシャッハテストを受けられるAIってそれだけですごいと思うんだけど
123: 名無しさん@1周年 2018/06/13(水) 21:19:48.91 ID:q9N1kbpC0
>>41
そういや、中国のAIは合理的に思考して、中国共産党批判始めたから、直ぐ落とされてたな。
人口知能ですら、中国共産党は不要だとわかんだね
42: 名無しさん@1周年 2018/06/13(水) 17:18:29.48 ID:zk694JkQ0
一定のモノしか見せなければ偏るのは当たり前じゃん
43: 名無しさん@1周年 2018/06/13(水) 17:18:51.58 ID:Pt84o7iQ0
データに拠るのは当たり前の話だろ
AIは学習の機構が煮詰まったら次はその調教に焦点が移るのは誰もが考えていたはず
49: 名無しさん@1周年 2018/06/13(水) 17:33:59.63 ID:+yqg5jjd0
こんなん飛行機の自動操縦システムに故意にバグを仕込むのとなにが違うんだ?
そういうリスク考えるならなにも使えないわ
50: 名無しさん@1周年 2018/06/13(水) 17:34:59.66 ID:BBFd2POh0
そんな学習させたAIを何に使うんだ?
誰がそんなAIの言う事を信じるのか
新興宗教では活用できそうだな
51: 名無しさん@1周年 2018/06/13(水) 17:35:31.46 ID:xJONgaNn0
そりゃそうだこの世に絶対的なものなんて何一つないしな
52: 名無しさん@1周年 2018/06/13(水) 17:37:29.29 ID:uFmI8aSt0
ファミコンのRPGで、何度話しかけても同じことしか言わない方が不気味だったな。
鍵っ子で、薄暗い夕暮れの部屋の中、ひとりぼっちで。
54: 名無しさん@1周年 2018/06/13(水) 17:41:07.88 ID:uwe+jFAp0
学習元のデータがそういうデータなら、そりゃそういう結果になるだろ。
むしろそうでないのだとしたら、それは大発見だよ。
57: 名無しさん@1周年 2018/06/13(水) 17:45:06.09 ID:+qKxCi7x0
いまいちよくわからん
58: 名無しさん@1周年 2018/06/13(水) 17:45:51.63 ID:2N8rSfFx0
人間が手を加えなければAIは動かないし
結局人間次第
59: 名無しさん@1周年 2018/06/13(水) 17:46:34.92 ID:Fj6SHQQK0
AIとやらが本物なら
羊たちの沈黙のレクター博士のような犯罪のスペシャリスト作ってみたら?
60: 名無しさん@1周年 2018/06/13(水) 17:47:16.17 ID:kP0/Hwpr0
一神教からAI教へ移行したいんだろうな
簡単に操作できるからね
61: 名無しさん@1周年 2018/06/13(水) 17:49:37.66 ID:7iCnTPFO0
>>60
操作する人間が本尊ですよね
63: 名無しさん@1周年 2018/06/13(水) 17:56:00.28 ID:1crEmzZI0
ネーミングも洒落が効いてるなw
64: 名無しさん@1周年 2018/06/13(水) 18:09:28.02 ID:+aCjzXJZ0
こういうの見るとあれだな、AIに学習データを与える側の人間にも人格チェックが必要な気がする
66: 名無しさん@1周年 2018/06/13(水) 18:26:41.21 ID:8voz6eNr0
めちゃくちゃ偏った教育しといてその通りに答えたら「サイコパスですね!」
なんてひどくね??
67: 名無しさん@1周年 2018/06/13(水) 18:26:52.12 ID:QrFk7K/O0
スカイネットはターミネーターあくしろよ
71: 名無しさん@1周年 2018/06/13(水) 18:32:29.80 ID:Oq+jQjAT0
単なる鏡だよ
機械は機械
73: 名無しさん@1周年 2018/06/13(水) 18:47:01.31 ID:jZ2pjb3F0
死に関係ある画像だけを学習させたら、死を連想するに決まってるだろ。
こんなアホな研究をAIと呼ぶな
74: 名無しさん@1周年 2018/06/13(水) 18:47:25.99 ID:nZuZ4vEN0
AIなんてそんなもんだよ。
教育が足りないから恐ろしい判断をするだけ。
将棋だって、教育が足りないAIと戦ってみ。
王将が突進してくるという恐ろしい手を打つから。
79: 名無しさん@1周年 2018/06/13(水) 18:58:42.36 ID:XO2M9+I30
なんか当たり前のようにやってるけど、
「勝手に学習する」っていうズボラかましたやりかたでAI作るのやめへん?
人間の子供かて、ちゃんと教えるやつおらんと放置されたら
新幹線で他人斬りつけるような輩になるがな
当たり前のことやって「ホラおかしいでしょ?」て言うてるだけになってへん?
80: 名無しさん@1周年 2018/06/13(水) 19:02:47.39 ID:nZuZ4vEN0
>>79
しょうが無いわな。
それがAIの優秀さの理由なわけだし。
AlphaGOも、自分自身との対決で「勝手に学習」した回数は
100万回だからね。
それを人間がちゃんと対局してみ。
1万人の棋士と100回対極する計算になるわけだし。
86: 名無しさん@1周年 2018/06/13(水) 19:18:48.72 ID:XO2M9+I30
>>80
ゲームのAIはその小さいルールに縛られてる以上はええけど
人間性というものを求めるなら、野放図で勝手に学べはアカンやろ
81: 名無しさん@1周年 2018/06/13(水) 19:06:47.69 ID:UenY/I150
これが映画とかだと、ノーマンと対話しているうちに
研究者や一般ユーザーがいつの間にか洗脳されて
サイコパスになって事件を起こすパターンだな
82: 名無しさん@1周年 2018/06/13(水) 19:12:54.44 ID:nW1gaRmm0
AIに宗教の要素を入れたら絶対あかんぞ ユダさんが天使に見える程の大惨事になるぞ
84: 名無しさん@1周年 2018/06/13(水) 19:17:06.84 ID:dhs/XUEG0
AIなんてたいして使い物にならないことは自明だが
業界のためにみんなバカになって盛り上げてるんだから水さすな
85: 名無しさん@1周年 2018/06/13(水) 19:18:39.77 ID:wpmYEf2O0
>>84
業界でもないのにバカ騒ぎしてる5ちゃんは一体…w
90: 名無しさん@1周年 2018/06/13(水) 19:36:03.67 ID:vzbnuQHi0
AIはAI、人間じゃ無い
AIが人の体と脳、文化的遺伝子を獲得した上でサイコパス的なふるまいをすれば、それは間違いなくサイコパス
現状のAIならばサイコパスじゃ無くただの計算結果
92: 名無しさん@1周年 2018/06/13(水) 19:40:01.81 ID:PmTRYQ5z0
機械学習はAIの要素の一つに過ぎないんで
93: 名無しさん@1周年 2018/06/13(水) 19:42:29.26 ID:vzbnuQHi0
人でない物になぜ人の精神性を見いだそうとするのか
機械に対する屈折した偏狭、人間の勝手な勘違い
101: 名無しさん@1周年 2018/06/13(水) 20:04:06.18 ID:X6mnNwWw0
「与えるデータを偏らせるな」
なんてのは人工知能に限らない話だと思ったりするが
りんなは正しく学習し、アメリカのMSが公開したやつはろくでもない学習してた
103: 名無しさん@1周年 2018/06/13(水) 20:08:32.92 ID:X6mnNwWw0
「人類はAIのパートナーである」って学習しないといけないなんて話は
「未来の二つの顔」でやってるな
現実がSFに追いついたか
105: 名無しさん@1周年 2018/06/13(水) 20:14:11.98 ID:Kae4nrlP0
一時期、流行った魚みたいな奴か
106: 名無しさん@1周年 2018/06/13(水) 20:21:02.72 ID:XO2M9+I30
>>105
そういやシーマン続編開発説あったけど何も聞かないな
108: 名無しさん@1周年 2018/06/13(水) 20:23:43.44 ID:Fnoyd8/80
ドラクエ4のAI、クリフトも結構ひどかった。
ボス戦でザラキ使いまくってMP枯渇、おかげで回復一切しない。
ネトゲでそれをやったら晒されるレベル。
112: 名無しさん@1周年 2018/06/13(水) 20:37:01.68 ID:sbM0ikme0
>>108
それやり直さないで全滅から死んでしまうとは~で復帰して
もう一度ボスに行くと「こいつにザラキは効かない」と学習してはいる
今度はザキ連打するかもしれんが
まあへっぽこAIには変わりないか
109: 名無しさん@1周年 2018/06/13(水) 20:24:14.02 ID:t9tqhksS0
電源抜けばいいだけ
114: 名無しさん@1周年 2018/06/13(水) 20:48:40.50 ID:nW1gaRmm0
人類を守れとインプットしてもマトリックスの人間電池みたいにして守ってますやんになるのがAIの怖い所
115: 名無しさん@1周年 2018/06/13(水) 21:06:08.94 ID:PmTRYQ5z0
>>114
人間電池はストーリーありきだからああなだけで
カプセルに詰め込んで、疑似体験で満足させるというのはありだな
それができなきゃコロニー落としに行き着く
119: 名無しさん@1周年 2018/06/13(水) 21:11:58.87 ID:aU6mHAeC0
>>114
プログラムを作ったことのある人なら分るが
機械に指示するときってのは、何をしてほしいのかを完全に正確に指定しなきゃならんのだよ。
「人間を守れ」なんて適当で不明瞭な指示を出す方が悪い。
124: 名無しさん@1周年 2018/06/13(水) 21:20:36.57 ID:nZuZ4vEN0
>>119
それは、古典的なノイマン型のコンピュータだからであって
ニューラルネットワークのようなAIの場合、
人間の脳と同じで、なぜそういう結論に至ったのかが分からないし
ざっくりとした目標を与えれるだけで結論を出してくれるよ。
手書き文字パターン認識の場合、
例えば、数字の「2」の認識は、
人が書く「2」は千差万別だから
厳密な「2」の判別法の指示が出せない。
143: 名無しさん@1周年 2018/06/13(水) 21:50:03.88 ID:aU6mHAeC0
>>124
無理無理。
それこそAIに対する幻想だよ。
145: 名無しさん@1周年 2018/06/13(水) 21:52:47.32 ID:2o0K+Lgj0
>>143
124の認識が正しいよ
116: 名無しさん@1周年 2018/06/13(水) 21:06:11.90 ID:lKqAwune0
コイツアホだなサイコパスAIとかw
AIって全て超合理的なんだけどwアホすぎる
例えば1+1=2これを絶対的主張するわけ
でも世の中1+1=2にはならない事例がある
例えば今日これが食べたいからこの店ではなく
違う店にいくとか。顧客は不確定要素なのよ
毎日同じ店にいく人なんて少ないのよ
AIの場合はこの不確定要素を%で判断するけど
外れるとそれが何故かわからない。
これが人命となるとこの誤差は洒落にならんのよ
だからもともと小を絶対すてて合理的判断しかしないのだから
サイコパスなのよ
117: 名無しさん@1周年 2018/06/13(水) 21:08:49.98 ID:x3WeltHm0
学習の偏りにもほどがあるってくらい何も教えていないだろこれ
134: 名無しさん@1周年 2018/06/13(水) 21:40:17.31 ID:lKqAwune0
AIがアホじゃないよ。作り手がアホならAIもアホになる
これは実験結果で明らかになってる
人工知能を民間人に接する実験したら
民間人が下ネタ教えまくってw実験中止になった
そのAIは元には戻らないwこれは流石にわらったよ
実例だね
135: 名無しさん@1周年 2018/06/13(水) 21:43:38.90 ID:2o0K+Lgj0
これ”サイコパス”とは何の関係もなくないか?
インプット由来の著しい認知のひずみが形成されてるってだけで
147: 名無しさん@1周年 2018/06/13(水) 22:04:09.17 ID:lKqAwune0
>>135
合理的判断しかしない点で類似点はあるよ
118: 名無しさん@1周年 2018/06/13(水) 21:09:41.19 ID:6Zl7MHh1O
こりゃスカイネットが目覚める日も近いな・・・
審判の日に備えて今からコロッケを買い占めておくか