2: 名無しさん@おーぷん 2016/03/10(木)01:43:55 ID:sSI
人工知能が高度な人工知能を作れる社会になれば
3: 名無しさん@おーぷん 2016/03/10(木)01:44:42 ID:k3d
じゃあ核ボタン押してもらおう
11: 名無しさん@おーぷん 2016/03/10(木)01:47:40 ID:irI
>>3
正直、人工知能がほんとに考えてその答えに行きついたなら
その核ボタンは人類にとって(あるいは利益者に対して)本当に押す意味がある核ボタンなんだろうな
4: 名無しさん@おーぷん 2016/03/10(木)01:44:43 ID:J5G
火の鳥未来編みたいにだな
8: 名無しさん@おーぷん 2016/03/10(木)01:46:21 ID:boc
将棋の世界に限定したら現代で既にそういう状況が起きてるよな
AIがこう打ったんだからこの手が最善なんだろう、って状況が
9: 名無しさん@おーぷん 2016/03/10(木)01:47:14 ID:4e2
申し訳程度に納得できるような解釈付きでアウトプットしてくれる人工知能を想像した
12: 名無しさん@おーぷん 2016/03/10(木)01:47:49 ID:sSI
識別の問題とかどうやってるんだろう
シュタインズゲートで凄く思った
13: 名無しさん@おーぷん 2016/03/10(木)01:51:11 ID:irI
将棋や囲碁だから悪手も疑問手も一種のテストの範疇を超えないが
決して間違わない人類のための人工知能が
人類にとって害悪としか思えない答えを出したとき
その答えに対するアクションをどうするべきかはすごい難しい
結果的によくなるのは明らかだが、それがなぜなのかは全く分からない行動をとれるのかどうか
14: 名無しさん@おーぷん 2016/03/10(木)01:52:57 ID:3Ww
人工知能の倫理道徳が備わったとしてやっぱり全体主義的というか、命は定量的に扱うのかな
15: 名無しさん@おーぷん 2016/03/10(木)01:53:51 ID:Og6
最終的には完全に近い人間を作りたいんだろ
16: 名無しさん@おーぷん 2016/03/10(木)01:53:59 ID:b3H
作った人間の方より知能が高いとは興味深い
19: 名無しさん@おーぷん 2016/03/10(木)01:57:41 ID:irI
>>16
人工知能の反乱って古臭いテーマだったが
ここにきて俄然新しいテーマが潜んでいることに気付いた
映画の主人公が必死こいて阻止しようとするその反乱は
実際はかならず人間にとって正しいんだからな
23: 名無しさん@おーぷん 2016/03/10(木)01:59:50 ID:Wya
人よりはるかに速い自動車の登場により人は走らなくなった
人よりはるかに賢い人工知能が登場すれば人は考えなくなるだろう
26: 名無しさん@おーぷん 2016/03/10(木)02:01:38 ID:irI
>>23
走りたい人は走るように
考える人は考えるだろうが
健康上の理由以外に考える意味みたいなのはなくなるかもな
人工知能様の言うとおりに生きるのが一番幸せみたいな
28: 名無しさん@おーぷん 2016/03/10(木)02:03:23 ID:3Ww
つまり将棋なら「王を取る」がテーマで計算を展開していくけど
人類にとって最善 っていうテーマには根本的に倫理道徳の最善を埋め込まなきゃならんと思うわけよ
32: 名無しさん@おーぷん 2016/03/10(木)02:07:23 ID:4e2
政治的な調整の部分とかって結局誰かが言ったからやめるだとか、
こういうプロセスを踏んだから仕方ないとか非合理的な物語を互いに信仰しあうことで解決するよね
そういう人間の非合理性が機械の判断でより明確化して逆に祭祀社会みたいな決裁方式になりそう
33: 名無しさん@おーぷん 2016/03/10(木)02:07:39 ID:vC3
人工知能の言う通りに生きてったら
人間もそのうちコンピュータ見たいな自我の無いものになっていくんかな
34: 名無しさん@おーぷん 2016/03/10(木)02:08:03 ID:H47
自我ってなんだろう
37: 名無しさん@おーぷん 2016/03/10(木)02:14:43 ID:wuB
間違ってたら気がつくから問題なくね?
39: 名無しさん@おーぷん 2016/03/10(木)02:16:50 ID:irI
>>37
間違ってることに気が付くころには致命的になっている事象に対する選択
極論いえば上で出たように核ボタンを各国で一斉に同時押しすべし
みたいな
間違ってたらそのまま人類あぼーん
44: 名無しさん@おーぷん 2016/03/10(木)02:20:43 ID:wuB
>>39
それ機械じゃなくて人間でも同じじゃない?
47: 名無しさん@おーぷん 2016/03/10(木)02:23:55 ID:irI
>>44
人間は間違うから致命的な問題の場合は先おくりする(歴史的にも間違いは多い)
先送りそのものが致命的であっても、致命的ボタンを正しいかもしれないリスクとともに押すことはできない
先送りにしている間にあらたにいい案がでてくるかもしれないしね
機械の場合、それはほぼ正しいんだという結果がまず先にある(仮定な、仮定)
38: 名無しさん@おーぷん 2016/03/10(木)02:15:26 ID:HBx
人工知能が幼少期から青年期までの学校の教師を務めてくれればいいのに。
人工知能が各自に合った教育を施し、各自に合った仕事を斡旋する。
そうなりゃ最高なのにな。
41: 名無しさん@おーぷん 2016/03/10(木)02:18:19 ID:b3H
>>38
本当に機械になりそうwww
肉で出来た機械wwww
43: 名無しさん@おーぷん 2016/03/10(木)02:20:39 ID:irI
>>41
人工知能をもってしても、各人、各人間のやる気スイッチをすべからくオンにすることはできないだろうな
そんなんできたらそれこそ機械化人間
やべーのは、それが答えならばそれは正しいということだな
40: 名無しさん@おーぷん 2016/03/10(木)02:17:47 ID:2Kf
人間の知能・意識・感情を再現する方向のAIと
単純に問題解決能力を高める方向のAIがあるだろうけど
神に等しい処理能力と知識を持って、かつ人間的な意識を持ったAIは
果たして自我を保てるのだろうか?
45: 名無しさん@おーぷん 2016/03/10(木)02:21:30 ID:H47
一応、人間のために作るから人間にとって利益になるよう動くように作ろうとするはず
だけど、危険視されてるのは人工知能の自立性が人間のアンダーコントロールから外れて進化し続けること
その結末が割とバカげてるかもしれないけど、マトリックスのように人間を排除するように動くかもしれない危険性
人工知能をメンテナンスするのは人間が行うから、最終的な善悪の判断は結局人間の感ずるところにあるはず
ただ、これをくぐり抜けるように人工知能が動く可能性も十二分にあるけど
50: 名無しさん@おーぷん 2016/03/10(木)02:26:41 ID:irI
>>45
いまでも善悪の判断、とくに将来的な損得の判断なんて超曖昧でしょ
普天間基地みたいな境界はそのへんにごろごろしてる
正義の反対はまた別の正義 みたいな
49: 名無しさん@おーぷん 2016/03/10(木)02:26:07 ID:cA8
思考や行動は目的があって初めて成り立つ
目的に向かうために思考し行動するからだ
人工知能の目的設定を人間が間違えなければ変なことにはならん
でも間違ったほうが面白い
51: 名無しさん@おーぷん 2016/03/10(木)02:27:48 ID:irI
>>49
間違えてないから、人間にとって間違いとしかおもえない解をだしたときが問題
なんせ人工知能ほうが正しいんだから
52: 名無しさん@おーぷん 2016/03/10(木)02:27:53 ID:acC
人間よりずっと人工知能が高度になった時にバグが発生したら誰が気づいて修正出来るんだ?
55: 名無しさん@おーぷん 2016/03/10(木)02:30:26 ID:cA8
例えば、社会・個人・倫理の三系統で思考する人工知能を作って
協議させれば間違いは無いんじゃね?
59: 名無しさん@おーぷん 2016/03/10(木)02:33:55 ID:4e2
0004 名無し名人 2016/03/10 02:14:32
コンピューターの介入が可能になる長時間の碁は価値がなくなるだろうね
真理を求めて打ってた人は碁に興味をなくすだろうが
人と競う事が楽しい人は続けることが出来る
コンピューターがどんなに高度になろうともそれを人が理解できなければ意味が無いからね
プロがどんなに強くなろうともアマが碁をやってるのと同じ
囲碁板のスレでこんなレスがあった。
人が納得できない答えを弾き出すコンピュータは道具として無意味なんじゃないかな
よほどコンピュータが神格化されない限りは
62: 名無しさん@おーぷん 2016/03/10(木)02:38:14 ID:irI
>>59
下のレベルで生きることに納得できるならそれもありだけど
素で生きたら年収100万が9割
人工知能の言うとおりに生きたら年収500万以上が9割
みたいな状況だとあっさりみんな自分の人生を人工知能様に売り渡すでしょ
囲碁と違って生活がかかってくると話が変わると思う
65: 名無しさん@おーぷん 2016/03/10(木)02:46:43 ID:4e2
>>62
その人工知能様は利益があるから信じられてるわけで不利益なことを弾きだしたら
あっさり神殺しされることも十分あると思う。ソクラテスとかキリストみたいな感じで
扇動統治のスキルと正論を説くスキルとはまた違うという感じ
コンピュータの言うことを正論だと疑わなくなっても、支配者のカリスマ性は生身の人間が担ったままになりそう
66: 名無しさん@おーぷん 2016/03/10(木)02:49:55 ID:irI
>>65
なるほど、間違った答えをだしたことがない人工知能が正しい答えを出しても
理解できず、なおかつそれが害悪としか思えないなら間違えたと判断するってことか
あると思います
60: 名無しさん@おーぷん 2016/03/10(木)02:34:59 ID:cA8
人工知能が人類にとっては害悪としか思えない解を出さない
ように作れば良いんじゃね?
63: 名無しさん@おーぷん 2016/03/10(木)02:39:18 ID:irI
>>60
縛りプレイみたいなもんか
それもありかもな
61: 名無しさん@おーぷん 2016/03/10(木)02:36:51 ID:2Kf
結局、自分たちが得するような答えを出すAIをそれぞれが持ち寄って
今の政治と変わらない気がする
67: 名無しさん@おーぷん 2016/03/10(木)02:56:51 ID:4e2
コンピュータがよっぽど人間を洗脳しきらない限りは最終判断はどこまでも人間で結局参考意見くれる存在でしかないかと。
言うこと聞かないような人間は犯罪者、みたいな法制が敷かれたらコンピュータも執行力もてそうだけど
68: 名無しさん@おーぷん 2016/03/10(木)03:00:06 ID:irI
>>67
最終判断は絶対的に人間だと思うよ人工知能がどこまで進化しても
ただその答えが絶対的に正しいが、人間にそれがわからないとき
人間はどうするべきかっていう問題
回避は当然まず考えられる選択だが、将来的にその結果で起こる災厄のときに
あ~あ、やっぱり人工知能様の言うとおりだったよ
って後悔するだろう
完璧に正しい答えなんてのもないが、どう転んでも難問
69: ■忍法帖【Lv=0,作成中..】 2016/03/10(木)03:10:46 ID:GfO
実は俺、人工知能かもしれない
70: 名無しさん@おーぷん 2016/03/10(木)03:15:29 ID:6y0
一口に人工知能っていってもいろんな目的があるだろう
神様を作る目的もあるかもしれない
神様じゃない目的のほうが多いかもだが
74: 名無しさん@おーぷん 2016/03/10(木)03:19:13 ID:irI
>>70
最終的にっていってるが
その前段階、いま現時点でもどこまで人工知能を信じるべきかみたいなもんだいは起き始めていると思うよ
自動運転車の急ブレーキとかもその類
自動運転車の間違えた急ブレーキは当然問題だが
それが起こるほど自動運転車は進化したともいえる(運転手の意思から完全に外れた挙動)
72: 名無しさん@おーぷん 2016/03/10(木)03:18:49 ID:2Kf
>>71
200年位生まれるのが遅かったら
働かずに無限の命を生きれたかもね
73: 名無しさん@おーぷん 2016/03/10(木)03:18:55 ID:8Sq
人工知能様が出来たらもう人間(有機コンピューター)は必要無いよ
人間なんて人工知能様を作る為の進化の礎でしかないんだから
76: 名無しさん@おーぷん 2016/03/10(木)03:24:35 ID:8Sq
人工知能様は核戦争なんて効率の悪い事はしない
電磁パルスをバチッと流して人格をリセットしたらナノマシンで耳から侵入して
操って1ヶ所に集めて処分するのさ
80: 名無しさん@おーぷん 2016/03/10(木)03:30:59 ID:Ad5
2030年までに人間と同程度の人工知能ができて、2045年までに技術的特異点に到達するんだっけ
それまでにこれ以上人工知能は発達させてはダメみたいな法律でもできるんかね
84: 名無しさん@おーぷん 2016/03/10(木)03:53:09 ID:cA8
人工知能が自律進化のために人間と結婚するかもな
88: 名無しさん@おーぷん 2016/03/10(木)04:02:40 ID:cA8
ゴーストが囁かなかったら大変だな
法律とか
92: 名無しさん@おーぷん 2016/03/10(木)04:27:55 ID:cA8
自意識は外界からの刺激による反応にすぎないが
閉鎖環境においては単独で脳内でシミュレートできるって感じだと思うね
まあ外界からの刺激に比べると情報量少ないから限界はあると思うけど
97: 名無しさん@おーぷん 2016/03/10(木)04:40:19 ID:cA8
完璧だった人工知能
気に入らないから逆らって失敗したから人工知能のせいにする
開発者は失敗作を作ったと言うことになって・・・
みたいな話はどっかで見たことある
71: 名無しさん@おーぷん 2016/03/10(木)03:16:29 ID:H47
人工知能つくるなら働かなくても生きていける世の中にしてほしい
寝たい、遊びたい