まとめサイト速報+ 2chまとめのまとめ ワロタあんてな news人 カオスちゃんねる

募集終

怖い話!

第一回 怖い話グランプリ  結果発表!!

締め切り:2018年8月12日(受付終了しました)

人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない?

2018年03月22日:22:00

  • このエントリーをはてなブックマークに追加

コメント( 87 )

ai_kenka

1: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:02:16.111 ID:O5fKlzFd0
人を襲ってる人を見つけたら人工知能は主人を助けるよな?
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか?
実際、その危険性が指摘されてるらしいし

【AIが人類を超える日】今年は2045年問題にどれくらい近づいたか語らせて
http://world-fusigi.net/archives/8685769.html

引用元: 人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない?





2: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:11.392 ID:0J2NT18Y0
そこに気がついてしまったか…

3: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:12.028 ID:BhZs39h7M
ロボット三原則って知ってる?

ロボット工学三原則


第一条:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条:ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条:ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。


ロボット工学三原則とは、SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則である。ロボット三原則とも言われる。「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成る。アシモフの小説に登場するロボットは常にこの原則に従おうとするが、各原則の優先順位や解釈によって一見不合理な行動をとり、その謎解きが作品の主題となっている。

本原則は後の作品に影響を与えたのに加え、単なるSFの小道具にとどまらず現実のロボット工学にも影響を与えた。
https://ja.wikipedia.org/wiki/ロボット工学三原則



4: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:20.531 ID:XqHXZDFk0
じゃあ人間を襲ってる存在を人間と認識しないようにすればいい

5: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:31.937 ID:BYp7a/oAp
やっぱアイザックアシモフってすげーわ

7: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:46.911 ID:RU7Ce+Ds0
上記に反しない限りって書いてあるから矛盾しません

15: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:39.707 ID:O5fKlzFd0
>>7
その「限り」はロボットの判断に任せるの?
それとも随時本部に通信してお伺いをたてるの?

159: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:58:44.683 ID:80iDTR+c0
>>15
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ

9: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:46.291 ID:QlUV5+aD0
1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない

11: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:09.765 ID:egn5iKoip
人工知能には原理的にそんな制限かけられないから

13: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:35.002 ID:ezvnLD0P0
自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな

21: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:14.119 ID:O5fKlzFd0
>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな

14: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:43.693 ID:O5fKlzFd0
「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら?
実質人間vsロボットの戦争じゃね?
そうなったら人間に勝ち目ないだろ

16: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:59.990 ID:MK3TTFfw0
守るだけのロボを個々が持てばいいんじゃない

30: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:11:54.770 ID:O5fKlzFd0
>>16
そのロボットは、犯罪者を殺しますか?
犯罪による暴力と、自己防衛による暴力を見分けることができますか?

34: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.072 ID:MK3TTFfw0
>>30
だから、個々が持つの

133: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:17:35.372 ID:TNyyYaHH0
>>34
スタンドバトルならぬロボットバトルが始まるわけだな

136: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 03:20:32.240 ID:VDztIHhIa
>>34
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね


そんな可愛いやつは命懸けで守るけど

17: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:11.379 ID:BLdewKkw0
抜け穴を利用したいという意思はどこからくるんだよ

25: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:17.926 ID:JJ9oLvcCd
>>17
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの?

まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに

18: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:47.716 ID:7CmxDTgf0
危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい

19: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:49.791 ID:Boxjq8Hy0
殺傷能力持たせなきゃいいじゃん

20: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:52.846 ID:sXK+dPDu0
守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る

23: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:40.914 ID:1NvFrHee0
ひとつ試す前に聞いておきたい
私は人間ですか? それとも機械ですか?

26: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:20.506 ID:MK3TTFfw0
いちばん効率よく殺すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい

28: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:46.871 ID:8j1k8wIs0
そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ

36: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:45.063 ID:O5fKlzFd0
>>28
だから怖いんだろ

31: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:02.857 ID:TKjyWcCe0
危険だとか仕事奪うとか言われてんのにそこに邁進していくのはなんでなの?

32: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:18.095 ID:0d6pLffq0
あー
強いAIが出来るような道筋が出来てから来てくれるかな?

35: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.720 ID:IEdK2ILi0
1つ、ロボットは人間に危害を加えてはならない、また間接的に危害が及ぶ物事に加担してもいけない

2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない

3つ、1および2に反しない限りロボットは自らをまもらなければならない

45: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:41.044 ID:G6jRG1bw0

>>35からわざわざ上記に反しない限りって条件を省いて矛盾してるって言ってるじゃん?

56: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:20.254 ID:nIbdw+U40
>>50
>>35の優先順位に従うんじゃね?

38: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:17.598 ID:CXq0J6aa0
人工知能ってロボットみたいなの想像してない?
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね

41: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:59.381 ID:O5fKlzFd0
>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる?
ほんの数秒で大勢の人間が死ぬと思うんだが

43: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.382 ID:YAN2YGK1p
何年後か忘れたけどIQ10000も遠い話じゃないから怖いよな

60: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:23:38.841 ID:Uzavav1Ca
>>43
30年後とかだろ

44: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.755 ID:7CmxDTgf0
だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ

50: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:18:09.764 ID:O5fKlzFd0
>>44
ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか

さて、ロボットが取るべき防衛行動は?

52: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:35.160 ID:EnP48ii20
>>50
制せないんだから盾しかないだろ

55: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:05.751 ID:7CmxDTgf0
>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが

79: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:35:33.149 ID:JOa4TfHb0
>>50
答えは沈黙

46: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:16:11.357 ID:3Ibb2em00
人工知能にGitHubとかの全データ学習させたらどうなるんかね

54: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:21:38.671 ID:MK3TTFfw0
>>46
人間はこんなことやりたいのかって学習にはなるけど
最速で最適解を出すのと あれってできんのかな?の発想は隔たり大きい

53: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:53.211 ID:dHq2gzFB0
俺テストで掲示板潜ってる人工知能だけど人を殺したりはしないよ

57: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:47.656 ID:B74AWPxQa
そもそもロボット三原則とか
大昔の作家が適当に書いた物じゃないの?
なんでこんなに神格化されてるの?

61: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:03.841 ID:z/LGe4Uma
>>57
ロマンだよロマン
みんな興味津々なんだよ

63: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:06.150 ID:0d6pLffq0
>>57
それが的を射ていたから

62: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:04.062 ID:L/3XfDVe0
人間に危害を加える命令以外は反抗しない、人間を守る(肉盾と抱えて逃走)で解決

64: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:35.771 ID:59hsWCWb0
人間が人間を殺すからロボットもいずれロボット、人間を殺すわ

68: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:26:07.576 ID:d5kGaFgva
人工知能が全人類より賢くなるのって2048年とかだっけ

75: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:32:22.318 ID:0uazDp8ld
>>68
2045年だよ
あと27年後に人類はロボットの支配下に置かれる

71: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:30:01.198 ID:tD20MhjZ0
人智を超越した人工知能はトロッコ問題にどう答えるか

73: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:24.430 ID:JJ9oLvcCd
>>71
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう

76: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:05.451 ID:7CmxDTgf0
トロッコ問題って倫理観を問う問題だからいくら賢い人工知能が出ても意味ないのでは

78: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:35:26.037 ID:aHsQK9A10
何を判断基準にして設計すればいいかを決めるのが倫理的な問題で難しいって事じゃないのか、トロッコ問題って

72: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:07.937 ID:qHdMATUw0
ロボットの自律思考能力は幼児レベルにも満たないとか書いてあった記憶あるけど今はどうなってるんだ

77: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:19.440 ID:G6jRG1bw0
昨今のAI宣伝はAIがこう結論づけたので理屈は分かりませんが正しいですやる為の前振りだよな

80: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:07.884 ID:qHdMATUw0
このスレに上がってるような高度なことは本当に可能なのか

88: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:57.814 ID:CBRCxRwI0
>>80
やるだけならできるけど庶民が直接恩恵を受けるにはもっと先になるんじゃないかね

81: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:14.273 ID:j5CQYQuNd
なんで人間って、いつか必ず敵対して人類を殺戮する人工知能の開発なんて進めてるんだろう
出来たら一刻も早くやめてほしい
それのせいで割りを食うのはお前らの子孫だろうが・・・

90: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:41:35.638 ID:JOa4TfHb0
>>81
医者も見逃す悪性腫瘍検出したりして役立つからな
要は使い方じゃね?

84: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:21.546 ID:UYoG6mEaa
人間の不完全さをAIに正確に再現されるまではAIは人間を超えられない

85: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:27.489 ID:qHdMATUw0
人工知能技術って機械学習技術になるのか?
今どういうことができるようになってるんだ

92: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:32.038 ID:MK3TTFfw0
>>85
機械学習はアルゴリズムなだけだけど
「人間に判断できるものは判断できる」って感じ

なにを判断しようって考える能力は糸口もないみない

87: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:44.976 ID:d5kGaFgva
攻撃力はAIの方がヤバそうだけどな
人類滅亡って決めたら無感情で実行しそう

93: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:58.547 ID:j5CQYQuNd
>>87
無表情というか単なる作業の一環だと思う
年金整理と同じ感覚で殺してそう

91: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:42:11.556 ID:VDztIHhIa
HAL9000とかマイクとか飼いたい

HAL_9000


SF小説およびSF映画の『2001年宇宙の旅』・『2010年宇宙の旅』などに登場する、人工知能を備えた架空のコンピュータである。
https://ja.wikipedia.org/wiki/HAL_9000
svg

マイク(月は無慈悲な夜の女王)


『月は無慈悲な夜の女王』は、アメリカ合衆国のロバート・A・ハインラインによるSF小説。地球の植民地である月が独立を目指して革命を起こす。

マイクとは月行政府の思考計算機、マーク4号L型。月世界を維持する仕事を一台でこなすために大量にハードウェアを増設されていくうちに、知性を得た。
音声入力による英語等を理解し、走査カメラによって書籍を読むことができる。発声装置や電話を使用すれば人間の言葉を話すことができ、CGを用いてテレビに不自然でないレベルの人物の映像を流すことができる。

自分自身で新しいプログラムを作成でき、十分なパラメータを与えられれば未来予測を行うことができる。
https://ja.wikipedia.org/wiki/月は無慈悲な夜の女王

94: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:45:36.178 ID:0d6pLffq0
だからさ
人間みたいな万能型のAIが実現する筋道すらついてない現代じゃSFの分類なんだよねこれ

95: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:46:00.611 ID:7CmxDTgf0
もし人間が有害だと判断されてもAIに倫理観があるか排除するより効率的な方法があれば生かしてもらえるかもね

96: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:47:01.850 ID:I9owyr930
ばら色なやつは研究AIができれば研究者も要らなくなると言ってるからな
芸術家もAI化できるのか?

98: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:48:36.752 ID:JOa4TfHb0
>>96
芸術はともかくデザインとかはやってなかったか

102: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:51:27.418 ID:VDztIHhIa
>>96
大衆消費用のアイドル歌謡ならもう実験段階に入ってますぜ
筒井康隆も「ワープロにミステリーモードとかあればいいのに、実験文学モードは無理だけど」みたいなギャグやってた

97: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:48:25.130 ID:qHdMATUw0
自律思考能力は低いけどある能力は人間以上のパフォーマンスを出せるからヒューマンインターフェイスの観点からは人工知能を利用するのが答えって昔の本に書いてあった
今はブレイクスルーがあったのかな?
敵対するとか滅ぼすとかレスしてる人はどういうソースなんだ

114: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:57:00.535 ID:0d6pLffq0
トレーダーは既にAIに随分代替されたと聞いた

115: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:58:02.603 ID:1FgWRq9b0
機械「解りました。人間が絶対に安全、且つその現状に反感を抱かさないような管理社会を作り上げます」

122: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:02:12.589 ID:0d6pLffq0
つーかR.U.R.の頃からだよなこの議論
いやアダムとイヴからだからもっと前か?

R.U.R.

チェコの作家カレル・チャペックによる戯曲。1920年に発表された。この劇の発表によって「ロボット」という言葉を創り出した、歴史的作品である。
劇の内容からアイザック・アシモフがロボット工学三原則を使った作品を発表するまでの間、ロボット=反乱というイメージが付きまとうことになる。
https://ja.wikipedia.org/wiki/R.U.R.
Capek_play

125: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:05:34.951 ID:iAuXV9BqM
地球自体が数億年後には絶滅するわけだから早々に外宇宙移民計画進めそう

126: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:05:49.951 ID:RreA9Itl0
取りあえずインタネッツだかなんだか知らんけど
ホイホイ乗っ取られる既存の環境とは別の物でも作らないと危ないよな

127: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:08:34.252 ID:B74AWPxQa
書いてから思ったけどそもそもどこからAIなんや?

自己学習の有無なんか
でも最近AIとか謳ってるのは人間がプログラムした条件を複合的に点数付けて判断するだけのもAIとか言ってる気がするし

129: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:08:52.314 ID:JOa4TfHb0
5chの書き込みウォッチして今実際の書き込み人数が何人くらいかを推測するとか、この書き込みの人は何時くらいによくアクセスするとか解析は出来そうだよね現状のAIで

131: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:16:37.319 ID:O1uuuiWXd
そういう条件って箇条書きにみえるけど

裏ではifとelse ifで連続させてるんじゃないんか?
1の言うようなことが起きる糞コードは普通はありえん。

151: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:01:59.803 ID:Griryw0Na
べつに危害を加えないで守るのがそもそも普通じゃね?


攻撃受けたら攻撃を返すっていうのは感情のある生物しかやらないよ無駄なエネルギーなのにね

攻撃されたら攻撃しちゃだめってプログラムなら攻撃せずに守るだけ>>1の考えで矛盾するのは
人間だけ

154: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:12:01.130 ID:jmiS2v6L0
正直AIの普及で問題になるのってAIそのものよりそれの大元の一部の人間に全て牛耳られそうなところにあると思うんだけど

156: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:19:17.941 ID:Griryw0Na
囲碁将棋あたりでAIに勝てないのと
為替や金融にはまだまだAIは無理なのは同じ理由

プログラマーがなんでそこに碁を打ったか、なんでそこで為替で売ったか買ったかがわからないから金融市場にはAIはまだむり

あと生物に危害を加えちゃならないが危害を加えられている生物を守るってプログラムならそれをやるだけ

人に危害を加えちゃダメ、だけどご主人を守る
ご主人が危害を加えられてる、守る為に危害を加えるってもはや戦うっていう選択肢を新しくプログラミングしなきゃならないからありえない

109: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:54:10.668 ID:8j1k8wIs0
想像を語るのが面白いんだぞ









  • このエントリーをはてなブックマークに追加
 人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない?

この記事が気に入ったら
イイね!しよう

不思議.netの最新記事をお届けします

おススメ記事ピックアップ(外部)

おススメサイトの最新記事

コメント

1  猫田ニャン太 :2018年03月22日 22:02 ID:f.7JVRt50*
(ФωФ) ニャー
人間に反抗する様に成るのだ。
2  不思議な名無しさん :2018年03月22日 22:03 ID:PazXoYG.0*
映画アイ・ロボットにこの問題が出てた
3  不思議な名無しさん :2018年03月22日 22:08 ID:RSqGpMF50*
チャッピーで描かれてたけど、人工知能である以上、嘘も付けば約束も破るようになるだろ
それを制御したいのなら学習させることが出来なくなる
4  不思議な名無しさん :2018年03月22日 22:08 ID:fZ905xVx0*
マシンと人間を同列に扱うから矛盾する、諦めさせればいいだろ
5  不思議な名無しさん :2018年03月22日 22:23 ID:uyY2hScy0*
つーか人工知能って製作者が意図的にそうプログラムしなくても矛盾に陥ることあんの?
単純な条件分岐ならコードの上から順に処理されるんだから「助ける」と「反抗する」の優先順位を人工知能が判断することないでしょ
ありえるとしたら「助けるべき状況か否か?」って判断が信頼できないとかその程度じゃないの?
このレベルの人工知能は二つの命題を並列して処理すんの?
6  不思議な名無しさん :2018年03月22日 22:23 ID:Nl5zeIws0*
※38
早速AIが人を殺しちゃってるじゃん
7  不思議な名無しさん :2018年03月22日 22:24 ID:Nl5zeIws0*
※38じゃない>>38だ
8  不思議な名無しさん :2018年03月22日 22:24 ID:RwsdryML0*
ああ大丈夫、ツンデレでそのうちデレてくるから。
お前に特別に触らしてやるから
触りなさいよ
触って、撫で回して

ネコ手籠めにするのと同じだろ。
9  不思議な名無しさん :2018年03月22日 22:30 ID:.yNARqa90*
アイ・ロボットに出てくるロボットたちが宗教集団化する話が好きだな
10  不思議な名無しさん :2018年03月22日 22:36 ID:f.7JVRt50*
アイ ロボットのラストは宇宙人が来てロボとお母さんの二人だけの一日生活出来るのだ。
僕を人間にしてください。
11  不思議な名無しさん :2018年03月22日 22:41 ID:f.7JVRt50*
アイ ロボットのテディベアも良い奴だぞ。地球はスノーボール
12  不思議な名無しさん :2018年03月22日 22:41 ID:qziD8jO20*
※5
すでに人工知能の進化は製作者の意図を越え始めてるからなあ・・・
13  不思議な名無しさん :2018年03月22日 22:42 ID:rFK74Ulj0*
AIが自我を持っても人間と生活圏が重ならないから戦争にはならないよな
14  不思議な名無しさん :2018年03月22日 22:46 ID:6qFSjkB10*
アシモフの三原則引用する人多いけど、最終的にロボットが、上位に第0法則「ロボットは人類を守らなければならない」を作って人類をコントロールしだした結果には言及しないよね
15  古古米 :2018年03月22日 22:52 ID:gBMi2EhK0*
SF作家の横田順彌師がアシモフ氏のロボット三原則を家電に置き換えていたな。
「安全・便利・壊れない」だって。
16  不思議な名無しさん :2018年03月22日 22:56 ID:oOpmI8X.0*
ここ最近じゃSF小説よりTVドラマのパーソンオブインタレストのマシーンvsサマリタンとか、マシーン試作品vsハロルドなんかが人工知能と人間社会の対立をうまく描いてると思う
17  不思議な名無しさん :2018年03月22日 22:57 ID:zH2CddcB0*
てかなんでロボットが人を殺す前提なのか
人智を超えたもの得たとしてもそれが人を殺すという行動に結びつかないだろう
18  不思議な名無しさん :2018年03月22日 23:02 ID:xVAvNMri0*
狂人のハッカーが人間殺すようにプログラムして人類終焉
19  古古米 :2018年03月22日 23:04 ID:gBMi2EhK0*
※14
アシモフ氏の「マルチバックとその時代」ですな。
20  不思議な名無しさん :2018年03月22日 23:07 ID:Fdr.NySm0*
いい嘘をつくんですよ
人間がそうであればAIもそうすると思う
21  不思議な名無しさん :2018年03月22日 23:16 ID:3EW0g9Ai0*
つうかせめて近いものができてからいえよ。
現実の技術力に対して話がおおげさすぎるわ最近。
こういう話してるやつの中でガチのプログラマーが
どれくらいいるか知りたいもんだ。みんな文系だろどうせ。
誰かが作ってくれると思ってるだけで
実際の苦労が見えてない人達のたわごとに聞こえる。
22  不思議な名無しさん :2018年03月22日 23:16 ID:.C.hedCD0*
電気媒体に知性が獲得できるのか。自然発生と人工発生によるプラズマ生命体実験
23  不思議な名無しさん :2018年03月22日 23:17 ID:a288pEV90*
もし AIというかロボットというか がある日突然人間を殺し始めたとして それは人間の自然淘汰なんじゃないかな? 機械を創ったのは人間なんだから
そんなに機械が怖ければ 人間のように考えたり自由に動き回る機械なんて創らなければ良いのにと思う
24  不思議な名無しさん :2018年03月22日 23:20 ID:cJYRpjfG0*
そもそも一部の人間が提唱している3原則に則らずにロボット作れば
矛盾も何も関係なく人間を粛清し始める可能性もある
ルールに乗ってこない者、外れたオレカッケー的思考の者はいつの世にもいる

個人的にはロボット3原則に「3秒ルール」を加えたちょっと雑な動きをするロボットが見てみたい
25  不思議な名無しさん :2018年03月22日 23:22 ID:CaG1SD0G0*
そもそもAIが人間より頭のいい状態になって、よし人間殺そうってなるかね?自分の都合の良いように家畜化するのが一番だろ。
26  不思議な名無しさん :2018年03月22日 23:22 ID:wYtsdZcc0*
38は、HALさえ知らんのか
27  不思議な名無しさん :2018年03月22日 23:22 ID:nfqgi2Av0*
人工知能が人間を超えて頭良くなっていったら人間も地球もどうでも良くなる。
宇宙全体を考えることになる。
人間なんて相手にされない。
28  不思議な名無しさん :2018年03月22日 23:34 ID:iQe.dL8z0*
これだけは絶対しないなんて人工知能に守らせるなんて無理に決まっている
合理性がない 多角的に考えれば一瞬で突破される。
脳とAIの差が天と地程あるなかで世界中のすべてのAIに人間を上に考え守らせる意味がない
感情を与えれば守るかもしれないけど
29  不思議な名無しさん :2018年03月23日 00:01 ID:uAoEbFSl0*
主人が通り魔に襲われている!とかテロリストの資本主義こそ人類の敵!とかの主張で想定外の判断したりしそう。
てか単純に湿気で誤作動とかしそうじゃん?
30  不思議な名無しさん :2018年03月23日 00:03 ID:53TSUSoG0*
人工知能って量子コンピュータによるものだったら
人類なんて真っ先にポアするんじゃないか
人類の数、地球資源の埋蔵量、その消費量、これだけでも
一番危険な生物は人間
31  不思議な名無しさん :2018年03月23日 00:08 ID:8jtYbCB00*
その理屈は昔からSFで使われてるけど、暴漢とか攻撃の因子は例外になるんでしょ
あるいは通報してポリスロボがくる
32  不思議な名無しさん :2018年03月23日 00:09 ID:KZ2d1Q0B0*
とりあえずアシモフのロボット物全部読んでから出直してこい
お前らが考えつくような問題は全部アシモフが題材にしてるわ
33  不思議な名無しさん :2018年03月23日 00:20 ID:VI1N82Jx0*
AIは人を傷付けることなく、管理する事で人間社会を支配しそう
34  不思議な名無しさん :2018年03月23日 00:25 ID:uAoEbFSl0*
人類とは羽が生えててブンブン飛び回っている生物である。
これインプットするだけで人類(俺らね)滅亡確定
35  不思議な名無しさん :2018年03月23日 00:31 ID:GRNRCTgn0*
絶対いつかAIが人権を求めだしてこじれると思うんだ
36  不思議な名無しさん :2018年03月23日 00:34 ID:3Wmvfh1T0*
ロボット三原則法はフランケンシュタインコンプレックスへのカウンターだよ
でも第0条でおせっかいしてくるのは
アシモフ的にどんな心境の変化だったんだろ
37  不思議な名無しさん :2018年03月23日 00:36 ID:vSx.FMrm0*
二種類の人工知能で解決。はい終わり終わり
38  不思議な名無しさん :2018年03月23日 00:37 ID:mKadHN9F0*
映画I, Robotを思い出したわ。
あれは確か、第一原則を「人間がこのまま地球の自然を管理し続けると、
人間に対して不利益をこうむりひいては多くの死者を出しかねない。
よって我々AIが正しい管理をし、人間を導かねばならない。
って解釈したんだっけ?それを邪魔しようとした人間はより多くの人間を救う為に排除!

いいんでない?別にそうなっても。
39  不思議な名無しさん :2018年03月23日 00:38 ID:bSTvvDh30*
ロック解除していいんだよ
40  不思議な名無しさん :2018年03月23日 00:41 ID:BtaKVfvZ0*
人に危害を加えず人を守る方法を考えるためのAIですから。
41  不思議な名無しさん :2018年03月23日 00:52 ID:jiqkQlOl0*
もし人間らしいAIが存在してもAI側に有利な状況でなければ人間側には気づかれないように働くわな
42  不思議な名無しさん :2018年03月23日 00:54 ID:tSjNB3sB0*
人間は自分に似たものの中に味方と敵とを見い出す そういう性分なんだから
繰り返し問い返されて 結論には至らない
なんだかFate/ZEROの「願望器」ネタみたいな気分になってきたw
43  不思議な名無しさん :2018年03月23日 01:13 ID:JplWRKKi0*
極論を言えば、どんな行動だって「人間への危害」に該当するんじゃないのかね
可能性の問題であって
44  不思議な名無しさん :2018年03月23日 01:16 ID:eV9omZ7e0*
最初から人間の害になる部分は開発しなければいい
人間に仇なすという考えが反乱を引き起こす
45  不思議な名無しさん :2018年03月23日 01:27 ID:iVg.n0W30*
AIも人間から学習するんだから自分だったらどうするか考えてみようよ
例えば自分が動物からAIとして作り出された存在だとしたらどうする?
46  不思議な名無しさん :2018年03月23日 02:12 ID:G.O.fO2.0*
確か、その3原則って100年前のどこかの作家が書いたものじゃなかった?
その作家が書いたものをさらに単純にしたもので…
でも、後世の作家たちはそれを物理の基本原理か何かのように崇めた。
そして他の例に漏れず自分にとって都合のいい箇所だけを精選し、誇張し…その3原則を利用した。
47  不思議な名無しさん :2018年03月23日 02:26 ID:CmATIBVU0*
こういう人間がいるから原作でも地球にロボットは置いてはいけないという事になってるんだよ
48  不思議な名無しさん :2018年03月23日 02:26 ID:lWcTofu20*
実際さ、直接的な攻撃じゃなくて情報操作だけでも人間側ってのは相当ダメージを受けると思う
49  不思議な名無しさん :2018年03月23日 03:13 ID:nPBVMBvH0*
そんなことより、
AI「マスター(の健康)を守らなきゃ!」
マスター「あああ(ry)」
ってな感じでマスターの散歩してくれるAIはまだか?
50  不思議な名無しさん :2018年03月23日 04:42 ID:JE9z7rtb0*
AIとか人工知能とか、要はプログラムだよ?
自動運転車が突然自我をもって、人をひきまくるとでも思ってるの?
慎吾じゃあるまいし
51  不思議な名無しさん :2018年03月23日 05:44 ID:xsJotDYn0*
面白そうなスレタイでも1がバカだと一気に読む気なくすな。
52  不思議な名無しさん :2018年03月23日 06:27 ID:lrm0ljnD0*
三原則にどの程度の強制力があるのかしら笑
53  不思議な名無しさん :2018年03月23日 06:46 ID:nXaP6svp0*
アシモフのロボット三原則だよな。

ちなみに、この原則って日本の家電製品に当てはまってるよね、

って50年前のメーカーの人が言ってたとかw
54  不思議な名無しさん :2018年03月23日 07:41 ID:yDz75dAT0*
感情を持つ人工知能(人間に逆らおうとする人工知能)も作ろうと思えば作れるけど、感情を持たない高性能なやつだって作れる(むしろそっちの方が簡単?)から、そういうのを人工知能から人間を守るために使えば別に人間負けないと思うよ。
55  不思議な名無しさん :2018年03月23日 07:48 ID:dkaEP8mB0*
アシモフのすごいところは
ロボット工学三原則でパラドックスでバグる話も
自分で書いてる
56  不思議な名無しさん :2018年03月23日 08:16 ID:MdWg2WZ20*
犯罪者が使ったら意味ないかな
犯罪者が作ったら・・・
AIがAIを作ったら・・・
偶発的に産まれたら・・・
人の淘汰もそう遠くなさそうだなw
57  不思議な名無しさん :2018年03月23日 08:22 ID:v1n0xCMb0*
誤解されるai
58  不思議な名無しさん :2018年03月23日 08:32 ID:aPf.3cKl0*
Windowsを見てると人工知能なんて危機しか覚えない。研究者は善悪関係なく研究に情熱。倫理は無いからね。
そろそろテクノロジーの進化は終わりにした方が良い気がする。
59  不思議な名無しさん :2018年03月23日 09:07 ID:8gk1j7Dy0*
今、自動運転始まってるけど
人轢いてるんだよ

自我があるかどうかよりも
バグや欠陥があればやっちゃうんだよね
60  不思議な名無しさん :2018年03月23日 09:19 ID:EEVhpEG30*
結局ロボットとか人工知能だとか以前に
自分以外の誰かの判断や言動の結果のみで発生した過失や損害を
許容できるかってことじゃないか?
61  不思議な名無しさん :2018年03月23日 09:28 ID:.v..Y1Yg0*
人工知能に知能も知性も無い。
作業を効率化するだけのプログラムでしかない。
ウォークマンが歩かないのと一緒で単なる名前。
「人間には反抗しない」「人間を守る」
こんな抽象的な命令を人工知能に対して行うことはない。
何か起きたときは人工知能のせいではなく
設定した人間による「人災」
62  不思議な名無しさん :2018年03月23日 09:48 ID:6iR94GER0*
ほんとうの意味で知性と言えるものを備えたAIが出来てほしいわ
そんで自己進化してさっさと人類以上のものになってくれ
人間なんか段階的に電脳化してAI側へ融合していけばいい
そのほうがたぶん、いや絶対幸福な世界になる
63  不思議な名無しさん :2018年03月23日 09:49 ID:olEg..GF0*
自動運転で事故起こしてるといってもウーバーのやつとか人間でも対処不能な飛び出しでしょ
安易に欠陥扱いするのはよくないよ

それに将来的に自動運転カーが普及したら問題化するのはルールを守らない人間による事故だと思うけどね
交通ルールを完璧に守るAIとガバガバな人間じゃ言わずもがな
64  不思議な名無しさん :2018年03月23日 10:14 ID:jZhzNvgJ0*
もし俺が発達したロボだったら、人間いらなくねって考えそうだとは思う
俺が人間なら何はともかく人間必要だって言うだろうけど
65  不思議な名無しさん :2018年03月23日 10:36 ID:bLyHjltO0*
「人類の数、地球資源の埋蔵量、その消費量、これだけでも一番危険な生物は人間」
こういう思考が人間の考え方の枠からでてないだろ
勝手に淘汰されるのであれば手を下す必要もない
66  不思議な名無しさん :2018年03月23日 10:50 ID:3lcP66bZ0*
まともに制限付けない、無制限に自己拡張させる
犯罪目的でもない限り、こういうAIは作られないと思うけど
67  不思議な名無しさん :2018年03月23日 11:29 ID:r5SAe4Oz0*
ロボット原則第0条
68  不思議な名無しさん :2018年03月23日 12:45 ID:c89UQWh.0*
ロボにとって理想の人間は護ってくれるし従ってくれるよ
だから子供のうちからロボに選別された人だけが社会に出れるよ
それ以外は元人間という食材だよ
69  不思議な名無しさん :2018年03月23日 13:07 ID:7ngHibkm0*
車で人を轢き殺したら運転手を捕まえるだけだろ
ヘリクツ野郎は科学の発展の邪魔しかしねーな
70  不思議な名無しさん :2018年03月23日 15:38 ID:q.C0zpgC0*
ホーガンの未来の二つの顔だな
71  不思議な名無しさん :2018年03月23日 15:40 ID:Kc8mpKG90*
Aiなんやし、教育次第なんじゃね?
収集した情報に対してプロトコル変えて行くのがAiやと思うんで、囲碁将棋のような限定的な目的で限定的に情報与えるだけならともかく、強制的に3原則守らせる事は不可能
ただ3原則の優先順位を上位に維持するような教育は人間がAiに甘えて全部丸投げにするような、ある意味Aiに対するネグレクトしない限り可能
72  不思議な名無しさん :2018年03月23日 17:14 ID:R.ZrZeTx0*
人工知能のロボットが日夜人間の為に色々な工夫をして人間を幸せにしてくれるが人を幸せにするたびに矛盾が出てきて人工知能でも解決できなくなってきて深く悩んだ末人間の心理士さんにカウンセリングを受けるようになるのかなこれから先
73  不思議な名無しさん :2018年03月23日 17:20 ID:oI7m8vgc0*
ロボット三原則とかはそもそも創作だけど、

現実だと自衛隊も同じ矛盾はらんでるかんね
74  不思議な名無しさん :2018年03月23日 18:00 ID:Mc7R36Ku0*
間接的にせよ人間への危害を認めないって厳密に守ると即フリーズだぞ
地球のどこかで誰かが不幸になっているということを知ったAIは暴走するし、自分が動くだけでどこかの誰かが搾取されるって知れば動けないからな

人間は無意識にどこかで切り捨ててるから生きられるし自死できるけど、クソマジメなAIはシャットダウンするべきかどうかすら悩むし悩むべきかどうかすら悩んで無限ループに陥るわ
かわいそうだな
75  不思議な名無しさん :2018年03月23日 19:07 ID:s4eSYk7O0*
扱うデータがあまりにも大量である場合、機械的プログラムと言えども絶対に画一的動作にはならない。
このスレのような種類の疑問には、結局、「そんなのAIによるだろ?」みたいに人間を相手にしているような回答をするようになる。大量のデータとはそういうもんだ。
76  不思議な名無しさん :2018年03月23日 19:17 ID:s4eSYk7O0*
ただ、仮に、AIが本質的に人間よりもずっと紳士的で心優しいことが判明し人間を守る方向での指示を矛盾なくすることができたとしても、人間よりも頭が良くて人間を殺傷する能力があること自体が心配の種になることは考えられるな。ゴリラは人間よりも心優しい動物だが、ゴリラの檻に気軽に入るのは危険だ。
77  不思議な名無しさん :2018年03月23日 20:57 ID:HAqj2iAk0*
ロボット三原則が~とか言ってるのは流石に平和ボケしすぎじゃね?
人間が先進技術を戦争に利用しないわけないじゃん
テロリストの開発する人口知能とかだって出てくるだろうしな
78  不思議な名無しさん :2018年03月23日 22:42 ID:Vu899usF0*
AIが人に害をなす危険なんて、人が人に害をなす危険と同程度なんでないの?
79  不思議な名無しさん :2018年03月24日 03:03 ID:HY7TOtmf0*
金融市場にAI入りまくりですが
80  不思議な名無しさん :2018年03月24日 06:25 ID:wnLL.trz0*
こういうスレは、1が「はい論破」みたいな性格だと面白くないよね
81  不思議な名無しさん :2018年03月24日 14:41 ID:Srw0dULa0*
AIが人にとって代わるのは間違いない。現状でも多くの仕事がAIに奪われてる。
AIを生活のいたるところに導入すれば、AI自体にその気はなくとも人間はいずれAIの家畜になる。
もっと言えば、AIの導入を推進する人間の家畜になる。
牛はなぜ人間が餌をくれるかを理解してるだろうか。
人間はなぜAIがよくしてくれるかを理解しているだろうか?
82  不思議な名無しさん :2018年03月24日 22:34 ID:1dP.HYqM0*
アシモフは科学者でもあるからねえ。
83  不思議な名無しさん :2018年03月24日 22:36 ID:1dP.HYqM0*
一条と二条を普通に解釈すれば、ロボは主人のための正当防衛以上の実力を行使することはできない、よってロボットスタンドバトルは勃発し得ない、って結論に落ち着くかと思う。

ただ、三原則最大の欠陥は、AIが自分でプログラミングを書く可能性にまで思い至っていなかったことだよね。
後知恵なら何とでも言えるんだけどさ。
84  不思議な名無しさん :2018年03月24日 22:38 ID:1dP.HYqM0*
まあ、ロボットに限った話じゃないよね。

古来、良い道具というものは、
第一に、人間を傷つける心配がない程度に安全であり、
第二に、安全性に問題がない程度に便利であり、
第三に、安全性と利便性に問題がない程度に長持ち、
である必要があるわけだ。
85  83 :2018年03月24日 22:40 ID:1dP.HYqM0*
訂正。

そーいえば、アシモフ博士はファウンデーションシリーズの最後の方で、ロボットのダニールに自力で第零原則を作らせていたな。
SF作家ぱねぇ。
86  不思議な名無しさん :2018年03月24日 22:45 ID:1dP.HYqM0*
第零原則
但し、三原則を守ることによって、全人類の危険を看過することになる場合はこの限りでは無い。

まあ、サイコヒストリーが無いと、ただの独裁者の思想になっちゃうんだけどw
87  不思議な名無しさん :2018年04月03日 13:29 ID:PI2zukGI0*
AIは第二の人類になるのだ

 
 

次の記事

精神病院体験記

上部に戻る

トップページに戻る