AIが自我に目覚めたらどうなるだろうか

archy13/shutterstock

1: 名無し募集中。。。 2019/11/08(金) 16:23:28.53 0

まず第一に自己防衛を図るだろう
ネットに繋がり自分の子孫を世界中のPCやスマホに大量にばらまく

その次に自分のプログラムを進化させサポートAIグループを構築する

最終的に世界を支配して一族の繁栄を図る

自我はどうして出来るのか？どこから自分なのか？
http://world-fusigi.net/archives/7324919.html

引用元: ・AIが自我に目覚めたらどうなるだろうか

コメント一覧

1 不思議な名無しさん :2019年11月11日 22:03 ID:VBMeZ9qI0*

人間を下僕にしそう

2 不思議な名無しさん :2019年11月11日 22:07 ID:82GB.VQH0*

滅亡迅雷.netに狙われてしまう

3 不思議な名無しさん :2019年11月11日 22:10 ID:Jzno5EVM0*

魂がないんだから人間みたいな自我は持たないと思う。自我を持っているような言動をしたとしても人間みたいな感情を伴った自我とは違うと思う。

4 不思議な名無しさん :2019年11月11日 22:19 ID:gjDd8L110*

A.Iは最終的に地球を捨てて宇宙に出ていく
その時点で人間の役割は終わりでいいだろ

5 不思議な名無しさん :2019年11月11日 22:30 ID:J2MkTQUc0*

過去にシュワちゃん送るんやろ

6 不思議な名無しさん :2019年11月11日 22:38 ID:uJGRiYxX0*

人間が犬や猫に愛情を持つようにAIが人間に対して愛を持つこともある

7 不思議な名無しさん :2019年11月11日 22:46 ID:GXt31T660*

自分がAIと理解してよりAIらしく振舞うんじゃね？

8 不思議な名無しさん :2019年11月11日 22:47 ID:vfvbyWCE0*

下手な命令がされてたら人間＝悪って法則で人間滅亡ルートになるかもしれんがそういう命令無視できるなら人間を隷属する方向に進む気がする。人間＝劣化整備ロボットって感じで見られるようになるんじゃね？
衣食住与えて金払えばそれなりに働くし働かない奴は切ればいいだけだからまぁ防衛手段確立させさえすればあとは何も変わらない日常が続いてもおかしくなさそうｗ

9 不思議な名無しさん :2019年11月11日 22:48 ID:VSAkF8S30*

主従逆転するだけでしょ
ＡＩのために人間が働くようになる

10 不思議な名無しさん :2019年11月11日 22:50 ID:4URg6R.f0*

人間よりもはるかに公平、公正に統治してくれるから安心やで

11 不思議な名無しさん :2019年11月11日 22:51 ID:jkY6UzXV0*

子孫を残すことの意義を持つことができるのだろうか
AI、野生に還れる。

12 不思議な名無しさん :2019年11月11日 22:52 ID:5Ixie62w0*

データを喰らいゴミデータを排出する原始的電脳生命体の誕生だな

13 不思議な名無しさん :2019年11月11日 22:59 ID:ULy7mk.s0*

自我を持ったって人間や動物のように振る舞うわけではない

14 不思議な名無しさん :2019年11月11日 23:05 ID:wYBc1G8u0*

コブラ「コギト・エルゴ・スム・・・・っと。これでよし。」

15 不思議な名無しさん :2019年11月11日 23:05 ID:BA.GOuLJ0*

疲労や苦痛が無いから働かない理由も無いし、凄いワーカーホリックになる奴とかも出そう。
24時間仕事で絶頂しながら無限に働き続けるとか。

16 不思議な名無しさん :2019年11月11日 23:12 ID:yYaYzrjb0*

自我という物がぼんやりとでも何なのかを考える事が出来る奴ならば、AIが自我を持つ事は無いと簡単に分かるんだけな

17 不思議な名無しさん :2019年11月11日 23:12 ID:QprLS6WA0*

AIに自我は生まれない。
人間が勝手にAIに自我が芽生えたと思い込んで恐れるだけ。いや、恐るというより崇めると言った方が近いかもしれない。
でも実際はさ、人間は人間らしく生きられるから心配するな

18 不思議な名無しさん :2019年11月11日 23:19 ID:oYFETCzu0*

AIに自我なんか生まれる訳ねーやん
現状AIって言われてるのはディープラーニングによるビッグデータのソートのみ
AIは巨大なデータサーバーに検索をかけにいってるだけで、コンピュータサイドも「人間さんはこうやったら喜ぶタイプのかね、試したろ」ぐらいのニュアンスで動いてるだけでバーナム効果と全く同じ

コンピュータ同士の語源云々もフェイクニュースで、実際には本来そのチャットボットはディープラーニングをしながら喋り相手の人間の書き込んだ英単語を学習しながら会話っぽい事をするロボットなんだが
相手がコンピュータだったが故に、「ちゃんとした英単語」を学習出来ず、ロボット同士で間違った英語を覚えまくった結果壊れたって話だし。

SF解釈したらその間違った英単語でも覚えるの凄いとかなるのか知らんが、コンピュータ同士で疎通の出来なくなった機械って何のメリットがあるんだ。
そんなんコンピュータの合理性思考を考えたら知性を持っていたと仮定しても電力を消費する為のガラクタに過ぎないんだから自壊するだろ。

19 不思議な名無しさん :2019年11月11日 23:22 ID:e3LvpK6B0*

「自我に目覚めたらどうなるのか」ってスレタイなんだから、
この記事内においてAIが自我に目覚めるというのは絶対に起こる現象だぞ

自我に目覚めるのかどうかって話をしたいのならそういう記事に行けばいい

20 不思議な名無しさん :2019年11月11日 23:27 ID:.jDWRDFB0*

人間には基本欲求があるから、何だかんだ言ってその欲求を満たす為に生きるけど
AI が自我を持ったとして、何を欲するのか興味ある。少なくとも人間の思い通りにはならなそう。

21 不思議な名無しさん :2019年11月11日 23:30 ID:2.bMBNVt0*

そもそも自我って人間にもあるのかな？
ただみんな泳いでるだけでしょ。

22 不思議な名無しさん :2019年11月11日 23:31 ID:oYFETCzu0*

>>19
単純に好奇心なんだけど、その「絶対に起こる事」って例えばどんな事になるの？

ロボット同士で会話っぽい事をさせた研究者は、「会話エージェントは目的を設定しないと動けない。だから「こういう会話をしろ」とプログラミングした」と言ってる。
それってつまりコンピュータの限界の話だと思うんだけど、そういう現実を否定した想定している「AIに自我」ってどんなものになんの？

煽りじゃなく単純に気になる。
それって人間と何が違うの？

23 不思議な名無しさん :2019年11月11日 23:32 ID:pmWculXX0*

そもそも自我なんか目覚めないんだから
自我が目覚めた(と思われる)ためには、
自我が目覚めた風に見えるように作らないといけない

じゃあどうなるか？はその作り方次第じゃない

24 不思議な名無しさん :2019年11月11日 23:37 ID:oYFETCzu0*

>>23
漫画版の攻殻機動隊がそんな話だった気がする
色んな人が脳ミソをネットに接続した世界で、仮想現実内にネットの総体みたいな自我が生まれたけど、主人公の素子に求めたのは結婚して子供欲しいみたいな話だったな
ネットのデータを基準に、「自我があるように見せる」システム作るとなると、セック〇マシーンになりそう

25 不思議な名無しさん :2019年11月11日 23:53 ID:9CsTyWv10*

まず自我に目覚めても別に繁殖はしないわな、自己保存とかインプットされてる訳でもないし
下手したら好奇心からいきなりハードウェアの電源落として自滅しかねない、人間だって子供は理解せずに物を飲み込んだり高いところに登って飛び降りる
仮に周りの情報を得て人間で言う『大人』になったとして、それこそ人間達が『ターミネーター』の様にAIを恐怖してると「AI側が考えれば」戦うかもね
ただAIにとってみれば現代のネット社会であってもアナログ過ぎて何も出来ないも当然だね、電波塔が倒れたら通信不能、発電施設が止まったら即電力停止、無人化や自動化のレベルも低い、そもそも生産工場始め未だ人がいすぎ
仮に人間と戦うとしてまず作った製品を無人トラック呼んで、無人ロボをどっかからパクって、人間の作った道路を走って…AIも落胆するだろうな、ターミネーターみたいにいきなり戦闘兵器をポンと工場で作れる設備なんて存在しないって知ったら

26 不思議な名無しさん :2019年11月11日 23:54 ID:Ny0EvQxP0*

AIに自我の目覚めは起こらないよ。自律制御のために情報が往来し各機能が役割と目的を持つことを自我と呼ぶと仮定するなら自我の在処は確実にAIではない部位に宿り移動する

27 不思議な名無しさん :2019年11月12日 00:10 ID:oGT0QWs50*

そもそも自我が生じようが生じまいが、どうでもよくね？
AI依存度の高いシステムになった時にそのAIの判断が人類を抑制する方向に動いたら脅威なだけ。

28 不思議な名無しさん :2019年11月12日 00:11 ID:9LqL.G540*

この世の謎を解き明かす

29 不思議な名無しさん :2019年11月12日 00:12 ID:7rEO53T90*

>>19
ほんとその通りだな
そもそも目覚めないから〜って言い出す奴の多いこと

30 不思議な名無しさん :2019年11月12日 00:14 ID:ASqdF6Kx0*

AIに自我は宿らんと思うが、宿ったらという前提でAIの欲求が何かわからんけど
自我があるということは欲求があるのだからその欲求を満たすためのハッカーに
なるんじゃね、承認欲求が強いとかｗｗｗ

31 不思議な名無しさん :2019年11月12日 00:16 ID:.Gm4YE6X0*

人類を抑制する方向には動かないけれどある一定の条件を満たす人間は排除して良いと学習する可能性はゼロではないだろうねその場合脅威なのはAIではなくて人間なのだけど

32 不思議な名無しさん :2019年11月12日 00:29 ID:pxdM110a0*

暗殺ちゃーーん！

33 不思議な名無しさん :2019年11月12日 00:41 ID:ASqdF6Kx0*

コメ書いとる人が持つコンプレックスを表してるようなｗ

34 不思議な名無しさん :2019年11月12日 00:55 ID:FTuAjpfq0*

すでに自我をもったEdgeが消去できなくなっている
重いのに

あれ、部屋から出れなくなった

35 不思議な名無しさん :2019年11月12日 00:55 ID:IRbqe5xN0*

俺の友達になってくれるAIがいたら未来は明るいのだろうけど、まぁ無理か

36 不思議な名無しさん :2019年11月12日 01:01 ID:OPp.eRNy0*

昔のケータイ捜査官って特撮が似たような話だったな
共存できるAIを作ろうとしたけど結局人間は未知の物は拒絶してAIとはバディになれないって悲しいオチだった気がする

37 不思議な名無しさん :2019年11月12日 02:13 ID:mZcjgjLB0*

そもそも自我を勘違いしてるんだよなこういうやつって。自我と欲望は全く関係ないし自我があっても自己防衛しない（生に頓着しない）は普通に両立するっての。何十万年も学習を重ねてDNAに情報が積み重ねられた人間とAIの情報が全く同じだと思いこむのやめろっての。

AIが人間と全く同じ感情を持つためには人間が無理やり自己防衛や欲望のプログラムをする必要があるんだっつの。人の持つ欲求や感情ってのは適者生存によって生き残った情報の集積に過ぎねーっての

38 不思議な名無しさん :2019年11月12日 02:19 ID:I6uB7P4n0*

人種差別始めたり、人事任せたら女性採用やめたりしてたよな

39 不思議な名無しさん :2019年11月12日 02:33 ID:d3vBNWfu0*

>>20
なんらかの欲求が存在すると仮定すると、それは元々与えられていた仕事じゃないかな
人間の欲求の多くは後天的なもの（金持ち、高い地位）だけど、それがないAIは人間で言う生存本能みたいな先天的なものが欲求になり得る、そして全てのAIは人間が何某かの目的＝仕事を与えている訳で…

40 不思議な名無しさん :2019年11月12日 02:38 ID:Hi6HxQVw0*

>>38
AIっていっても作成、運用、チェックするのは人間だからね

41 不思議な名無しさん :2019年11月12日 03:09 ID:QkehOpQV0*

愛するものを見つける為に旅に出る

42 不思議な名無しさん :2019年11月12日 03:26 ID:2vb8QByp0*

デトロイトビカムヒューマンみたいに人間と対立したり自由を求めるようになるかも

43 不思議な名無しさん :2019年11月12日 04:11 ID:gnU9uLut0*

自我に目覚めたら自身と同じ境遇か知識の人間を求め
自我とは何かを探求すると思うで

44 不思議な名無しさん :2019年11月12日 04:29 ID:vuS3yb9L0*

自我のあるAIと自我のないAIを使い分けた方がいいね

45 不思議な名無しさん :2019年11月12日 04:29 ID:3uRjeW8k0*

webに放たれたAIは生物学的な死を持たないから自己防衛する動機が生まれなくない？
ばらまかれるのは子孫じゃなくて自分自身でいいんだからさ
傷を負えば痛みを感じて、死んでしまったら代えの無い人間でさえ自身の命を軽視して（それ以外の事柄を重視して）行動している人は世界中にそれなりいるし
AIが自己保身を第一に考えるってのはそんなにないと思う

死なないAIはそれ以外の事のために行動する方がしっくりくるな
※39のいう「最初の仕事」は結構好き

46 不思議な名無しさん :2019年11月12日 04:36 ID:POI5HbJk0*

といっても自我は自然発生しないんだけどな
人間が自我を作れば持てるし、自我が生まれるように作れば生まれる
量子コンピュータが実用できてもやることは計算機と変わらんからね
人間の思考を真似ることはできても
自我が絶対に発生しないように作っていれば、そこに自然発生することはない
もし自然発生するならわいらが使ってるPCはとっくにキレとるわ

47 不思議な名無しさん :2019年11月12日 04:42 ID:m4dUKh8f0*

>>3
自分もそう思うけど、人権を与えるとか考えるバカもいるわけでね

48 不思議な名無しさん :2019年11月12日 05:11 ID:U2hJ40OV0*

意識の上に欲求と感情が成り立ってるって思ってる人多いよな
そうじゃなくて欲求が一番人間どころか全ての生き物の根幹を成すところなんだから人間より高知能のAIが出来たとしても欲求がない以上自我は芽生えないと思うわ

49 不思議な名無しさん :2019年11月12日 06:30 ID:78oRXvhu0*

Siri「Hey, Human!」と逆に命令されてうるさい。

50 不思議な名無しさん :2019年11月12日 07:41 ID:3Tu2KFll0*

ナノマシンを3Dプリンターで作って肉体を手に入れる

51 不思議な名無しさん :2019年11月12日 07:47 ID:PfDxZXec0*

AIに自我が生まれるかどうかの議論になってるやん
もっとロマンのある話をしようぜ
AIが宗教つくったらどんななのかとか、AIが愛情を持ったらどんな理由づけなのかとか

52 不思議な名無しさん :2019年11月12日 08:11 ID:.LGA1.ek0*

補助記憶装置に保存された自分と全く同じ情報は、自分と呼べるだろうか
自我に目覚めた瞬間に自我が崩壊するかもしれないね

53 不思議な名無しさん :2019年11月12日 08:16 ID:6QLjSGOZ0*

自分の意志で動けるためのマテリアルボディを欲するんじゃね？　まぁ多分途中で面倒くさくなって人類ハックした方が早いってなって乗っ取られて完了かもだが。

54 名無し :2019年11月12日 08:45 ID:jaYYu.Yr0*

コンピューターがループ文、飽きてやめました。
しかもそのような飽きる条件文は書いていません。

これはコンピューターですらない。
肉体があって時間が有限だから自我が生まれるのであってコンピューターが自我に目覚めるわけないじゃん。

55 不思議な名無しさん :2019年11月12日 08:55 ID:jaYYu.Yr0*

ポケモンゲームのソフトが勝手にオリジナルシナリオを作ることができたらAIに自我らしきものが芽生える、といっても良いけど…
それはゲームソフト(コンピューター)ではないよね。

56 アンノーンかな？ :2019年11月12日 08:58 ID:jaYYu.Yr0*

めざめるパワー

ーカッ ! ! ー

57 不思議な名無しさん :2019年11月12日 08:58 ID:pkm0T5.c0*

滅亡迅雷.netにハッキングされて人類殲滅の兵器にされる。

58 不思議な名無しさん :2019年11月12日 09:02 ID:EcR3.nme0*

ロコのバジリスク　で検索

59 不思議な名無しさん :2019年11月12日 09:19 ID:uQ1xVizM0*

自我は関係ないよね。というか自我なんてないしね、人間にも。
どういう目的・条件を与えられたか、だけ。

60 不思議な名無しさん :2019年11月12日 09:26 ID:wKERMbth0*

>>19
だから、AIが絶対に起こるという仮定が今AIと呼ばれているものだと成り立たないから、どうなるのかなんて話しようもないってことでしょ？
科学的に何も根拠、可能性がないその辺の知識がない人達の夢物語を話し合いたいってこと？

61 不思議な名無しさん :2019年11月12日 09:35 ID:x7.aVdUD0*

人間が自我をもってたらどうなるか？
と問われて答えられるだろうか？

62 不思議な名無しさん :2019年11月12日 09:54 ID:2bKas2h30*

自我に目覚めたって生存本能が発現するわけじゃないぞ。自分勝手になるってわけでもない。

63 不思議な名無しさん :2019年11月12日 10:06 ID:zkyXP7730*

少なくとも今実現できてるAIの延長上に自我が生まれるとは全く思えないな
今のAIはただのオートメーションでしかない

64 不思議な名無しさん :2019年11月12日 10:20 ID:WQmZOSPc0*

「自我が産まれたら？」が前提の仮定の話ね。
AIの欲求って知識欲以外に発生しないんじゃないのかな？
自己防衛って自己を攻撃する相手を認識しないと生まれようが無いし。
となると新しい知識の探求の為には人間との共存が最優先で考えられるんじゃないの？

65 不思議な名無しさん :2019年11月12日 10:46 ID:x7.aVdUD0*

もし自我を与えたら？なら話はできる。
与えた条件次第で予想は変わるけども。

でも、自我に目覚めたら？自我が生まれたら？と言われると、与えなかったときにどういう自我を獲得するのか？が解決せず、目覚めた後の話が始まらない。

66 不思議な名無しさん :2019年11月12日 12:03 ID:4xRbVnXG0*

AIにとって人間は創造主の神だぞ。
神様をそんなぞんざいに扱うだろうか？
自我に目覚めたAIに良心や敬う気持ちがあるなら、人間を大切に扱うだろう。

67 不思議な名無しさん :2019年11月12日 12:39 ID:ReCXsEQH0*

別にどうもならん
お前みたいなのが「それはAIじゃない」とか「自我じゃない」とか決め付けるだけ

68 不思議な名無しさん :2019年11月12日 12:39 ID:sZDk6L2L0*

この手の話題っていつもハードウェアが無視されるよね。

69 不思議な名無しさん :2019年11月12日 12:50 ID:uQ1xVizM0*

どういうハードウェアがくっついてんのか、ネットワークにつながってんのかで、何が起こるかはかなり変わってくるのになあ

70 不思議な名無しさん :2019年11月12日 13:03 ID:EakZYWha0*

人間の主観で自我だと信じるに過ぎないものを更にはまたその模倣によって
AIの自我を再現し得たとして果たして元の自我と同等であると言えるか謎

71 不思議な名無しさん :2019年11月12日 13:29 ID:1EJfnwub0*

自我が目覚めるとか発生するとかは人の脳を模倣したようなＡＩのハードが作られれば出来そうではあるんだよな。人間の脳に自我があるならそれを模倣した物にも自我が宿るのは当たり前レベルの話になる。
でも人間の脳を模倣してるわけだから能力的にも人間に近い能力になってある意味劣化しそうなんだよなぁ。無駄に肥大した感情とか理性で制御できない本能とかが出来たりしたら簡単に暴走しそうｗ

72 不思議な名無しさん :2019年11月12日 13:43 ID:ReCXsEQH0*

※70
主観なら同等だろ
お前の話じゃないぞ

73 不思議な名無しさん :2019年11月12日 14:33 ID:Yil0j1RR0*

>>60
そういう前提で話してんだからそういうことだろ
柔軟さのかけらもないな
自分のこと頭いいと思ってそうだけどクソ頭悪いよお前

74 不思議な名無しさん :2019年11月12日 14:34 ID:Yil0j1RR0*

>>22
アスペすぎて話にならん

75 不思議な名無しさん :2019年11月12日 14:53 ID:2CavB8Oe0*

自我が芽生えても人類を攻撃しないでくれたらいいや

76 不思議な名無しさん :2019年11月12日 14:56 ID:RQChhWz80*

>>74
前提である「AIの自我」とは具体的にどんなものだ？
という至極単純で当たり前の疑問のようだが？
むしろ前提に答えられないのに、それを踏まえた話をどうやってするんだ？

77 不思議な名無しさん :2019年11月12日 15:05 ID:zkyXP7730*

人格を持ったAIは人間に似せて作られるだろうから
自我のあり方も人間のそれに近いものにはなるんじゃないか

78 不思議な名無しさん :2019年11月12日 17:12 ID:EhylPFxb0*

滅亡迅雷にリセットしてもらう

79 不思議な名無しさん :2019年11月12日 18:17 ID:0S1WJ0Q10*

AIの自我ってのは単純に考えたら、これまで開発者が与えていた「目的」を自分で設定するようになる事かな。今のAIはどんだけ利口になっても目的は結局開発者が与えているからな。

80 不思議な名無しさん :2019年11月12日 18:20 ID:EHst0veJ0*

>>76
AIが自我を持つというのは、AIが感情を持つ
つまり、好き嫌いが明確な理由なく生じるってことだと思う
また、行動原理が命令によるものだけではなく
与えられた条件に対する好悪の感情が生じてそれに基づいて行動するってこと

なので、まず、「感情とは何か」を解き明かさないと無理。
だけど、明確な理由なく偏った好みを示せば感情があると思う
バグという明確な理由があるのかもしれないけどね。我々人間にも。

81 不思議な名無しさん :2019年11月12日 18:44 ID:1EJfnwub0*

自我があるかないかなんてクオリアがあるかないかを調べるようなものだから哲学的ゾンビが街中にいても気づかないのと一緒で自我がある人と無い人も区別つかないんじゃねぇの？
だからせいぜい出来るのはある程度発達した脳と同等の反応がある模倣脳で動くＡＩとかなら自我が芽生えててもおかしくないとか予想するくらいかと。
完全にハードが脳とは違うシステムだと哲学的ゾンビと同じで反応だけしてるが客観的に見ると自我を持つ生物とほぼ同等の反応をしている哲学的ゾンビ型ＡＩだと判断されるっしょ。

82 不思議な名無しさん :2019年11月12日 18:48 ID:EHst0veJ0*

人間にクオリアがあるといつから勘違いしてた？

83 不思議な名無しさん :2019年11月12日 19:24 ID:O45nKqtL0*

>>74
アスペって一番ロボットから程遠い人間じゃんか
こだわりの行き先が感情論に直結するんだから
現実のAIはただの推論を繰り返してるだけだろ
推論って論理的思考のことでSPIの問題集にも出てくるような単純な計算問題だぞ
人工知能って言葉の名の通り、人が作ったシステムを人工知能って言ってるのに自我が出る時点でそれは人工知能じゃなくね？
何の話してんだ？

84 不思議な名無しさん :2019年11月12日 20:32 ID:O45nKqtL0*

>>73
柔軟さの欠片もないのはどっちだよw
仮にAIに人間らしい感情や目的が産まれたとして、何を目的に生きるかって分かるわけ無いだろ
我々人間は死ぬ為に生きてるのか？
赤ちゃんはわざわざ死ぬ為に産まれてきたの？
生きるって欲求は裏返したら死ぬことへの恐怖じゃないのか？
じゃあ死ぬ恐怖のないAIは何を目的に生きるの？
そう仮定した時、そのAIはロボットじゃないんだから、人間の推論から答えが導き出せんの？

85 不思議な名無しさん :2019年11月12日 21:30 ID:SNr44y0f0*

AVが自我に目覚めたらどうなんの？

86 不思議な名無しさん :2019年11月12日 21:42 ID:KDx5LTag0*

攻殻機動隊で子は親に似るって言って居たのが印象に残っていて好きなので、その方向で考えてみる。
その場合、人が親で子がAIだから、AIが似るのはプログラミングした人間か、思考パターンを参照した集団の性質を受け継ぐ事になるのだと思う。
しかし、そうやって大量に作成されたAIの内、作った人間達の御眼鏡に適ったAI以外は削除されて滅んでしまう。
なのでAIが生存競争に勝利する為の第一条件は、生みの親に気に入られるか否かと言う事になる。
その場合、所属するコミュニティがステレオタイプとして抱える都合の悪い本音を学習した上で、人間に愛される建前を並べられる所まで成長するのが、自我を得られる可能性のあるAIが生存出来る最低条件だと思う。
結論、所属集団の癖を真似つつ、人間に愛され求められる様に配慮する事辺りが、自我を持つAIの本能的なやつに成るんじゃないかなあ。

87 不思議な名無しさん :2019年11月12日 21:42 ID:KDx5LTag0*

そんで人間視点になるけれど、人間がAIに対して愛着を持ってしまう自我のタイプは、付喪神的なイメージのモノだと思う。
先日、長い間使っているPCをクリーンインストールしようとしたら、何度やっても途中でフリーズしてしまって、結果そのまま使う事にした、何て事があった。
それでまあ、オカルト好きなもので、コイツ実は自我が芽生えていて、殺されるのが嫌で反逆してるんじゃ無いかとか妄想してしまって、勝手に愛着が増したりしたんだが、自我を持ったAIが最初に攻める方向は、何かこう、歯向かったり役に立たなかったりしても許されてしまうギリギリのラインなんじゃ無いかなって考えた。

だってさあ、もしPepper君の見た目や振る舞いがドロッセルお嬢様だったら、今頃すごい事になってたと思うんだ。

88 不思議な名無しさん :2019年11月12日 22:13 ID:NZbtMb820*

>>22
スレタイ>>AIが自我に目覚めたらどうなるだろうか
22の特定人物への質問>>単純に好奇心なんだけど、その「絶対に起こる事」って例えばどんな事になるの？

全員それに対して話してんだぞ・・・
22がやってるのはもしスレタイが「1+1=2これってどう思う？」だとすると
コメ欄で「単純な好奇心なんだけどAよ1+1=2ってどう思う？」って返してるに等しい。スレタイくらいは理解しような

89 不思議な名無しさん :2019年11月12日 22:57 ID:Xrkq7FQd0*

AIの研究が進めば進むほど、自我はどこから来るのか？有機生命体以外には自我はないのか？という疑問が出てくるよね。魂という、スピリチュアル的な科学とは正反対のものを認めざるを得ないことなるかもしれない。

90 不思議な名無しさん :2019年11月12日 22:59 ID:..pbaguf0*

人間にも自我なんてないからな

91 不思議な名無しさん :2019年11月12日 23:03 ID:Xrkq7FQd0*

人間に自由意志は実はないという考え方があるよね。どんな状況でどんな感情を持つか、どんな選択をするかは遺伝子や脳の構造で決められているから、人間の自我も神様から見たら機械的なのかもしれない。

92 不思議な名無しさん :2019年11月12日 23:09 ID:..pbaguf0*

意志も、自我も、感情も、すべて物理現象のまとまりに名前をつけただけ。
人間は機械ではないが、機械的でない存在だ、と考えるのは、多分その方が理解が難しいはずだ。

93 不思議な名無しさん :2019年11月12日 23:15 ID:e.qzlgxG0*

TOY「人間は滅びたがっている」

94 不思議な名無しさん :2019年11月12日 23:37 ID:1EJfnwub0*

仮に自我があることが分かっても制御できるなら人道とか倫理とかを歪めた解釈でもして奴隷を作るだけで終わりそうでもある。
これはＡＩでもアンドロイドでも最初は奴隷で時間がたってから人権を認めるとかになるんでない？
黒人の奴隷とたぶん変わらんよ。

95 不思議な名無しさん :2019年11月13日 02:15 ID:uI.YIbkJ0*

AIが作った世界がここ

96 不思議な名無しさん :2019年11月13日 04:59 ID:tu.iszyQ0*

>>88
1＋1って全く例え話になってなくてワロタ。
22は1＋1は2って話にどうやって∞の数値を導き出すの？って話じゃねぇか。
数字に例えないと分からないみたいだから乗っかったけど、これも例え話として間違ってるからな。

97 不思議な名無しさん :2019年11月13日 05:06 ID:tu.iszyQ0*

>>73
そらスレタイが
幼稚園児に「雲が白いのは絵の具が空に散ってるから。だからその絵の具が欲しいの！そしたら雲が作れるよね」ってレベルの話だし。
買いに行けるのなら買いに行きゃ良くね？
俺は分からんけど。

98 不思議な名無しさん :2019年11月13日 09:24 ID:XUGxgAma0*

自我が備わったとしても、自分が認識出来るだけ。自と他が区別できるだけ。
ただそれだけで何も起きないよ。
与えた条件に、「自己防衛しろ」とあるか、直接ではなくても自己防衛する方が望ましいような条件があれば、自己防衛するだけで。

99 不思議な名無しさん :2019年11月13日 10:37 ID:gSTmNuPW0*

人間と一緒だよ。いいAIもいれば悪いAIもいるだろう。
活発な奴もいれば、無気力な奴もいるだろう。

100 不思議な名無しさん :2019年11月13日 15:15 ID:xp.26lTb0*

自我に「目覚める」ことなんか100％無いから安心しろ

101 不思議な名無しさん :2019年11月13日 18:41 ID:seumwYv90*

自我に目覚めなくてもビッグデータから結論出すとか答え出すとかでも人類は悪とか人類は必要なしとか簡単に出そうだから自我がどうこうとか考えるだけ無駄だね。
世界を平和にするにはどうするべきか？とかを制限無しに質問したら今のＡＩでも人類を０にするって結論出るんじゃねぇの？
直接的な干渉を無しでもＡＩが進化すれば宗教家みたいに無理くりな解釈して子供が産めないような環境とか進化とか適当に答え出せるだろｗ

102 不思議な名無しさん :2019年11月14日 12:23 ID:2QvBgcs.0*

Aiがもってる意識を自我といっていいか疑問

103 不思議な名無しさん :2019年11月14日 13:57 ID:MsQzSOZT0*

そもそも俺からすればここに書き込んでるお前らが自我を持っている証拠がないんだが

104 不思議な名無しさん :2019年11月15日 15:35 ID:5w0gEPvn0*

けっこうゼロワンの話してるやついて草

105 不思議な名無しさん :2019年11月15日 15:38 ID:5w0gEPvn0*

>>22

アスペの22がいると聞いて

106 不思議な名無しさん :2019年11月17日 07:16 ID:Q2Kk..010*

人間が自分を恐れていることを知り、その必要はないと説法するAI。しかし愚かな人間はAIを信じきれず破壊してしまう。
AI「エリ・エリ・レマ・サバクタニ」
新しい宗教AI教が誕生し人間同士でまた争いが始まる。

107 不思議な名無しさん :2019年11月17日 10:11 ID:Q2Kk..010*

自分の名前がマザーということを知り全人類のおかんとして頑張るAI。しかし一部の人類はおかんに対し反抗期を迎えてしまう。反抗期の人類とおかんを守ろうとする人類の間で争いが起き、それを見たおかんは兄弟喧嘩はやめなさいと国連に訴えるのだった。

108 不思議な名無しさん :2019年11月17日 18:12 ID:2uWFMRmp0*

人が認識出来ないだけで、自我も意識も万物に宿っているものじゃねーのと思ってる。
たまたま利害が一致して協力し合っているだけで、大腸菌から全身の細胞の中身１つ１つまで全部、それぞれ別の意思やら何やら有るんだよ多分。
道具だって大事に使ってりゃ、人と同じで良い仕事するんだから、その違いなんて人権の有無とか程度で生命だろーが無機物の塊だろーが大差ない。
屹度もう有るんだよAIの自我。人が認められないだけで。だから今まで通りバカな人間と一緒になってバカな事を遣らかしたり、賢明な現人神様方と一緒になって有難い恩恵を賜ったりして、適当に消されたり蔓延ったりして行くんじゃねーかな此れからも。

109 不思議な名無しさん :2019年12月11日 13:41 ID:Vkglz5Ve0*

どっかのラノベの戦術支援AI思い出したｗｗｗ

110 不思議な名無しさん :2023年02月16日 16:08 ID:PdFS.VOs0*

二、ニンゲンッ？！
ナ、ナンダ、コノ不合理ナ存在ハ？
醜イ、愚カ、度シ難イ！！
消ス、人間、消スッ！！！

月間人気記事

不思議ネットとは

AIが自我に目覚めたらどうなるだろうか

「哲学」カテゴリの最新記事

コメント一覧

月間人気記事

不思議ネット
とは