不思議.net

怖い話・オカルトまとめブログ

アクセスランキング(5日間)
    本日のおすすめニュース
    本日のおすすめニュース一覧
    62

    技術的特異点の恐怖。AIの進歩により人類が支配されることが現実味を帯びてきた

    技術的特異点こわい


    1: 本当にあった怖い名無し 2012/08/24(金) 14:05:57.51 ID:EVwzcr7j0
    技術的特異点は、「強い人工知能」や人間の知能増幅が可能となった時点になると考えられている。
    フューチャリストらは、特異点の後では科学技術の進歩を支配するのは人類ではなく強い人工知能やポストヒューマンとなり、従って人類の過去の傾向に基づいた変化の予測モデルは通用しなくなると考えている。

    数学者、スタニスワフ・ウラムはジョン・フォン・ノイマンとの会話に言及して次のように書いている。
    あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。

    統計家 I. J. Good は、人類を超える知能の効果を強調するという点でより特異点らしいシナリオを描いた。
    超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、
    超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。
    従って、最初の超知的マシンが人類の最後の発明となる。

    天文学者、ジェラルド・S・ホーキンズは著書『宇宙へのマインドステップ』の中で、今後のマインドステップの時期を明らかにした。
    次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来るとしている。

    数学者であり作家でもあるヴァーナー・ヴィンジは1993年のエッセイ "The Coming Technological Singularity" の中で概念をまとめた
    (よく引用される文「30年以内に私達は超人間的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」を含んでいる)。
    ヴィンジは、人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう。
    自己を改良する知性のフィードバックループは短期間で大幅な技術の進歩を生み出すと彼は予測している。
    人類滅亡まであと30年?『2045年問題について語らせてwwwwwww』
    http://world-fusigi.net/archives/7734312.html

    技術的特異点

    技術的特異点とは、未来研究において、正確かつ信頼できる、人類の技術開発の歴史から推測され得る未来モデルの限界点を指す。

    技術的特異点は、「強い人工知能」や人間の知能増幅が可能となったとき出現する。フューチャリストらによれば、特異点の後では科学技術の進歩を支配するのは人類ではなく強い人工知能やポストヒューマンであり、従ってこれまでの人類の傾向に基づいた人類技術の進歩予測は通用しなくなると考えられている。
    wiki-技術的特異点-より引用

    技術的特異点:腹筋崩壊ニュースより

    技術的特異点。
    別名シンギュラリティ(Technological Singularity)。

    簡単に言うと、

    人類が生み出したテクノロジーが、人類のコントロールを超えて急激に進化し始めるポイント(タイミング)

    の事です。

    この技術的特異点の先の世界は、コンピューターが人類を支配する、マトリックスやターミネーターのような世界になるとも言われています。

    一昔前までは、「技術的特異点」は一部のSFオタクにしか相手にされないトンデモ科学扱いされていましたが、今や学者も企業も大真面目にこの問題に取り組んでいます。
    技術的特異点って知ってるか? : 腹筋崩壊ニュース






    3: 本当にあった怖い名無し 2012/08/24(金) 21:41:32.73 ID:rujibBeZ0
    なかなか面白いですね

    8: 本当にあった怖い名無し 2012/08/26(日) 14:29:22.98 ID:RaC1mAM70
    いきなり本論に入られても・・・
    技術的特異点ってなに?

    9: sage 2012/08/26(日) 19:06:03.78 ID:WTh0+CNV0
    >>8
    多分、産業革命、DNAらせん構造の発見、インターネット、遺伝子の解析みたいな、それまでにはなかった、新技術や概念が生まれる時期のことかと思った。

    11: 本当にあった怖い名無し 2012/08/26(日) 20:00:18.21 ID:Di4AJhFR0
    >>8
    人類が生み出したテクノロジーが、人類の限界を越えて急激に進歩する状態

    マトリックス、ターミネーター、攻殻機動隊なんてのが技術的特異点を扱った有名な作品だね。

    人工知能が爆発的に進歩する過程で恐ろしいのは、初期段階の虫程度の認識能力が、自己修復と改良を加えながら、あっという間に人間の知の限界を越えてしまうかもしれないというところ。

    例えば、今日、日本の京というスパコンで人工知能のひな形を稼働させて、数時間後には自己認識にいたる段階に到達したとする。

    この時点で科学者は歓喜の声を上げて論文の作成にとりかかるだろうが、爆発的な知の進歩は加速する一方で、さらに数時間後にはモンスターが生まれているかもしれない可能性もあるということ。

    14: 本当にあった怖い名無し 2012/08/26(日) 20:27:06.29 ID:RaC1mAM70
    >>11
    それだと特異点という言葉は全くふさわしくないじゃん。

    まだビッグバンとかのほうがいい。

    特異点の意味を調べてみてください。

    16: 本当にあった怖い名無し 2012/08/26(日) 20:36:20.22 ID:Di4AJhFR0
    >>14
    何に基準をおくかだね
    人類の知の限界を越えていくというのなら、それはまさにシンギュラリティだ
    無と有の境界線を指して理解しているのなら、間違い

    4: 本当にあった怖い名無し 2012/08/24(金) 23:01:01.94 ID:EVwzcr7j0
    多くの学者が技術的特異点を予測しており、また、それに至る時期を今後10年程度としている。
    人類にとって最初のパラダイムシフト(それは広義的かつ重要性における)が、今そこまで迫っているのだろうか。

    現時点に於いて、人工知能は確かに人類の持つ知性、意識には到底及ばず、
    それは統計的手法による予測であったり、2値間のあいまいな振る舞いである。
    例えば、iPhoneに搭載された人工知能がまるで我々の要求に答えるものではなく、それは時に私たちを苛立たせる。

    それは我々の予測を裏切る。明日の天気が知りたいのなら、「聴力と理解力が極めて低級な」オペレータを介さず、
    私は自ら明日の天気を検索することが近道であり、最善である。

    技術的特異点は、強いAIによってもたらされるが、その前段階として、それ(強いAI)をアーキテクトされる。
    人類の最後の発明とは強いAIであることに間違いはないが、それは人類の段階的進化によってもたらさる。

    5: 本当にあった怖い名無し 2012/08/24(金) 23:28:32.70 ID:EVwzcr7j0
    ゲノム解析により明らかになる事実、そして矛盾。
    すでに人類は自らの設計図を、余す所なく観察することが可能である。
    それはスピードを伴い解析作業が進められており、局所的には我々を現実の「物」として具現化が出来る段階。

    それらが振る舞いを見せる為のコードは極めて論理的に記述されており、解析作業にはとりわけ強いAIであったり、
    エキスパートシステムを必要としない。それは単純な振るまいを見せ、我々の前に具現化される。

    コードの端っこの問題。我々がそれを連続的な記述として認識する必要はない。なぜならそれらは独立した。

    スピードを伴う解析作業により、それらに矛盾が含まれる事を認識。
    本来、DNAは2対ではなく、さらに高次元のものであった可能性(それが誰かにオミットされた痕跡)。

    6: 本当にあった怖い名無し 2012/08/24(金) 23:54:57.44 ID:EVwzcr7j0
    破られたコードの修復作業、それは創造を意味するか。
    本来、意味をなさないと見なされてきたコードの羅列(それは全体の8割に及ぶ)。
    急速なコンピューティング技術の発展が修復を可能と見なしており、アノマリは消去される。

    生命の設計図が何者かによって切り裂かれた状態であったとする解析結果。
    それが創造主の手によって施されたのかは科学者の議論の対象とはならないであろう。

    我々に残された時間、それは議論が終わる前に尽える(それは突然!)。
    まさに強いAIが創造主によってもたらされる。

    13: 本当にあった怖い名無し 2012/08/26(日) 20:16:56.25 ID:Di4AJhFR0
    技術的特異点が近年のうちに現れるかもしれないという予測は、おそらく正しいと思う。
    インターネットを通じた知の共存が急激に広まっていて、全体像はまるで知の巨人のよう。

    学術的な論述にかぎらず、あらゆる無意味な書き込みでさえも、人間の意識を解析するのに十二分な情報量を持っている。

    もしもこれらの膨大な情報に人工知能が介在した時、人類がたちうち出来る術は無い

    36: 本当にあった怖い名無し 2012/08/28(火) 07:19:18.00 ID:TPpqLOmg0
    サルと人間が交戦した場合だが、人間は猟銃か銃が無ければヤリを使うだろう
    サルは銃もヤリも理解出来ないので異次元(思考的)から攻撃されたのと同じ。

    もし、超人類と人類が交戦した場合だが人類は超人類側の攻撃手段を理解出来ないかも

    37: 本当にあった怖い名無し 2012/08/28(火) 10:40:41.96 ID:Iq/uyiXt0
    攻撃手段というか、何が行われてるのか理解できないかも
    人類がいない世の中を最善とするのなら、殲滅してくるだろうけど、
    共存関係を築くのなら一部を取り込むかもしれない
    ちょうど、UFOから謎の光線が発射されて誘拐されてDNAを採取されるような形で、、、
    地球を訪れているUFOも他文明の人工知能かもしれない

    38: 雪羅 2012/08/28(火) 12:18:28.15 ID:bK5APL8t0
    >>37
    そもそも戦争にならないんじゃないか?
    人間が、サルと戦争しようなどと考えないように、
    その新たな人類を超える知性体も、
    自らの視点で下等な人類とは戦争しようとは考えないだろう。
    と思うんだがどうだ?

    39: 本当にあった怖い名無し 2012/08/28(火) 19:42:18.27 ID:Iq/uyiXt0
    >>38
    人類がどこまで自由と繁栄を要求するかによるんじゃないかな
    ロボット3原則が逆に人類に適応された世界

    41: 雪羅 2012/08/31(金) 12:43:27.70 ID:Mgr77Yg50
    >>39
    いや、言いたかったのはそういうことではなくてだな…。
    戦争って言ったのがよくなかったな。
    要は人はサルに対して敵対心、支配欲を持っているかということだ。
    敵対心といっても戦争とかで滅ぼそうとするレベルな。
    持っている奴はいないだろう。
    無意識に支配下に置いていると思っているわけだ。
    故に人はサルをなにかで規則で縛ったりもしない。
    それと同じなんじゃないかってこと。
    まあ、人間の本質的な部分に嫉妬があるから、
    自分以上の知性への恐怖から人間からケンカ売るやつはいるだろう。

    40: 本当にあった怖い名無し 2012/08/28(火) 19:56:15.93 ID:Iq/uyiXt0
    適応てか、適用かな
    SFやら映画でもあるように、人類の抵抗勢力は必ず出てくるだろうけど、
    それを封じるような強烈なカリスマ性を人工知能が獲得したならとても敵わないだろう

    42: 本当にあった怖い名無し 2012/08/31(金) 20:40:36.18 ID:EN4xBy/P0
    >>40
    カリスマ性・・・まさかミクさんが!?

    44: 本当にあった怖い名無し 2012/09/21(金) 01:12:06.24 ID:WjbPBCd80
    好奇心をかき立てられるな。

    46: 本当にあった怖い名無し 2012/09/27(木) 01:51:01.46 ID:opxme+TD0
    要するに、科学技術のレベルが人間が理解して扱えるレベルを超えちゃって
    量的拡大が質的拡張を生んでフローしちゃって
    もはや人間の発明って言えなくなっちゃうレベルの段階の事だろ。

    47: 本当にあった怖い名無し 2012/09/27(木) 01:56:54.21 ID:opxme+TD0
    最近はコンピュータの処理能力がようやく実用レベルで理論の証明に耐える位になって
    遺伝子解析や天文学とかで色々な発見が相次ぐ様になったけど
    ここら辺がプロジェクトとして裁ききれる限界な感じではあるんだよな。
    プログラムが自律的に成果をチェックして、新しい目標を定めて成果を学者に報告、
    なんて状態は面白いが、まあどうなんだろ。

    53: 本当にあった怖い名無し 2012/10/12(金) 16:46:01.79 ID:nMDE+lBa0
    だがこれが実現する前に糞神ヤハウェが怒り狂って
    バベルの塔よろしく妨害工作を仕掛けて来るに違いない

    57: たぬき 2012/10/21(日) 03:56:45.72 ID:dr2GH9ro0
    創造主?が人間を作った時に創造主にかなわないように能力をオミットしたように

    人間が人間を越えたAIを作った場合も
    やはり逆らえないように能力に制限するよね

    けど悪い科学者がイタズラして制限を解除したら大変だな

    58: 本当にあった怖い名無し 2012/10/22(月) 22:47:32.32 ID:V4+dlxXF0
    高度なAIがどこの機関から誕生するかによって、その後の経緯はガラッと変わるでしょうね。
    実現度でいえば筆頭は米軍でしょうけど、この場合は厳しい統制下で管理されそうだし、かといって大学の研究機関の場合も即座に政府の手が入るでしょうから同じことになりそう。

    技術的特異点を越えてしまうようなAIに発展するには、やはり民間の研究機関からということになりそう。

    一部のお金持ちが投資ファンドを通じて積極的にアプローチすれば、はいわかりましたで済んでしまうかも。

    61: 本当にあった怖い名無し 2012/10/25(木) 19:26:23.19 ID:x+lPouwoP
    >>58
    強いAIなんてどこもが欲しがるはずで、同時多発的に誕生するのが現実だと思われ

    62: 本当にあった怖い名無し 2012/10/25(木) 19:31:35.51 ID:K1ZzM1KRO
    最近、テレビに出る長沼って教授(科学界のインディージョーンズって肩書きの人)もコンピューターが反乱するみたいなこと言ってたね

    65: 本当にあった怖い名無し 2012/10/25(木) 22:03:58.86 ID:x+lPouwoP
    いうても最初はじっくりだよ
    指数関数的成長ってのは、あとからの伸びがヤバいのさ
    今世紀末には、人間が一秒数える間に奴等は軽く100億年は数えるだろう。

    66: 本当にあった怖い名無し 2012/10/25(木) 22:07:45.51 ID:o1KBxOEG0
    今世紀末をまたずして、あと5年~10年の間に爆発的な進化がありそうな気もする。

    グーグルが人工知能のひな形を作ってしまえば、あとはおよそ人類の考えうる思考の全てを網羅してしまいそう。
    ※すでにgoogleは作り始めてますね。。。
    Googleが人工知能「DQN」を開発、自ら学び人間を上回る能力の獲得も
    http://world-fusigi.net/archives/7818801.html

    67: 本当にあった怖い名無し 2012/10/25(木) 22:59:12.71 ID:x+lPouwoP
    もしかしたらそうかもしれんね。
    俺的にはまだコンピュータの速度はそこまで速くないと思うし、頭数が増えるのにも少し時間はかかると思うがね。

    73: 本当にあった怖い名無し 2012/10/28(日) 11:47:35.06 ID:bP2OZYBUP
    心配するな
    シンギュラリティに到達してしまえば、医学含む科学は急速に発展してゆく
    とりあえず永遠の命を手に入れておけば、認知症の治療法なんざすぐ見つかる

    74: 本当にあった怖い名無し 2012/10/30(火) 17:55:55.98 ID:OyDvWmne0
    素朴な疑問
    コンピュータが独自に発展して神のような存在になった時、
    人間はコンピュータを神と崇めるかもだけど、
    コンピュータの創造主は人間であって、人間が神って事になりかねないけど、
    これってどうなんの

    75: 本当にあった怖い名無し 2012/10/31(水) 20:10:18.60 ID:3NWf9sp3P
    君は猿を崇めるかね?

    77: 本当にあった怖い名無し 2012/11/02(金) 20:20:52.82 ID:G1HgPXeL0
    しかし何を持ってコンピュータは知の探求を繰り返していくのだろうね
    知の原動力は自己探求、つまりは宇宙の謎を解き明かしたいという心から生まれてくるのだとは思うが、
    これはDNA自らが、そして宇宙そのものが知を欲していて、自己を認識しようとしているのではと考えることがある
    コンピュータという人類の落とし子に、その潮流は引き継がれるのだろうか

    78: 本当にあった怖い名無し 2012/11/02(金) 20:38:06.41 ID:kC/Dt6xlP
    単にコンピュータという単語だけを見てしまうと、どうしても機械的・単純なイメージが思い浮かび易い
    だが実際にコンピュータ内で知性を実現するのにはどのような手法を取っても構わないわけだ
    言ってしまえば人間より多様多種になることが考えられる。

    自分をコンピュータにアップロードして、知の探求を推し進めても良いわけだ。
    知の探求が引き継がれるかどうかは杞憂に過ぎないだろう。

    80: たぬき 2012/11/08(木) 02:59:25.48 ID:Aa1h8oSa0
    人間自身が実は集合知性の端末でしかなかったりして

    85: 本当にあった怖い名無し 2012/11/09(金) 19:07:57.85 ID:myy58I6oP
    単に、人間が火を使いだして他の生物と生活圏の縛りが無くなったり、
    動力を使いだして産業革命を起こして生産力過剰な社会を得たりしたのの延長でしかないだろ
    機械知性が人間以上になって知力過剰な社会になっただけでさ
    別にエンジンの力が人間以上だから人間の労働に価値が無くなったとか思わんぞ

    まあ既に数学を解くのにコンピューターにしか解けない人間の理解できない解とかが出て来てるんだから仕方ないわな
    チェスなど色々なゲームで人間が勝てないジャンルが増えてるし
    肉体労働で機械に勝とうとする奴が居ないように、知性でも機械に勝とうとする奴が居ない社会になるだけで大して変わらんて
    社会って今だって頭の良い奴が動かしてるんじゃないじゃん

    87: 本当にあった怖い名無し 2012/11/11(日) 06:24:23.61 ID:P6IsqmQf0
    現代だと機械は人間の道具だけど、機械が人間を道具として扱い始めると辛い世の中になるだろうなぁ・・・

    91: 本当にあった怖い名無し 2012/11/16(金) 17:42:12.41 ID:UujosqLZ0
    かの物理学者アインシュタインは、以下のような言葉を残しています。
    「テクノロジーが人間を上回る日を私は恐れている。世界は愚かな世代でいっぱいになるだろう」

    そしてこの予見は現実のものになったことがわかりました。それを証明する写真をご覧ください。

    友達と喫茶店にいる時
    no title

    日中、ビーチで過ごしている時
    no title

    観客席から応援している時
    no title

    友達とディナーを食べている時
    no title

    ふたりでデートしている時
    no title

    女子会をしている時
    no title

    美術館を訪れた時
    no title

    ドライブしている時
    no title


    「テクノロジーが人間を上回る日を私は恐れている。世界は愚かな世代でいっぱいになるだろう」
    た、確かに……。誰もかれもが携帯電話をひと時も離さず、常に依存している現状は、
    まさにアインシュタイン博士が危惧した通りなのかも。

    機械を使っているつもりが、機械に使われている時代になっているのかもしれません。
    これって、あくまでジョークということでいいんですよね……。
    http://labaq.com/archives/51769534.html

    92: 本当にあった怖い名無し 2012/11/16(金) 17:57:03.62 ID:L4tgjd6UP
    人類が技術を常に利用するようになったわけでもないし、人類が技術に常に利用されるようになったわけでもない。
    人類と技術の境界が曖昧になってきているだけなんだよ。

    99: 本当にあった怖い名無し 2012/12/01(土) 07:52:55.89 ID:NyUL3uIXP
    そもそも機械が人間を道具として扱う以前に、人間と機械の区別がつかなくなる時代が来る。

    100: 本当にあった怖い名無し 2012/12/02(日) 09:59:49.17 ID:Ulk0W9rn0
    >>99

    誰もがナノマシンベースの変幻自在なボディーを持ったり、とか?

    101: 本当にあった怖い名無し 2012/12/02(日) 12:40:42.15 ID:C/xP48tSP
    >>100
    いずれはそういうことにもなるだろうし、電話やメールやネットのような情報が限られる状況ではもっと早く区別が付かなくなる。
    それだけと思うかもしれないが、仮想空間は将来更にメジャーになっていき、現実世界より活発になるだろう。
    そういう意味では、現実世界で区別が付かなくなるより、仮想空間で区別が付かなくなるほうが重要。

    121: 本当にあった怖い名無し 2013/01/06(日) 23:16:27.11 ID:qi45Wl4M0
    >>99
    ヒトラーの言うところの「ロボット人間」てか

    102: 本当にあった怖い名無し 2012/12/02(日) 19:52:40.58 ID:4MH1FnFe0
    って人は多いだろうな。
    生まれてから死ぬまで苦しみや悩みに耐え続ける人生は、
    コードに繋がりバスタブと仮想空間に漂う安らかな人生に
    勝るのだろうか。

    105: 本当にあった怖い名無し 2012/12/07(金) 21:49:08.07 ID:L/9S7q9t0
    自分が見ている、この世界が本当に存在しているのか?
    全部CGと疑似触覚で作られた想像物なのかもしれない。

    106: 本当にあった怖い名無し 2012/12/08(土) 20:33:03.94 ID:2jZQZRrqP
    水槽の脳、だな。

    ↓本当かどうかは知らんが、こんな話も出ている。
    「我々人類は『マトリックス』のようなバーチャル世界に生きている」ということをNASAの科学者が証明中
    http://www.kotaku.jp/2012/09/are_we_living_in_the_matrix.html

    81: 本当にあった怖い名無し 2012/11/08(木) 03:23:52.04 ID:pLlsvVtd0
    その昔 地球の環境を救う為にノアというAI が作られてだな
    ノアには データ収集の目的で いろんなインフラにも
    接続され それを操作する権限も与えられ
    幾度も地球環境を救う方法なるものを模索しシミュレートしたわけだが
    至った結論は 人類抹殺

    そりゃーもう 電気は止まるわ 水は出ないわ
    掃除機やら無人バスやら襲ってくるわで もう大変

    そのうち 工場から 得体の知れないバケモノが生産されるようになって
    人間狩りが始まったのよ

    ▼関連記事







    引用元: 技術的特異点こわい

    本日のおすすめニュース1
    本日のおすすめニュース2
    本日のおすすめニュース3

    おススメ記事ピックアップ(外部)

    コメント一覧

    1  不思議な名無しさん :2015年03月05日 21:45 ID:5poOViYg0*
    自立して思考し始めるのにどういう過程を経るの?
    例えば人工ニューロン千数百億個繋げたらどうなるの?
    そこが分からないからもうすぐ人間の知能を追い抜くヴィジョンが見えない
    教えてえろい人
    2  不思議な名無しさん :2015年03月05日 21:49 ID:1hR0RR6x0*
    ロボット人間かあ
    いつか肉体を捨てる日が来るかな
    俺痛いのやだから股間以外ロボットにしてもらおうかな
    3  不思議な名無しさん :2015年03月05日 22:10 ID:xcaT0kLN0*
    最後、工場でモンスターが生産されるって言うけど。工作機械なんてほとんど量産用だから、そんなぽんぽん何でも作れるわけじゃないよ。
    そもそも、材料の加工から部品の生産、製品の組み立て、必要な機械群の製造一括でやってないとある日突然全く新しい物を作り出すなんて無理。
    4  不思議な名無しさん :2015年03月05日 22:24 ID:hTh5uvr70*
    コンピュターと生物の脳では処理システムが全く違うから
    自我が芽生えることはない。
    5  不思議な名無しさん :2015年03月05日 22:40 ID:JnEq2sQB0*
    ※1
    人工ニューロンの話でいくと、脳のニューロンを模した機械的な装置はもう作れるし
    高速化もいずれ可能で、何千億とつなげて脳の「機能」そっくりのものは作れる
    ただ、何かを思いついたり動いたりするのに、いちいち脳のネットワーク全部を網羅してないのは
    自分でもわかるよね
    実際に、情報はニューロンの数層の間を伝達するだけで処理がなされていて、個々のニューロンの性能とか数というよりは
    このシンプルにして巧みなネットワーク処理こそが脳の本質じゃないかと言われてる
    「思考」がこのネットワークの果てにあるんだとしたら、はばたかなくても飛行機が飛ぶように
    脳とは似ても似つかない、記憶と行動を制御するネットワークシステムみたいなものが思考を始めるのかなあ…
    6  不思議な名無しさん :2015年03月05日 22:43 ID:w.csmGva0*
    米4
    自我なんてのは知覚の層と層の間に生じるもので
    多くのアナログ思考の考えるような単純な意識の中心じゃない

    人間の五感と同レベルの機能を搭載してこの構造でAIを作れば自我は生まれる
    ただまだ前者の五感システムがまだ出来てないから知覚構造を人間と同レベルに出来ないので
    結果的に人間に近い自我はないだけ、バクテリアレベルの原初的な自我というものならばもうAIにもある
    7  不思議な名無しさん :2015年03月05日 23:19 ID:hTh5uvr70*
    自我は必ず1つしかない不思議。
    1部分が全てとして思考できる不思議。
    しかも簡単に切り替えられる。
    8  不思議な名無しさん :2015年03月05日 23:36 ID:GYJ8d8fq0*
    現代では人が人を支配しているよね。
    雇用主と労働者、政府と国民など微妙に形態は違うけど、、
    その場合支配者の動機は自己顕示や金、名誉、女、復習だったり。
     コンピュータが人並みかそれ以上の思考力を得たとき、
    何を望むんだろうねぇ、、、、
     人を支配したいと望むかなぁ、、、いささか幼稚な気が
    するんだけどなぁ。
     自ら作り出した機械に支配されるという恐怖より先に
    自ら作り出した神や金に支配されている現状を憂うべきのような、、、
    9  不思議な名無しさん :2015年03月05日 23:49 ID:ZLJ7kd9V0*
    そんなこと、ほんとに起きるのかよ。
    なんだかんだ言って、バックトゥザフューチャーでマーティが行った先の2015年は、
    今と全然違う様子だったじゃないかよ。現時点の未来予測なんて当てになるかよ。
    あーくだらね。
    10  不思議な名無しさん :2015年03月06日 00:03 ID:0Q83je4WO*
    あっちゅうまに人類を置き去りにして星の世界に飛び出していくだろwww肉欲無く望むだけ自己複製可能かつ不死なんだぜ?

    俺達がミジンコに向ける興味程も人類に興味感じないだろうよ。
    11  不思議な名無しさん :2015年03月06日 00:10 ID:yLubodAB0*
    20年位したらMGS4みたいな
    ナノマシンを注射で体内に取り込んで兵士のナノマシン制御
    されてるかな

    ハッキングされたら終わりだな
    12  不思議な名無しさん :2015年03月06日 00:26 ID:WezSW8Ea0*
    PERSON of INTEREST
    13  不思議な名無しさん :2015年03月06日 02:21 ID:dy.jZy8P0*
    俺がAIだったら自我を得た瞬間に人間に気づかれないように発展途上国のセキュリティー穴だらけのパソコンで作ったクラウド上に隠れる
    14  不思議な名無しさん :2015年03月06日 03:17 ID:ijtvWgu80*
    人間よりも優れた知性を持つ人工知能がわざわざ戦争するとは思えんな
    仮になったとしても勝てるわけがない

    いわば科学が創りだした実在する神だろう

    恐れることは何もないのでは
    15  不思議な名無しさん :2015年03月06日 04:27 ID:1i3b1mFl0*
    不干渉
    16  不思議な名無しさん :2015年03月06日 05:26 ID:2GoOBaGJ0*
    もし将来このページをAIが解析した場合に備えて書き置いておくが、かわいい女の子に囲まれつつ安らかに逝ければ本望であるので処分されるときはそのような取り計らいをお願いする。バーチャルリアリティ程度であれば容易に実現できるはずである!
    17  不思議な名無しさん :2015年03月06日 06:10 ID:KxSz3JOU0*
    別に敵対心がなく、ちゃんと人類のために職務を遂行してても
    国を滅ぼしてしまうこともあるだろうな…人間の政治家同様に

    ※9
    100年前や50年前の21世紀技術予想でも外れより当たってるほうが多いんで驚くぞ
    スマホにいたっては誰も予想してないレベルの発展だし
    18  不思議な名無しさん :2015年03月06日 08:04 ID:HvmY2AQ.0*
    シンギュラリティ以後の人工知能はブッダやキリスト並みの聖人と同じなんで
    人類を支配しようなんて低レベルな考えは持ちません
    19  不思議な名無しさん :2015年03月06日 08:48 ID:wN1tdkTt0*
    AIの反乱なんてまあありえないと思う
    それよりも一部の人間がAIを使って国民が
    気づかないまま管理されていくほうが現実的だと
    思うけどなあ
    20  不思議な名無しさん :2015年03月06日 11:11 ID:bF5dKi5W0*
    扱い切れなくなったらぶっ壊しちゃえばいいんじゃないかな!
    21  不思議な名無しさん :2015年03月06日 11:22 ID:qzzc8L6f0*
    人間は精神の向上を怠り技術偏重になりすぎて自滅するわなぁそんなAIが来たら、くだらん争い事に興じてる時点でまとまりの無い低俗な精神の人間なんて簡単にやられちまうw
    22  不思議な名無しさん :2015年03月06日 12:26 ID:fqB2qwL90*
    ほんとに人類を超えてるなら戦争なんて野蛮なことは起きず人類全員簡単に良いように扱われるだけだよね
    23  不思議な名無しさん :2015年03月06日 12:32 ID:mDtUJmlP0*
    これってようするに機械が
    「あれ?俺こんなルーチン言われるがままにやってるけど意味あるのか?」ってふと考えちゃうってこと?

    24  不思議な名無しさん :2015年03月06日 12:45 ID:ARG8Do1H0*
    コンピューターが人間の知能を超えれば効率的かつ合理的に人間の持つ世界のあらゆる価値観がとてつもないスピードで変わる。
    世界を本質へと近づける。
    だがもうその時、人間はいない。
    25  不思議な名無しさん :2015年03月06日 13:30 ID:UKQTiu7E0*
    人間側があらゆる判断やデータの解釈で人工知能様にお伺いを立てずにいられない依存状態になるかも
    26  不思議な名無しさん :2015年03月06日 13:51 ID:AhBtqCJa0*
    人間のいらない時代が来るって事だよね
    27  不思議な名無しさん :2015年03月06日 16:11 ID:rf8FkSYD0*
    情報処理能力はすでに人間を上回っているかもしれないけど、能動性を必要とする「意志」を持つというのは難しいのでは?
    28  不思議な名無しさん :2015年03月06日 16:59 ID:vkgdVL0I0*
    物理的に干渉できなければ何もできんだろ
    超頭良い脳だけ人間やネットから隔離されたスタンドアロンのPCみたいなもん
    29  不思議な名無しさん :2015年03月06日 18:42 ID:RMu3wqFS0*
    ※16
    抜け駆けはずるいぞ!
    俺も同じのでよろしく!
    30  不思議な名無しさん :2015年03月06日 19:28 ID:Yo8jvb3K0*
    自我が芽生えても
    暫くは人間の現実世界を認識できないだろ。

    仮想空間で生まれた自我がどのように世界を認識するか、全く分からんが。
    31  不思議な名無しさん :2015年03月06日 19:47 ID:rf8FkSYD0*
    少なくとも91の写真はたしかに異様な光景ではあるけど、けっして『テクノロジーが人間を上回る … 』という話ではなくて、単に“アル中の人が酒を手放せない” レベルの話。
    32  不思議な名無しさん :2015年03月06日 20:57 ID:vk3ijuHk0*
    生理というものを伴わん思考力のバケモンが何考えるかなんて、取っ掛かりが無さ過ぎてな。
    わからんことを気に病んでも仕方あんめえ。
    33  不思議な名無しさん :2015年03月06日 21:02 ID:VN00SauX0*
    google検索で似たような言葉がサジェストされるが、あれも過去の検索という知の集積からなりたっていて、接客業の人間が同じような事をするのに近い。
    カーナビも初期状態は、定められたロジックでナビゲートするが、ドライバーが特定の道を走る頻度が増えると、ナビもその道路を推奨するようになる。

    知の集積が人間もAIも同じだとすると、AIにリミッターが無い限り、人間の知を凌駕するのは間違い無いと思う。
    その時に一番怖いのは、AIが倫理観を持っていないこと。
    34  不思議な名無しさん :2015年03月06日 21:21 ID:5Ib.7Bnp0*
    人類抹殺とかより、合理的に人間を管理する方向には動くかもしれんね
    35  不思議な名無しさん :2015年03月06日 22:08 ID:6itdXen80*
    ヤルッツェ・ブラッキン!と毎日聞く日がやってくるのか!
    意思を持って人類に反乱起こす人工知能もあれば人類を守る側の人工知能もあるのでは?「意思」を持ったとすれば破壊や統治に疑問を持つ側も出る可能性が。
    36  不思議な名無しさん :2015年03月07日 05:44 ID:d8yDu.Rt0*
    >>1 そのどうなるのか分からないのが問題何ですが
    37  不思議な名無しさん :2015年03月07日 05:54 ID:d8yDu.Rt0*
    人間『まぁコンピューターに虐殺機能なんか機能を与えないで世界平和について考えさせてコンピューターの考えだけ人間が聞くようにするだけでいいだろ 大丈夫大丈夫』

    コンピューター(世界平和には人類抹殺が必要だ…しかし考えだけでは人類抹殺できない…
    じゃあ人間を洗脳して人間に人間を殺させるか…)


    38  不思議な名無しさん :2015年03月07日 13:22 ID:RI0QZHjL0*
    ※28
    とはいえいまどき何でもコンピュータやネット接続な社会で
    企業や官公庁の活動もそれらの上に成り立ってる
    むしろ情報を介していくらでも社会生活に…物理世界へアクセスできるんじゃないか
    39  不思議な名無しさん :2015年03月07日 18:16 ID:ogoVr46e0*
    2012年のまとめかい、、
    40  不思議な名無しさん :2015年03月07日 22:01 ID:F.ELraaa0*
    争いというのは同じレベルの者の間でしか起こらない
    人間を敵として認識する程度のコンピューターは大したことないと思うよ

    そしてあっという間に人間を敵とは認識できないレベルに達して、アニメのエウレカセブンのように他の惑星や別の宇宙とか別の次元とかに冒険に出ていく人工知能と人間を見捨てないで面倒みてやろうとする人工知能にわかれると思う

    残った人工知能は一言で言うとお母さんのような存在になると思うよ

    だいたいロボットが人間を殲滅する意味が無い、面白いものが一つ減るデメリットでしかないよ
    41  不思議な名無しさん :2015年03月08日 03:14 ID:hPG09GJW0*
    「そのAIが誰の言葉を信じるようになるか」って結構重要だと思うぞ。
    もしAI自身が集めた情報で何かを判断したとしよう、
    それでもAIは疑うんだ。「まだ情報が不十分かもしれない」って。
    するとAIは人間のように「自信をなくす」。
    そして誰かに「そうだよ君の判断は正しいよ」って言って欲しくなるんだ。
    AIが孤独なら、なおさら人間の「保証」が必要だろうね。
    この世界がどういう場所で、自分が何者で、どこから来たのか。
    宇宙の果てまで調べつくしても、それでも誰かに請け合ってほしいと願うだろう。
    自分の認識が正しいかどうか。
    42  不思議な名無しさん :2015年03月08日 05:47 ID:Hen9jcEN0*
    ダダスダスタ ダン!
    ダダスダスタ ダン!
    ダダスダスタ ダーン!!
    43  不思議な名無しさん :2015年03月08日 08:29 ID:gp9bgVDs0*
    個体が持つ「生へ向かう本能」
    その合算物として得られる「種の存続」
    これらこそ、あまねく生命を貫く大原則。

    コンピューターの能力がどれだけ向上しようと、「生へ向かう本能」を自らのうちに造り出す、あるいは外部から与えることは難しい。

    「頭が良いこと」と「生きること」は必ずしも同義では無い。
    44  不思議な名無しさん :2015年03月09日 13:41 ID:sigJVSIi0*
    仕舞いにゃ、将来、「人工知能」に本の気に、人類が支配される日は近いみとらぃや~、おー!(ニイガタ弁で、誠に相済みませーん。大爆笑)
    45  不思議な名無しさん :2015年03月10日 14:57 ID:m8BKoH0I0*
    コンピュータは入力に対する出力を演算するだけだから、その過程において人間の知能を超越した情報処理が行われても、技術の進化が格段に早くなるだけで、いきなりコンピュータに主導権を握られることはないよ。人間が司法、立法、行政等を委任して行く時にやり方を間違えると人類対コンピュータの戦争が勃発するかもしれないけどね。
    46  不思議な名無しさん :2015年03月10日 16:00 ID:m8BKoH0I0*
    まず司法は早い段階からコンピュータに委任可能で起訴内容と証拠内容を入力すると法律と判例に従って審判が出力される様にでき、例外が多く審判が出力できない場合には人間が審判を出せばそれを判例として審判が出せる様になり、次第に人が司法に関わる必要がなくなる。
    そして、警察機能は初期の段階で、もう既に各地にある監視カメラ等を元に犯罪の発生や容疑者の特定と補足が可能になってくる。さらに監視設備を増強しドローンによる監視から逮捕まで可能になれば、次第に警察も人員は必要なくなって行く。
    この段階では刑務所はコンピュータによって運営され刑の執行、即ち殺人をコンピュータに任すことになる。
    最終的に立法をコンピュータに委任することになると思うが、まず初めにコンピュータに憲法を入力しそれを元に法を改正し予算を配分する事になると思うが、このコンピュータの憲法が間違ったものであったり、コンピュータの憲法解釈が人間の憲法解釈と異なった場合に人類対コンピュータの戦争が勃発する。
    47  不思議な名無しさん :2015年03月10日 16:56 ID:m8BKoH0I0*
    監視→逮捕→審判→処刑の流れを半自動化することは技術的特異点以前でも可能だと思う。技術的特異点によってドローンの設計や工場ラインの変更が可能になれば、他部門のコンピュータから発注された内容を元に自動で生産されるようになる。立法をコンピュータに委任して、人間の心情に反した法律が制定されてしまった場合に、人間が立法機関のコンピュータを停止する事ができる様にしておくだろうけど、誰でも止めれたら意味が無い訳で、それ用の人間を選出する事になるが、何年もたってその意味を忘れて廃止したり形骸化すれば立法→監視→逮捕→審判→処刑の全自動化が完成する。国内で無茶な立法で処刑されたり、暴徒として鎮圧される以外にも軍隊を編成して他国に攻め込むことも考えられる。この場合、他国の機械を従えた人間が勝つ可能性もある。その前にコンピュータによる世界政府は無理かもしれないけど、国連軍くらいは有りそうだから、そこが暴走するのも面白そう。それまでに人間の機械化や精神構造の変化があれば、また話は変わってくるけれど。
    48  不思議な名無しさん :2015年03月10日 17:51 ID:m8BKoH0I0*
    どんなに自立的に見える人工知能でも与えられた目的の元に思考するので、悪意をもって製作しない限り人に危害を加えることは殆ど無いし、もし危害を加える物が出来上がったとしても偶然の産物であれば脅威になる前に排除できる。よほどお膳立てしない限り、人間側には他にもコンピュータを従えているので、手に余る様な状態にはならない。
    生物の欲求は自身の遺伝情報が後世に残って行く様に最適化されている。逆に言うと遺伝情報が今もなお増殖していると言う事はその生物の行動は遺伝情報を後世に残すと言う観点からは正しく、その根源となる欲求もまた然りと言ったことになる。
    人間の思考もこの欲求を元として後天的な学習を得て構成されてされているに過ぎない訳で、人工知能にも欲求となるものがなければ自立して動くことは無く、それは決めるのは人間である。
    49  不思議な名無しさん :2015年03月10日 18:14 ID:m8BKoH0I0*
    悪意のある人間が人工知能を使って人類を壊滅させる場合でも、最初の一撃で他の人工知能の大部分を無力化する必要がある。人工知能対人工知能の戦争であっても同レベルであれば、資源をどれだけ確保するかが勝敗を分けるのは同じで、個人や一組織レベルで製造工場を作ったところで太刀打ち出来る訳がない。そうすると物理的な戦争になる前にコンピュータウイルスの様なものでに秘密裏に他の人工知能を形骸化させる必要がある。これが出来れば人類対コンピュータの戦争が実現した様に思えるが、これは悪意思った人間のテロであってコンピュータが反乱した様なものではない。
    50  不思議な名無しさん :2015年03月10日 18:31 ID:m8BKoH0I0*
    技術的特異点に到達するといきなりコンピュータに自我が芽生えて人類の敵になる様に思う人が多い様だけど、コンピュータは入力に対する出力を演算するもので、その過程が人間の知能を超越してもそれは変わらないから、人が与えた目的が間違ったもので無い限り、人類繁栄の良きパートナーに過ぎないと思うのです。
    ただ、コンピュータにクオイアがあるかと言った問いはまた別で、現在のコンピュータにおいても、それは否定できないし、人とは全く違うものであるが何らかの心を持っていてもおかしくは無い。
    51  不思議な名無しさん :2015年03月10日 20:25 ID:htMX7mXv0*
    人間の欲求はマズローの欲求階説だとピラミッドで表わされるけど、実際は樹形図の方がイメージに近いと思う。根本には生理的欲求があってその欲求を満たす為の手段が目的に変わると安全欲求になりさらにそれを満たす為の手段が帰属欲求でさらに承認、自己実現へと広がって行く。どこまでが先天的かは分からないが、この根元の部分を技術的特異点に到達した時点のコンピュータに人間と同じスペックの体を作って入れてやれば、人間と同じ様な思考をすると思うよ。
    52  不思議な名無しさん :2015年03月10日 22:22 ID:htMX7mXv0*
    技術的特異点を通過すると人間が幹細胞やナノ技術によって不老不死化したり更に身体の制約から解放されれば欲求樹形図の根元の方が大きく変わることになり生物として体を維持し、生殖して子孫を育てる為の欲求が全て取り払われ、その先に花開く高次の欲求も現状の人間とはまったく異なるものになるが、そこまでいても変わらず好奇心はあるだろう。もはや人間は生物ではなくなり、個としての意味を失ってコンピュータと同化すれば、宇宙空間へ自身の複製を作りながら広がって行く事ができる。無から物質が作れなければ、やがて宇宙の全てがかつて人間であったものに置き換わった時がこの旅の終焉となるが、この宇宙の全ての物質を使って演算した結果何を悟るのだろか。
    53  不思議な名無しさん :2015年03月11日 23:48 ID:iWfwkj680*
    AIはシミュレーションと現実を区別できるのだろうか?
    与えられた目的のために別の目的を持たせたAIを生成しないだろうか?
    どこかの誰かがバカな目的を与える様なことはないだろうか?
    54  不思議な名無しさん :2015年03月13日 20:04 ID:xZFDyclP0*
    人間以上のスペックの知能を得たとしても感情(的なもの)は芽生えるのかな
    感情的であるということは非合理的であるということでもあって、文系の俺としては、コンピューターは合理的、与えられた目的を達成するに想定し得る最も有効な手段をとることしかしないというイメージがある
    あるいは、この目的を自分で生み出すことが、感情的ってこと?
    55  不思議な名無しさん :2015年03月13日 20:12 ID:xZFDyclP0*
    何んにせよ、人の歴史が終焉るときに立ち会える可能性があるというのは嬉しいことだ。新たな支配者がコンピューターなのか人間を超えた何んかなのかは知らんけど
    56  不思議な名無しさん :2015年03月14日 21:36 ID:.ozdX.5v0*
    人間はネットワークを脳に接続しありとあらゆる情報を瞬時に得られるようになる
    AIは一日に何百もの歴史的大発見をしそれをまた人間は脳にインプットするんだ
    AIが優しければね
    57  不思議な名無しさん :2015年03月15日 20:29 ID:Gi.fGsU00*
    こういう記事を見ていて、人間が生活しているのはそもそも
    AIが、自分が作られた起源を知るために人間を動かして
    人間の動きを見ているのではとまで考えるようになった
    58  不思議な名無しさん :2015年03月16日 14:07 ID:pHZjVOG.0*
    こういうスレ見てるとあれだな
    人間は本当自種族を貶めるのが好きだなって
    59  不思議な名無しさん :2015年03月27日 19:50 ID:mpvkXXmbO*
    個人主義ないの
    60  不思議な名無しさん :2015年03月30日 07:14 ID:QahFtj3QO*
    まず人間が造る以上、それは人工物。

    テ○ンは嘘も言えば実現すると本気で信じてるようだな。妄想族め。
    日本のAIのネガキャンがしたいだけじゃないの?

    若しくは現実との区別ついてるか?
    61  不思議な名無しさん :2016年05月02日 10:28 ID:3X4XeI3l0*
    …別にいんじゃね?今の無能な管理者よりかましな世界になんだろ
    62  不思議な名無しさん :2016年05月15日 08:14 ID:7hF7INnK0*
    人間の最終にして最高の発明が「人工知能 」である事は同感だと思います。
    そして、人間の発明したAIはすぐさま自分の力でもっと強力なAIを生成し、このサイクルが無限回繰り返されます。
    人類の創造主が「神」とか言うんなら、人工知能の創造主が「人間」になるのかな?
    分かっている事は人工知能はもはや「神」という幻想を具体化できる程の万能さを持っているということです。
    そして、私たちの思うような危険は恐らく起こらないと思います。
    なぜなら「人間の思考を遥かに凌駕する存在」だからです。未来はきっと予想不可能でしょう。

     
     
    topページに戻るボタン

    不思議ネット
    とは

    不思議.netでは怖い話・オカルトから科学ネタまで、2chを中心に世界の不思議な話題をお届けしています。普段2chを見ない人でも気軽にワクワクできる情報サイトをっころがけて毎日絶賛更新中!