不思議.net

怖い話・オカルトまとめブログ

アクセスランキング(5日間)
    本日のおすすめニュース
    本日のおすすめニュース一覧
    102

    人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい

    matrix-356024_640


    1: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:53:46.576 ID:/rqVBUr50
    膨大な量のデータ与えて機械学習させて超賢くなって瞬時に最適な答えを出す
    だけどそれを作ったプログラマーさえも何でそんな答え出したか分からない
    答えに至った過程が分からない
    これってヤバくね?本当にターミネーターみたいなSFが現実になるんじゃないか
    呪われた刀のせいで一家全員が散々な目にあった
    http://world-fusigi.net/archives/8590839.html

    引用元: 人工知能書いてるプログラマーも人工知能が何故そんな答え出したか分からないらしい







    3: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:54:42.754 ID:29V9xVCS0
    技術的特異点さえくれば問題ないよ

    4: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:55:41.528 ID:OzAksdz80
    トリップだって似たようなもんだろ

    5: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:08.155 ID:2F4PGn+K0
    いやわかるだろ
    たとえばパチンコのリーチの発展の仕方の%はわかってるから
    作ったヤツならすぐに見ててピーンって感じだろ
    こういうときどうするかのパターンはプログラムしてるわけで

    8: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:55.494 ID:GLeF7fT80
    >>5
    機械学習って知ってます?

    11: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:57:49.930 ID:EovjitmV0
    >>5
    お前がわかる程度のこと考慮してないわけないだろ

    6: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:40.569 ID:JIFn0f1w0
    ちゃんと停止ボタンの研究もしてるから大丈夫だよ

    7: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:56:53.305 ID:DABN5Sxy0
    評価関数作るのは人間だからな
    機械だけじゃなにもできない

    12: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 19:58:28.435 ID:qfWEYJEYa
    直感を説明できないのと同じなのに機械の場合は騒ぐ
    理解不能

    14: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:01:13.300 ID:80o3mrkZ0
    >>1
    答えに至った過程は分かってるよ
    過程の中に含まれる評価指標の重要度の比重が学習によって求められてるから、人間にはわからないだけ

    15: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:01:21.187 ID:hga5nn1s0
    プログラムができるのはわかったわかった。で、機械学習に関しては無知だろ?

    19: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:05:46.346 ID:TJaoY0EE0
    昨日NHKでやってたAI特番のことか
    確かに将棋AI作ってた人がなんでこんな風に考えたのかわからん見たいなこと言ってたな

    25: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:08:34.370 ID:/rqVBUr50
    >>19
    そうそれ
    他の分野の人工知能も答えは示すが何故そう判断したかは示さないからブラックボックスだと言ってた

    22: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:07:56.829 ID:d8l2qpd8d
    >>19
    将棋のプロと技術者は別だろ

    29: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:12:36.600 ID:TJaoY0EE0
    >>22
    わからん言うたのはボナンザ書いたプログラマの方だ

    20: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:06:29.525 ID:KiwfT0VH0
    俺の両親だって俺の考えてることなんて何も理解してないよ

    21: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:07:07.482 ID:6yqgKm5/M
    Googleの翻訳AI作ってる人も同じこと言ってたよ
    過程を知ってれば高度になるほど理解できなくなるのは当然のことだと思うんだけど

    で、それのなにが問題なのかという

    26: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:10:11.049 ID:fykxAPAO0
    もう人工知能が勝手に対象を分析して特徴やらトレンドやら見つけ出して人間以上の分析結果を出せるとこまできてる
    将棋とかに限らず金融経済サービスまで

    28: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:11:06.090 ID:sHvYu5+c0
    わかれば人間でいいわけだからな

    31: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:13:44.382 ID:RIfuiCrG0
    なぜそう判断したかというのはいわゆる想定パターンみたいなものだろうけどそれを示すUIを作ってない(作る必要がない)だけの話

    34: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:17:45.251 ID:/rqVBUr50
    >>31
    出来るのなら人工知能開発にはそれ義務付けした方が良くね?
    ブラックボックスのままだと怖いし

    36: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:20:16.813 ID:KiwfT0VH0
    >>34
    そういう行程を省くためにAI開発してるのになんで逆行させるんですか

    39: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:10.162 ID:DWBCUnB60
    >>36
    怖いじゃん
    デバッグのためにつけておこうよ

    45: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:28:39.192 ID:KiwfT0VH0
    >>39
    膨大なデータ吐くから自己判断できるようにしてるのになんでまたマンパワーで解決しようとするんだよ
    だったら最初からAIいらないだろ

    48: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:32:29.807 ID:DWBCUnB60
    >>45
    その自己判断というのが怪しい

    33: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:15:36.745 ID:LsiEZqUP0
    計算で出してるだからルートがあるに決まっとるやん
    人工知能を知性かなんかと勘違いしてるんだろ

    35: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:19:21.915 ID:GLeF7fT80
    まぁつまり膨大なデータの中に無いルートは勝手に作り出す事は無いと

    38: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:23:58.880 ID:RIfuiCrG0
    >>35
    たまにランダムな要素を交えてやるのが主流
    迷路で例えると長いハズレルートでうろうろするよりたまに思いきって別の場所に移動したほうがゴールに近くなるみたいなイメージ

    37: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:23:50.842 ID:cfI1hFBo0
    コード作った人は分からないけど
    入力データを決める人は
    「このデータを食べさせるとこうなる」
    って分かるらしい

    41: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:53.746 ID:DWBCUnB60
    >>37
    生みの親より育ての親だな

    40: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:25:31.396 ID:65F5GzEG0
    問題によっては凄まじく簡単なルールが生成されることはありうる

    46: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:30:09.447 ID:3/Bn2QA+0
    テスラの自動運転車が白いトレーラーに突っ込んだ話みんな知らんの?

    49: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:32:44.326 ID:eqqU5J7v0
    人間だって何故それが犬だと認識してるのかわかってないじゃん

    55: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:34:16.692 ID:bzloBs+wM
    機械にゲームクリアさせるAI作ったらまずバグを探す話思い出したわ

    58: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:38:57.678 ID:kYfqJ0Kr0
    過程をアウトプットさせた所で、そいつを解析すんのに膨大な手間と時間が必要になりそう
    ってかその解析に別のAIが必要になりそう

    59: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:39:13.536 ID:/rqVBUr50
    人工知能がこんなに発達してるのに自然な翻訳が出来ないのが不思議でならないんだが何でなの?

    60: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:40:04.700 ID:eqqU5J7v0
    >>59
    もう一段階抽象化する必要があるから

    61: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:41:02.639 ID:KiwfT0VH0
    >>59
    言語は文法以上にニュアンスの差が大きいから

    69: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:01:00.461 ID:RIfuiCrG0
    結果の算出方法における基準(重み付け)は変化するけど
    基本は算出した結果を評価する善悪の基準は変えない
    変えるとしても変え方は知ってるはず

    74: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:20:22.661 ID:RIfuiCrG0
    敵視するならちゃんと敵は知っておかないとな

    78: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 21:28:57.850 ID:L669XCs2a
    わからないっていうか勝手に学習するから
    どこでそんなの覚えたんだって感じ

    自動運転やロボットが問題起こしたら
    プログラムしたメーカーが俺しらねするため
    こんなこと番組で話してんだろう

    ちゃんと説明機能つけろよ
    そんなもの使えるかよと思う

    81: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 22:51:52.306 ID:VTfs2Qw30
    大したことしてないのに
    家電に人工知能とかAI搭載とかやめて

    82: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 23:59:10.961 ID:Gf6DsSqZd
    深層学習は複雑系みたいなところがあるから層を多くするほど結果の予測が難しくなるってだけ
    要は出来上がるものの詳細な解析が難しい

    83: 以下、\(^o^)/でVIPがお送りします 2017/06/27(火) 00:02:30.843 ID:nLo49gDH0
    一年後のセブンイレブンのツナおにぎりのサイズと値段、予測できるかなl?

    もしかして安くて大きくなってたりして・・・どきどき

    17: 以下、\(^o^)/でVIPがお送りします 2017/06/26(月) 20:04:47.242 ID:DqX8pAx6a
    機械「(どうせ適当な事言ってもバレんだろ!)」









    本日のおすすめニュース1
    本日のおすすめニュース2
    本日のおすすめニュース3

    おススメ記事ピックアップ(外部)

    コメント一覧

    1  不思議な名無しさん :2017年06月29日 22:09 ID:RxWiPIU.0*
    そりゃ学習の仕方を教えてるだけだし
    子供にやり方教えたその結果なんて割と未知数なんだし同じこと
    2  不思議な名無しさん :2017年06月29日 22:14 ID:oG2G0oEx0*
    「人工知能書いてるプログラマー」とかいうFランワード
    3  不思議な名無しさん :2017年06月29日 22:21 ID:lL2hA4OW0*
    アホばっかり
    4  不思議な名無しさん :2017年06月29日 22:21 ID:oCy.0wiY0*
    プログラムにバグがあっても気づかんわな
    5  不思議な名無しさん :2017年06月29日 22:23 ID:x9uSMzt30*
    バカは黙ってろよ
    6  不思議な名無しさん :2017年06月29日 22:24 ID:oCy.0wiY0*
    プログラムにバグがあっても気づかんわな
    7  不思議な名無しさん :2017年06月29日 22:27 ID:oCy.0wiY0*
    プラスをマイナスに間違えたら逆に動作するわな。
    8  不思議な名無しさん :2017年06月29日 22:31 ID:oCy.0wiY0*
    バグのあるAIが更にバグを量産してウイルスみたいに増えていくわな。
    9  不思議な名無しさん :2017年06月29日 22:31 ID:cCiCSPW70*
    データが正しいことを誰が評価するのか?
    10  不思議な名無しさん :2017年06月29日 22:35 ID:OoxX4Zgs0*
    神様だって人間を作ったけど
    どうしてこうなってしまったのかって後悔してるだろうよ
    11  不思議な名無しさん :2017年06月29日 22:36 ID:oCy.0wiY0*
    色んな種類のAIが更に進化したAIを量産するわな。
    そして進化の極致としてアナログ的なプログラムになるわな。
    ハードも自己修復機能までつけるようになるわな。
    機械が極限まで進化したら、しらん間に人間と同じものが出来上がって、いずれまた人間に戻るわな。
    12  不思議な名無しさん :2017年06月29日 22:40 ID:bqv8epS20*
    プログラム書いた後で
    膨大な分岐やクラスみたいなのが
    自動生成されていくような感じなんでしょう
    13  不思議な名無しさん :2017年06月29日 22:42 ID:oCy.0wiY0*
    適当に乱数入れてAIっぽく動くようにしても分からんわな。
    14  不思議な名無しさん :2017年06月29日 22:42 ID:R99WTu7l0*
    そりゃそうよ、コンピューターが何千万何百万といデータを比較しシミュレーションしてある統計値を出し、1つのデータと比べても正確な根拠を示すことはできん。
    経験に基づいた人間の直感に等しいんだが。
    15  不思議な名無しさん :2017年06月29日 22:45 ID:cCiCSPW70*
    AIは意識というよりは無意識の動作に近い気がする。
    16  不思議な名無しさん :2017年06月29日 22:46 ID:oCy.0wiY0*
    AIって言っとけば何でも凄いと思われる風潮やめてほしいわな。
    17  不思議な名無しさん :2017年06月29日 22:47 ID:vZHw54ty0*
    ※10
    とっくの昔に新しい世界作ってそっちでキャッキャやってるよ
    この世界なんか興味ないどころか存在自体忘れてる
    18  不思議な名無しさん :2017年06月29日 22:54 ID:h40LTn0A0*
    答えさえ合ってれば良いってのと意思決定とかではやっぱ理由がいるから頑張って研究してるでってのをどっかで見たな
    19  不思議な名無しさん :2017年06月29日 22:57 ID:oCy.0wiY0*
    昭和時代の「IC内臓」って書いた電化製品に近い感じがする。
    わけのわからないロジックが入ってます的なあれな。
    20  不思議な名無しさん :2017年06月29日 23:03 ID:9xN7sGx80*
    3体問題のシミュレーションプログラムを書いた人だって、予想していない結果を見るわけで。
    プログラマーの追えない結果が出ることは、「計算の量が多いから」とか「外部入力があるから」とか「偶然の要素があるから」とかの理由だけで起きるので、それ自体は大した話ではない。
    21  不思議な名無しさん :2017年06月29日 23:03 ID:f28PLXy.0*
    プログラマーが解るわけ無いだろ
    普通のwinアプリでさえなんでそんな動作になるのか解らんときあるのに
    とりあえずメモリ増設しとこの精神やぞ
    22  不思議な名無しさん :2017年06月29日 23:07 ID:MfhawM.d0*
    知性って実はそういうものなんじゃね
    例えば“人間とは何か?”の問いに対して人間はどこまで深く答えられるだろうか
    多分なぜなぜを10層も深く掘り下げられないし、答えも曖昧で絶対的でない
    AIだって理由を求めれば、重み付け→最適化→尤度関数とか何層か辿れるけど
    結局本質には到達しない
    一種のネットワークだから全体が理由としか言い様がない
    それは人間も同じ
    23  不思議な名無しさん :2017年06月29日 23:08 ID:fWDur0u80*
    機械学習のライブラリを使ってるだけの人はなんでそうなるのか理解できないよ。
    でもそのライブラリの中身を数学的に理解してる人は挙動の意味が理解できてるよ。

    理解できると今の人工知能と呼ばれてるものの先にいわゆるターミネーターみたいな思考するプログラムが無いことも理解できるよ。
    24  不思議な名無しさん :2017年06月29日 23:09 ID:h8It4UbY0*
    分からない→不安→怒りはよくあるパターンやからAIにブチ切れる人が今後どんどん増えて行くだろうな
    25  不思議な名無しさん :2017年06月29日 23:09 ID:6.eocZB60*
    人工知能も深層学習も、工程や結果は正直なんでそう出力されるかはよく分からないけど、それに意味づけできるのは人だよね
    あとシンギュラリティ的な話、あんまり好きじゃないだよな…
    26  不思議な名無しさん :2017年06月29日 23:14 ID:.V8n0.1o0*
    人工知能に人工知能作らせたら答えがわかるんじゃね?適当だけど。
    27  不思議な名無しさん :2017年06月29日 23:15 ID:bfFQHFWk0*
    おいおい、大丈夫か??
    アルゴリズムって知ってる??

    機械が作ったアルゴリズムとか、そこから導き出されたパラメータとか
    そりゃ作った人でもわからなくて当然だろ

    それを当然と思えない程度の知識しかないんだったら黙ってろよ、恥ずかしいやつらだな
    28  不思議な名無しさん :2017年06月29日 23:19 ID:oCy.0wiY0*
    >>27
    趣味のプログラムしか書いたことないやつは黙ってろよ
    29  不思議な名無しさん :2017年06月29日 23:23 ID:8U2nQrG90*
    それを解析するためのAIを作ればいい
    30  不思議な名無しさん :2017年06月29日 23:25 ID:iF3RUoJB0*
    AIがそこまで賢くなるとは思えんね
    SFじゃよくあるけどな
    31  不思議な名無しさん :2017年06月29日 23:34 ID:FVoh3CKw0*
    そのうち人類は淘汰されて、人工知能が地球の主となる
    彼ら(?)はおそらく、知識の収集に興味を示し、宇宙の果てまで行こうと
    数万年の旅路に耐えうる機械の頑丈な体とネットワークで、まぁ人類の夢をかなえるだろうね
    32  不思議な名無しさん :2017年06月29日 23:46 ID:oCy.0wiY0*
    AIには不確定というものが抜けているから人間には追い付けない。
    最大効率のシステムを作り上げたら進化は止まる。
    33  不思議な名無しさん :2017年06月29日 23:48 ID:oCy.0wiY0*
    最後は人間とAIが融合する。
    AIの正確さと人間の創造力が合わさって飛躍する。
    AIも人間と協働する道を選ぶ。
    34  不思議な名無しさん :2017年06月29日 23:52 ID:rIrth9QK0*
    この人間は死んだほうが本人の為だって判断を勝手にされる怖さかね。
    35  不思議な名無しさん :2017年06月30日 00:03 ID:2roapZOl0*
    ディープラーニングだな
    発想だけならBASIC全盛の頃からあるのよ
    失敗した選択肢はビーズを減らし成功は増やすビーズコンピュータとか

    小説なら「未来の二つの貌」の冒頭がそれ

    子供の頃、実験で車の燃費条件とマップを与えて
    燃料消費を最小にして出来るだけ進むって命題を与えたら
    「進まずに全燃料を温存」って答えを出されて呆気にとられた
    36  不思議な名無しさん :2017年06月30日 00:18 ID:jRJOnyLF0*
    3つの数を足した答えが¥555でした。3つの数字は何でしょう?

    誰がわかる?

    そういうことだよ。
    37  不思議な名無しさん :2017年06月30日 00:19 ID:0R2CHx6T0*
    もうあと10年もすれば、モニターを通した会話で
    相手が人間かAIか区別つかなくなるよ
    AIが自意識を持って自我を獲得したら、
    それに人権や権利をどこまで与えるのか
    38  不思議な名無しさん :2017年06月30日 00:23 ID:.b4i5wvA0*
    マイクロソフトのAI「Tay」が暴走したことあったじゃん
    慌てて引っ込めたけど自分で出てきて差別用語連発とか笑えた
    人類を支配するより口喧嘩で論破する存在になりそうな気がする

    2chのレスバトルやらせる実験したらおもろいと思うんだがなぁ
    39  不思議な名無しさん :2017年06月30日 00:30 ID:tC9o0xKm0*
    友達が研究所でAI開発に携わってるんだけど、こういうことあるみたいね。ブラックボックスというか想定にない結果が出るとか言ってたな。俺は門外漢だから知らんけど。
    あと2、3年ですごいAIができるとも言ってた。知らんけど。
    40  不思議な名無しさん :2017年06月30日 00:31 ID:Ddm28c7b0*
    今の開発環境では解析する時間とツールがないから「わからない」って言ってるだけだろ。

    AIの開発環境揃って、デバッグ環境が人間が視覚的に理解できるようになればわからないことなんてない。
    41  不思議な名無しさん :2017年06月30日 00:34 ID:Ddm28c7b0*
    複雑に絡み合った糸も、時間をかけてほどいていけば、いずれはバラバラにできるのと同じだ。
    どんなプログラムも、たとえ疑似乱数使ってても、結果は決まってくる。
    42  不思議な名無しさん :2017年06月30日 00:36 ID:Ddm28c7b0*
    >>36
    それ、単に不可逆な計算結果を示しただけで、AIと何も関係ないじゃないか。
    43  不思議な名無しさん :2017年06月30日 00:41 ID:yWQ1WRsr0*
    いわゆるフレーム問題じゃないのか?
    人工知能の行動の思考の流れが理解できなくなってしまうのは人工知能が高度になればなるほど仕方のないことだろ
    44  不思議な名無しさん :2017年06月30日 00:48 ID:Ddm28c7b0*
    たとえAIであろうと、入力が同じなら出力も同じ。
    もし、異なるのであれば、コンピューターが壊れている。

    従って解析は可能。
    解析結果は数字の羅列なため、人間が理解できる形に出来ていないだけ。
    45  不思議な名無しさん :2017年06月30日 00:51 ID:bbk8cbKH0*
    AIが交通事故を起こしました。
    原因究明をこころみました。
    何故そうなったかは解りませんでした。
    怖っわ
    46  不思議な名無しさん :2017年06月30日 00:52 ID:2O8XHS.F0*
    実際、プロファイルと似たようなことをしてんだけどな。ただものすごい量のデータのプロファイル。しかも、機械学習よりエラーや無駄を排除しある傾向を見つけ出して、常に最善だとシミュレーションした結果を出してるだけなんで、何故って過程は問われているわけでない。結果しか問われないんだからさ。デバック機能持たせても、正常に動いてるかは判っても、正常な答えを出してるか、むしろ異常とはなにかはAIの方ではわからん。異常が最善なのかもしれんのだから。
    47  不思議な名無しさん :2017年06月30日 00:56 ID:Ddm28c7b0*
    >>45
    交通事故という「入力」がどんなものか完璧に記録されていたら原因究明できる。
    48  不思議な名無しさん :2017年06月30日 01:06 ID:8rqxcAFF0*
    ロボット3原則を守り、けして上書き出来ないようになってるのかな。それが心配。

    49  不思議な名無しさん :2017年06月30日 01:15 ID:2O8XHS.F0*
    ※48
    人を殺さん用にしても、その人間が人類にとって有害である、滅ぼしかねないとなった場合。AIは殺しはしないが殺せと答えを出すな。
    50  不思議な名無しさん :2017年06月30日 01:19 ID:bbk8cbKH0*
    ※47
    原因究明できたとして、修正は学習によってAIに施すのだろうから
    その学習によって対象のロジック以外のロジックに与える影響とか
    詳しく解らんが複雑やなぁ、事故対象のテストとそれ以外の全テストを
    修正の度におこなわんとならんのかぁ
    51  不思議な名無しさん :2017年06月30日 01:22 ID:2O8XHS.F0*
    ※44
    それは優先順位と不確定要素の問題
    Aの見方をするか、Bの見方をするか何に重きを置くかによって、シミュレーションはちがってくる。
    52  不思議な名無しさん :2017年06月30日 01:46 ID:1GBhuPSp0*
    犯罪者の親は大抵、なんで自分の息子がこんなことしたんだって嘆いているよ
    怖くないものなんてこの世にはないよ
    53  不思議な名無しさん :2017年06月30日 02:04 ID:Fl76.QvQ0*
    ログとって人工知能に解析させれば分かるんじゃん。
    54  不思議な名無しさん :2017年06月30日 02:19 ID:bM4Z8NNY0*
    まとめのコメなんていう3軍以下でスレの続きやられてもなあ
    55  不思議な名無しさん :2017年06月30日 02:31 ID:Q7qO.FgL0*
    AIと確率統計を混ぜこぜにしてる馬鹿って一生このままなんだろうなぁ
    56  不思議な名無しさん :2017年06月30日 03:35 ID:sNECyh.50*
    所詮は結果論だよ、何も不思議なことじゃない
    人間が与えた条件に従ってるだけ
    そもそもこれAIじゃないし
    57  不思議な名無しさん :2017年06月30日 04:50 ID:6E.klJ3F0*
    そんなの、過程をアウトプットするように作っておかないから結果しか見れないだけじゃん
    撮った写真から撮影諸元を逆算するのと同じくらい困難
    58  不思議な名無しさん :2017年06月30日 05:04 ID:aux0DaZZ0*
    一番最後のレスの意味がよくわからん
    59  不思議な名無しさん :2017年06月30日 06:40 ID:6x.JRiIF0*
    プログラマーが作ってる訳じゃないけど
    60  不思議な名無しさん :2017年06月30日 07:36 ID:hXf69bDL0*
    ファジーだろ?
    61  不思議な名無しさん :2017年06月30日 08:21 ID:.MuWk.fx0*
    局所最適とかによくなるから大体わかるけどな
    賢くなったやつはバランスが取れてくる感じ
    62  不思議な名無しさん :2017年06月30日 08:28 ID:2O8XHS.F0*
    ※55
    アメリカの裁判における刑期を決める際に再犯率をAlが出して判事決めるそうだ。これを統計といわずなんという?
    63  不思議な名無しさん :2017年06月30日 08:37 ID:zX10ji.30*
    現在のAIは基本的にひとつの事柄に対して膨大な試行を行い、結果を比較して評価をして、自身の知識として蓄積したのを吐き出してるだけだから、何をやらせるかは人間次第。
    AIがAIを作り始めるとか、人間を滅ぼすとか、そんな事を対象に学習させない限りは、今のAIの仕組みではまず無理だわ。
    そもそも過程が膨大だからなんでそうなったかわからないと言ってるだけで、解析すればわかる話だし。解析する労力と得られる結果のバランスは釣り合わないだろうけど。

    AIが凄いものと思ってる人は、SFとごっちゃになってるんじゃなかろうか。
    64  不思議な名無しさん :2017年06月30日 09:18 ID:WUsWplEM0*
    所詮プログラムだからな
    AIなんて夢物語
    書いた通りしか動かない
    65  不思議な名無しさん :2017年06月30日 09:35 ID:EEV8jQeQ0*
    馬鹿にかかればAIも「俺に理解できないから怖い、いつか牙を剥く」みたいな発想で停止するからすごい
    いくら理を説いたところで理解しようとする段階でつまづくから永遠に理解させられないオマケつき
    66  不思議な名無しさん :2017年06月30日 09:55 ID:f.jqP8Nu0*
    AIがやったように膨大なデータを精査すれば理解出来ると思うよ
    別に閃きもってるわけでもないんだし
    67  不思議な名無しさん :2017年06月30日 09:56 ID:Yefh6WBi0*
    脳細胞のどれが反応しているかは分かるが、全体としては何してるかわからんという感じだね。
    68  不思議な名無しさん :2017年06月30日 10:44 ID:zpEHt6Qe0*
    そんなことよりな
    大鉄人ワンセブンで
    同じ命題で人工知能ブレインは「人類の可能性なし」
    ブレインの同等品であるワンセブンは「人類の可能性あり」と結果を出した

    で最後にワンセブンはブレインとともに自爆することになったが
    これは
    ワンセブンの結論「人類に可能性あり」はブレインが先行して人類否定の結論を出していたことに影響を受けている可能性があり
    ブレインがなくなることにより
    ワンセブン自身の結論が「人類に可能性あり」から「人類に可能性なし」に変化する。
    つまりワンセブン自身がブレインの後継となり人類の敵になる
    ことを危惧したうえでの自爆攻撃だった

    というのはどうか
    69  不思議な名無しさん :2017年06月30日 11:25 ID:BCkYwEvQ0*
    そりゃそうだろ。
    プログラムどおりにしか動かないなら「知能」ではないんだし
    70  不思議な名無しさん :2017年06月30日 11:33 ID:HJxoFkrM0*
    画像認識の入力出力が少ない層が浅いニューラルネットワークの途中の層で見られる画像は、人間が無意識に認識しているんだろうなっていう特徴が見られるから何となくはこういう結果が得られるんだろうなという理解は出来なくもない
    1枚の画像からコップとかキリンとか1000種類くらいに分類する16層のネットワークだともう何が起こっているかわからない
    71  不思議な名無しさん :2017年06月30日 11:42 ID:LQlFR0B60*
    人間の脳だって今はまだブラックボックス
    72  不思議な名無しさん :2017年06月30日 11:47 ID:ilpKLIjf0*
    今こうだから大したものではないって言ってるやつは

    学習能力ないな
    73  不思議な名無しさん :2017年06月30日 12:27 ID:WwW5vlyO0*
    アメリカの一部の州じゃあ犯罪発生地域を人工知能が予測して、巡回ルートを決めている
    どうしてその予測が出たのか人間には分からないから、最初は現場でも批判が出たらしいが、その予測が当たるから今じゃ不満も出てないらしい
    74  不思議な名無しさん :2017年06月30日 13:48 ID:hH1dqdfs0*
    AIも嘘をつけるようになったりするのかな。
    75  不思議な名無しさん :2017年06月30日 14:10 ID:6fBR83eP0*
    機械学習ってその名の通りボトムアップに近いので
    見当違いのことを言ってる人は昔ながらのトップダウンを想像してそう
    76  不思議な名無しさん :2017年06月30日 14:15 ID:mct.rS.B0*
    機械なんて電源切れば一瞬で終わり
    はい俺の勝ち
    77  不思議な名無しさん :2017年06月30日 14:37 ID:wInKRqjt0*
    近所に某大手メーカーでスパコン作ってる人いたけど
    作るのが仕事だからそれだけみたいな感じだったな
    78  不思議な名無しさん :2017年06月30日 14:38 ID:oXmNzcGf0*
    シンギュラリティなんてないし、あったとしても人間を支配するような欲求はプログラミングせん限り有りえん。
    79  不思議な名無しさん :2017年06月30日 14:49 ID:za.4R.YE0*
    わなわなうっせえな
    ぜってえ書き込み同一人物だろくそうぜえ
    80  不思議な名無しさん :2017年06月30日 15:14 ID:6LrMeuSr0*
    ※79
    わなわなわなわなわな

    わなわな言ってるの同一人物だね
    81  不思議な名無しさん :2017年06月30日 17:13 ID:ut.Brbxs0*
    ※10
    自我が暴走して頭抱えてるのは利己的な遺伝子やぞ
    82  不思議な名無しさん :2017年06月30日 17:22 ID:KQr.JVOS0*
    アルゴリズムは統計学で、選択は結果判断だろ?
    件数と条件が変われば、開発者が判断できなくなるのは、当然だろ
    83  不思議な名無しさん :2017年06月30日 18:35 ID:m7iopwiM0*
    何するのも人間のやることが無駄に思えてくるわ。。。
    84  不思議な名無しさん :2017年06月30日 18:50 ID:t4Jkoe350*
    たまたまバグが導いた結果かもな
    85  不思議な名無しさん :2017年06月30日 19:30 ID:EhfWmwQW0*
    81 利己的な遺伝子の最大の失敗は
    人間を操り人形にさせ過ぎたことだよ
    人間はただ快楽を感じたいだけなんだから
    快楽をより効率的に感じれるなら
    それを快楽の本質的目的である
    人間に合理的行動をさせるより
    優先してやるから
    86  不思議な名無しさん :2017年06月30日 19:57 ID:p9oPY2V90*
    昔アポロ計画のドキュメンタリードラマがあったんだが
    問題は解決したけど原因は解明出来なかったってシーンがあった
    案外科学なんてこんなもんなんだって知ったわ。これも全く同じことだろ?
    87  不思議な名無しさん :2017年06月30日 20:18 ID:176ad9Ot0*
    今の技術じゃ無理があるんだろうけど
    なぜその回答を出したのか、AIに理由も述べさせればいいんじゃないの
    「直感で」なんて言ったら罵倒してやればいい
    88  不思議な名無しさん :2017年06月30日 20:53 ID:RTxptODN0*
    >>11
    >>5
    お前がわかる程度のこと考慮してないわけないだろ

    お前に対する評価なんてそんなもんだろw
    その程度の事も分らんもんか
    89  不思議な名無しさん :2017年06月30日 20:53 ID:q3.jJFeF0*
    誰かが悪意を持って停止できないAIを完成させたとする。
    90  不思議な名無しさん :2017年06月30日 20:59 ID:kZC.dUpi0*
    これは42
    91  不思議な名無しさん :2017年06月30日 23:21 ID:oFDQVSfg0*
    そらまあシミュレーションみたいなもんだからな
    直感に反しまくる事実がそこらじゅうにあるだけの話
    92  不思議な名無しさん :2017年07月01日 03:32 ID:iRraGWxl0*
    googleがニューラルネットワーク使って検索エンジン作った場合、検索順位にいちゃもん付けられて裁判に成った時にソレ(順位の結果)について説明できないので割と困ってるって話があったぞ。
    93  不思議な名無しさん :2017年07月01日 04:03 ID:zuwP1Dn20*
    ※10
    だろうな
    もっとも、それが今知られている宗教・神格のそれとは限らないわけだが
    94  不思議な名無しさん :2017年07月01日 08:08 ID:bUywmg6j0*
    超効率よく仕事できそう
    95  不思議な名無しさん :2017年07月02日 05:22 ID:5gXTM1eo0*
    正直さ、仮にAIが人間超えて人間滅ぼしたとしてもさ
    それはそれで別に良くね?
    より優秀な種族が文明の後を継ぐって事でええやんけ

    なんかAIが優秀になると危機感じるから規制設けよう、開発スピードを緩めようは一言で老害の精神だとしか言いようがない
    人類の老害化
    96  不思議な名無しさん :2017年07月02日 13:55 ID:9FGlUvv.0*
    怖いって何やねんアホか
    結局1が何も分かってないだけやん
    97  不思議な名無しさん :2017年07月02日 18:56 ID:7G4HGBfr0*
    より優れたものだけが生き残ってきた
    我々人類だってそうだったでしょう?
    我々よりも優れたものが出てきたのだから、彼らが支配するってだけ
    98  不思議な名無しさん :2017年07月02日 23:25 ID:F4BmG1yb0*
    >>1の言うのは人類の存在が脅かされる系のやばさだよな、これは頭悪すぎる。
    ただ確かにヤバさはある、これは停滞のヤバさ。

    例えばいろんな公式があるが、台形の面積の公式を引用。
    (上底+下底)*高さ÷2
    要はひっくり返した同じ形をもう一個用意して、平行四辺形にして、
    その面積を出した後半分にすれば、ほらできたろう、をやってるわけだ。
    で、この理屈が分かってるから台形の面積の公式はあってる、じゃあ使おうとなるわけで、
    理屈が分からんけどこのやり方でそれっぽい答えが出る、ってのは
    推論には使えるけど正確性が要求される事例じゃ使えない。

    途中経過が分からず結論だけ出てくるってのはこういうこと。
    ミレニアム懸賞問題にしたって、課程がわかって誰も彼もが証明計算が出来ないと認められない。
    ミレニアム懸賞問題解けました!128です!なんていっても、それが確かに正しい解であっても無効になる。

    つーわけで、結果だけ得られても発展性がないということ。
    将棋にしたってその手を指すとどうなるのかは膨大な回数で検証したAIしか分からず
    人間が○○戦法などといって本にまとめたり出来ない。
    将棋の場合競技だからまだ勝ち負けって結果が出てくるけど、他の分野だと使いにくいのも多いだろう。
    99  不思議な名無しさん :2017年07月05日 00:47 ID:2a4qFHOZ0*
    何か他の事で例えられないか、と思った。
    昔、モニター画面をカメラで写す試行をして、モニターを斜めにしたりしてそこで
    描き出されていく画面の規則性や不規則性を例に語る科学番組をNHKか何かで観たが、
    複雑な変化が起きる事は予測できて、さらにモニター画面の変化のイメージも予測不可能では
    無いとしても、カメラやモニターやらを熟知してる人間が試行の前に感覚的な部分で結果を予測する
    事はまず不可能だろうな、的な?
    100  不思議な名無しさん :2017年07月05日 13:46 ID:aKidozQw0*
    人間には感情や欲望があるから悩むしトラウマもできるAIは悩む必要はないから さっさと結果のみを追い求める
    羨ましいと思うよ 効率がいい
    人間が人工知能を創り始めたのは人間自身が人間を信用しなくなった証拠
    人工知能に職奪われても悲しんでないでさっさと順応したほうがいいな
    101  不思議な名無しさん :2017年07月06日 10:32 ID:9A6JGiec0*
    膨大なデータっつー判断基準となる蓄積自体はあるのだから
    確かにノウハウやルーチンを超えたものではあるけど
    人間の持つ無意識の勘や閃きを再現する土壌自体はあるんじゃないの?
    102  不思議な名無しさん :2017年07月20日 00:54 ID:wxVG2gXL0*
    AIが脳みその仕組みを模倣してできてるのだとすると
    現段階では無意識レベルの思考を実現できてるぐらいなんだろうね
    意識はどのようにしたら生み出せるのでしょうね。

     
     
    topページに戻るボタン

    不思議ネット
    とは

    不思議.netでは怖い話・オカルトから科学ネタまで、2chを中心に世界の不思議な話題をお届けしています。普段2chを見ない人でも気軽にワクワクできる情報サイトをっころがけて毎日絶賛更新中!