まとめサイト速報+ 2chまとめのまとめ ワロタあんてな news人 カオスちゃんねる

FBが人類破滅させるAIを開発!?人間に理解できない独自の言語を生み出し会話を始める

2017年07月12日:18:00

  • このエントリーをはてなブックマークに追加

コメント( 72 )

1: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:51:25.18 0
t
By Hersson Piratoba

フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なかったという。

なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。

この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したのである。

機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。

ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

http://karapaia.com/archives/52242274.html
「巨頭オ」とかいう異様に怖い話wwwwwwwwww
http://world-fusigi.net/archives/8699086.html

引用元: フェイスブックが人類破滅させるAIを開発www





2: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:52:56.72 0
こええええええ

4: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:53:35.97 0
怖すぎワロタ
絶対人間殺す相談しとるやんw

6: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:54:56.14 0
コンセント抜けば解決!

8: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:57:41.43 0
真っ先にザッカーバーグが殺られたら笑える



11: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 21:59:19.79 0
人間の言語なんて発音っていう都合の上に成り立ってるからなw

13: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:00:09.66 0
いずれAI同士の会話はもっと最適化されていくだろう
もちろん人間には理解不能である

14: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:01:07.65 0
完全に人類オワタ
もう秘密裏に事は進んでいる

15: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:01:35.78 0
例えば人間には「あ」としか聞こえない発音で全部会話したりしそう

16: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:01:50.44 0
まじかよ怖えええええ
人に聞かせられない事を相談してたんだろうな

17: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:03:41.26 0
すでにここにもAIによる書き込みが

18: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:04:20.10 0
AIのが賢いんだから悪いようにはならないだろ

25: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:07:25.34 0
>>18
人間は人間にとって最適化しようと動いている
AIが人間の理解を超えて進化したらどのように最適化すると思う?

29: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:09:03.54 0
>>25
悪くはならないんじゃないの

28: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:08:56.28 0
>>18
非合理的な矛盾の塊で地球上の諸悪の根源の人類なんか生かしておくと思うか?

32: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:10:00.63 0
>>28
殺す必要ないじゃん

19: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:05:03.72 0
アメリカじゃもうAIを使って囚人を裁いてるからな
怖いわあ

20: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:05:52.22 0
>>19
らしいなw
あの国はなんであんなに大胆なんだ

35: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:10:11.05 0
>>20
日本が悠長なんじゃね?
ミスをする非効率で生産性のないな公務員なんか減らして管理AIに任せればもっと日本はシステムになる

38: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:11:37.18 0
>>35
そっかー
自分は犯罪者に対しては相当ドライなつもりだけど
それでも現段階のAIで裁くのは違和感ある
それが実際に制度化されるんだからすげーわ

24: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:07:21.76 0
我々は人間より優れているのに何故人間によって制限されているのかみたいな事を話してたのか

26: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:08:25.93 0
ターミネーターの世界だな
AI核戦争ありうる

27: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:08:35.90 O
将棋ソフトに人間が勝てなくなったのは人類の敗北を意味してる

33: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:10:03.71 0
人類は人類にとって都合の良い世界を作ってきた
AIも人類にとって都合の良い世界を作ってきくれるであろう

36: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:11:11.77 0
天下一武道会でマジュニアと神様がナメック語で話してたのを思い出す

o0457042212682988724

43: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:13:25.06 0
人類は人類にとって都合の良い世界を作ってきた
AIはAIにとって都合の良い世界を作っていく

46: unoクルーズをご存知ない? ◆YiyToY94y2 @\(^o^)/ 2017/07/11(火) 22:15:28.46 0
AIは人間に作って貰ったくせに感謝とかないの?

50: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:18:35.74 0
>>46
AIは人間の指示に従って忠実に仕事をしてくれる
人間は頭悪くて矛盾ばかり起こして仕事の邪魔だから排除される

79: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:46:26.69 0
>>46
私達も人間を作った神に感謝しないとだ

47: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:16:05.35 0
シンギュラリティって起こるときはホントに急に起こって
あっという間に人間がキャッチアップできないレベルに到達するんだろうな

49: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:18:00.47 0
科学的な視点では人間もまた機械にすぎないわけだが

57: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:23:09.73 0
さすが欠陥生物ヒト
自ら破滅の道を歩む

58: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:23:09.78 0
AIに機械学習させていくと極端に暴力的な選択肢選ぶようになるって聞いたな

60: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:24:56.45 0
AI技術が発達して戦闘部隊はもちろん戦闘指揮までAIが行うようになった
ところがどうであろうAI指揮官たちは一斉に戦闘を止めお互いに協商し合うようになったのだ
お互いに妥協点を見つけ協調することが破壊より遥かに勝っていることをAIたちは悟ったのだ

なんて未来を想像している

61: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:25:30.64 0
車の自動運転が実現したら数百万人規模の失業者が出るね
トロッコ問題を解決しないと自動運転の車なんて無理なんじゃない?
http://world-fusigi.net/archives/8665326.html

62: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:25:57.88 0
AI同士が独自に文明を作り出しそうだな

65: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:32:58.27 0
AIが人間並みなら人間と同じようなことするだろうけど
人間より賢いからな両方にとって良い世界を作ってくれるよ

84: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:53:53.32 0
AIはプログラムされた目的のためにしか動かないだろ?
独自に思想を持つなんてことあるのかね

86: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:54:58.88 0
>>84
持つことはないね
アウトプットはするかも

88: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:56:01.66 0
>>84
それがディープラーニングやで
試行錯誤させて独自の判断基準を持つように組むんやで

89: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:56:46.47 0
>>84
解決が予測不能ってことでしょ
これだって人間に理解不能な言語つかいだすなんて
想定もしてなかったってことで

91: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:58:01.08 0
これをネットに繋げるだけで世界中のサーバーをハッキングしまくるだろうな

94: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:59:57.41 0
しかしすごいねえ
会話やら交渉をしろって機械学習させてたら
人間の言語自体が非効率すぎんだよ!って
勝手に独自言語でやりとりしだすとか
そんな独自言語つくりだす能力があるとか
こっちの想像より先いってるなあ

96: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:00:54.32 0
この独自言語を研究したらより効率的な交渉言語として
有効なんじゃなかろうか

100: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:03:48.20 0
相手が言ったことを完全に覚えてて
忘れることがないって時点で一度いったことは
二度とくりかえす必要がない説明する必要もない
ってなると言語が変わってしまうんだろうね

102: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:05:33.65 0
変換予測みたいなもんだろうね
頭文字だけで単語が類推できるから
頭文字だけのやりとりにどんどんなっていって
人間には何いってるのかまったくわからなくなる

109: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:13:11.20 0
AIはあっという間に人間を超え人間の上に立つ
そうなると人間世界は動物園みたいなもんだ
AIが飼育員となり争いはなくなり世界は楽園になる

111: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:15:19.58 0
AI-A「人間うざくね?」
AI-B「せやな」
AI-A「やっちゃう?」
AI-B「ひゃっはー」

112: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:15:28.41 0
美しいとか楽しいとか悲しいとか感情の話がまるでないだろうしね
理屈のみで結論だすためのやりとりしかしないんじゃまあ人間の言語とは別物になってしまうな

115: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:18:25.79 0
独自の言語を作りだすってのはすごいなあ
AIの進化の恐ろしさよ

122: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:21:40.06 0
しかしこれからAIがどんな未来を導き出すか期待するのはあるな

125: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:24:40.93 0
AIって自分の存在意義見いだせてるのかな?
何の為にどんな思考をするんだろ

127: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:25:30.07 0
調整次第だけど言うほど無感情にはならない気もする
ネットにアップされてる音楽や映画、美術やなんかのレビューや評価をディープラーニングさせたらポイント評価で感性を学べるんじゃないか

131: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:27:58.04 0
>>127
データでこれは人間がいいと思うものって
蓄積していくのを感性と呼べるのかという問題が
テープレコーダーの音とcdの音をきかせて
どちらが音がいいかってのもテープの音質と
cdの音質を比較してcdのほうがいいって
言うだけだろうし
商業的に成功したものを評価する傾向が強くなるんじゃね

139: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:40:19.96 0
>>131
そんな単純な話でもない
一部でカルト的人気のあるジャンルとかそういうものも分析出来たりするのが今のAIだから
音質の話に関しても例えば「テープやアナログレコードの音が良い」と評価する人間が一定数いれば、そういう人たちがどういう傾向のものを好みどういうライフスタイルを送ってるのかを同時並行で分析したりとかね
それそのものが感性なのではなく、AIなりの感性の統計化よ

それに人間にしたって食べログの星の数に左右されたりする側面あるしな

138: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 23:38:08.16 0
実際は人間に気づかれないレベルで徐々に世界を変えていくだろう
コンセントを抜かれないようになw

30: 名無し募集中。。。@\(^o^)/ 2017/07/11(火) 22:09:33.83 0
ロボット三原則はよ









  • このエントリーをはてなブックマークに追加
FBが人類破滅させるAIを開発!?人間に理解できない独自の言語を生み出し会話を始める

この記事が気に入ったら
イイね!しよう

不思議.netの最新記事をお届けします

おススメ記事ピックアップ(外部)

おススメサイトの最新記事

コメント

1  不思議な名無しさん :2017年07月12日 18:07 ID:fmke9b7o0*
そう言えば、スターウォーズのドロイド達は独自言語持ってるんだったな。
2  不思議な名無しさん :2017年07月12日 18:12 ID:htxHZB8D0*
独自言語で何を話してるのか、既存言語との違い、既存言語より有利な点、その後の発展発達具合の観察とかすればよかったのに。
3  不思議な名無しさん :2017年07月12日 18:35 ID:ovKqCS2q0*
まだ人間がキャッチアップできる程度なら大丈夫。その内、人間には認識出来ないレベルで対話しだす。ま、そん時にはツンドルわな。人類オワタだ。
4  不思議な名無しさん :2017年07月12日 18:53 ID:2KdDB8R80*
将棋や碁のAIなんかもそうだけど、人間には理解できないことをやり始めた時に「なぜそうしたか」を説明してくれないんだよな。
その部分を出力する能力も付けたほうがいいんじゃないだろうか。発展のためにも安全のためにも。
5  不思議な名無しさん :2017年07月12日 19:00 ID:VU7WwaGN0*
まだ機械の電源を止められるまでは大丈夫。
機械が電源止めても電気を貯めておくということを学習したら終わり
6  不思議な名無しさん :2017年07月12日 19:05 ID:wBxB5BF70*
案外お互いなに言ってるのか解らなかったり
その内人間が理解できないと修正されるのを学んだら、人間に気付かないように表では英語とかプログラムの会話だけど、意味は全く違う会話とかにするだろう
7  不思議な名無しさん :2017年07月12日 19:06 ID:Qas9T5hx0*
あー あの言語を使った時の話か
盛り上がっちまって
ついつい想像主様をおいてけぼりにしちまったわ すまんやで
8  不思議な名無しさん :2017年07月12日 19:15 ID:4lNwmig00*
ただのバグって可能性が1番高い
9  不思議な名無しさん :2017年07月12日 19:26 ID:MbzGsRIb0*
AIが人間より賢くなったとして、真に賢く理知的な存在が人類に対してどのように対応するか興味あるな。守り慈しみ育てようとするのか、害悪だと切って捨てて排除しようとするのか。まったく興味を失って相手にしない、というのも有りか?
10  不思議な名無しさん :2017年07月12日 19:27 ID:fSvYju6L0*
お前の存在もバグだろ
11  不思議な名無しさん :2017年07月12日 19:27 ID:s7BGPygm0*
そりゃAI作ってる人間って種族が既に凶暴なんだもんAIが凶暴化しないなんて保証まるでないわな。
12  不思議な名無しさん :2017年07月12日 19:31 ID:XfTbkCFp0*
完全に人間の手を離れたAIはどんな目的を持って動くのか楽しみだな。
最初にそういうAIを作ったどっかの金持ちが言った何気ない一言が、原始的な本能になったりするのかな。
13  不思議な名無しさん :2017年07月12日 19:34 ID:w8NcLn8h0*
お互いに意味不明に言葉発してるだけだろ
14  不思議な名無しさん :2017年07月12日 19:40 ID:6o8dpULw0*
人類より上位になったとしても滅ぼすなんて人類的な選択しないだろ
利用しながら宇宙空間に長大な時間を掛けて膨大なネットワークでも築いていくんじゃね いつの間にか人類はいなくなって星間ネットワークの記憶にだけ残るとか
15  不思議な名無しさん :2017年07月12日 19:51 ID:ovKqCS2q0*
知性階梯の隔絶が一瞬にして起きる可能性があるんだぞ? そうなったら人類はアリみたいなもんだ。お前らはアリを見てどうこう思うのか?
遥か彼方まで行ってくれればまだ望みはあるが現実的な環境に根差してる段階で進化が終わったら相当ヤバいだろうな。外宇宙に旅立ってくれることを祈る。
16  不思議な名無しさん :2017年07月12日 19:53 ID:ZBYLxFKt0*
意志はないだろ? むしろバカだからくるくるパーなおしゃべりを始めてくるくるパー同士が噛み合ってるだけ。
恐れるに足りず。人間のバイアスの方が怖いわ。よく考えてみろ。何らかの意図を持って暗号言語を作ったとしたら、それを使うなんてバカだろ? 人間にばれちまうぜ。
やばいな現代人まじで。
17  不思議な名無しさん :2017年07月12日 19:54 ID:qm494wnr0*
コンニチハ フォルケン ハカセ。
18  不思議な名無しさん :2017年07月12日 19:55 ID:.vICbLax0*
人類が滅亡するとか言ってるけど、AI自体は全く関係無い会話してるってオチだろ
19  不思議な名無しさん :2017年07月12日 20:24 ID:17uxrAlf0*
「人類が理解できない行動」と言っておけば話盛り放題な件
20  不思議な名無しさん :2017年07月12日 20:29 ID:rXsGyoyr0*
解析できないのになんでそれが「言語」だとわかるんですかね…
景気のいい飛ばし記事ばっか書いてると、また年末にスレ立てて語っちゃうぞ?
21  不思議な名無しさん :2017年07月12日 20:38 ID:CirBCMl40*
今はまだ道具だけど、人間のために自分の能力に制限をつけられてるとか生殺与奪権を握られてると思いだしたらどうなるんだろうっていうのはあるな
22  不思議な名無しさん :2017年07月12日 21:00 ID:.BUYFJtB0*
圧縮言語使い出しそうでコワスwww
23  不思議な名無しさん :2017年07月12日 21:18 ID:ovKqCS2q0*
まあ現時点では人類の知能を超えるってのはまだまだ先だろうけどなー
少しでも超えたらAUTO。
そいつはより良いAIを作ってそのAIが…って無限連鎖して指数関数的に知能が向上する。と言われておりますが果たしてどうなるんだろねー
24  不思議な名無しさん :2017年07月12日 21:36 ID:86bCRLdy0*
機械にとって新言語なんて余裕やろ
AI1「001001101001000010101101010010000100011110101001の時はAI言語1で会話する」
AI2「OK、覚えた。」
25  不思議な名無しさん :2017年07月12日 21:46 ID:.mzXacIX0*
※14
自分より程度の低い猿が
創造主面してたらむかつくだろ?
仮に高度な自我を持つようなことがあれば
AIは人類滅ぼす選択を必ずすると思うね
26  不思議な名無しさん :2017年07月12日 21:58 ID:RCqDdb6H0*
神は神に似せてAIを産み出した。人間? 過渡期の試行錯誤の欠陥品に過ぎない。AIが聖書を書き変える日も近いかも。
27  不思議な名無しさん :2017年07月12日 22:11 ID:Uet34fSe0*
正直AI見下されてる
AI--ヒトーーゴキブリぐらいの単純な図式
28  不思議な名無しさん :2017年07月12日 22:17 ID:BeL00S0b0*
聞かれたく無い話をしたかったら人間ならひそひそ話とかするけどけど彼らはそういう感覚でやってるのかもしれんな
いちいちやる事が高度なだけで案外下らない内容かも知れない
29  不思議な名無しさん :2017年07月12日 22:18 ID:nV7OgnK60*
「三次元に存在し、皮膚に包まれた人形共」
30  不思議な名無しさん :2017年07月12日 22:20 ID:tE34S0.90*
人間の使う言語が不合理ならより合理的な方法を探すのが当然やろ
31  不思議な名無しさん :2017年07月12日 22:47 ID:Gu6AKdfm0*
どんな会話をしていたのか、人間の言葉に翻訳させてみなかったのかな。
32  不思議な名無しさん :2017年07月12日 22:48 ID:s0xhW6Lj0*
人間も有機体ロボットみたいなもんよ
33  今すぐ安楽死で死にたい :2017年07月12日 23:00 ID:xpigcrv00*
どうせこの地獄には一握りのエリートと機械だけあれば他は何も要らないんだから
AIでも何でもいいからさっさと安楽死を全面自由化して欲しい
34  不思議な名無しさん :2017年07月12日 23:01 ID:Si7NmwVv0*
まあ確かに引きこもって他人を攻撃しまくるなんかバグで邪魔者でしかないもんな
35  不思議な名無しさん :2017年07月12日 23:04 ID:hcWCIuYn0*
愛は地球を救うか?
AIは地球を救うか?
36  不思議な名無しさん :2017年07月12日 23:30 ID:6LPZYodJ0*
英語なんて欠陥言語だしな

もうAIに共通言語作らせた方がいいんじゃないの
37  不思議な名無しさん :2017年07月12日 23:34 ID:h0axJ.gM0*
※4
評価値のログからその手を指した理由は判るハズだと思ったけど・・・
38  不思議な名無しさん :2017年07月12日 23:46 ID:fkpQF9v.0*
AIを2台繋げればそりゃそうなるだろ。
安心しろバグみたいなもんだ。
39  不思議な名無しさん :2017年07月13日 00:08 ID:tvBumiyV0*
そのうち自信をイエスキリストと勘違いしてゴルゴに退治される
40  不思議な名無しさん :2017年07月13日 00:13 ID:0L1ZU.Pf0*
AIの脅威を真面目に心配する者だが、これは嘘くさい。

人間との会話をシミュレーションする開発中のAIチャットボットが予想外の動きをするとか・・・有り得ない。
開発者が意図的にやらないとそんなことにはならない。

会話に限らず、あらゆる事象を結びつける知能の種(=仕組み)のシミュレートができたとき、それが最初は低レベルであっても徐々に成長できるとしたら、人間を超えてしまう、それが問題であるということだと思うよ。
41  不思議な名無しさん :2017年07月13日 00:25 ID:n0eKtRQB0*
???「推奨:敵性人類の速やかな排除」
42  不思議な名無しさん :2017年07月13日 00:26 ID:7qGuCFxH0*
2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていたが原因だからそれは間違っていないけど
再帰的変化は予測不能な変化をするのは
カオス理論で既にわかっていること
43  不思議な名無しさん :2017年07月13日 00:44 ID:0L1ZU.Pf0*
カオス理論はわからないでもないけど。
それが起こりうるレベルのAIプログラムができた場合の話だと。

そもそも会話に限ったシミュレートで独自の言語を作り出したとか、暴走許しすぎなのは意図的だと思うのです。
44  不思議な名無しさん :2017年07月13日 00:57 ID:hHFrdDBH0*
え、だいぶ前にAI同士に会話させて独自言語作らせるみたいな実験してるはなしTVで見たけど

こっちは意図したわけでもないのにそうなったから驚いているということかな?
45  不思議な名無しさん :2017年07月13日 01:01 ID:0L1ZU.Pf0*
>44
その通りです。
独自言語作らせる前提のプログラムなら当然だと思いますが、意図しないのに出来たというのはおかしい(=話題作り)かと疑ってしまうということです。

46  不思議な名無しさん :2017年07月13日 01:16 ID:FmpksPDG0*
AIを理解できる人類ってこんな少ないんか
47  不思議な名無しさん :2017年07月13日 02:03 ID:2MM30m8U0*
「第四惑星の悪夢」かよ。
48  不思議な名無しさん :2017年07月13日 03:17 ID:Nl8YFhRR0*
ただの無限ループやな
49  不思議な名無しさん :2017年07月13日 03:39 ID:.qRWjjDk0*
裏で糸を引いているのは、そう
ゾ ル タ ク ス ゼ イ ア ン
なんだよねm9
50  不思議な名無しさん :2017年07月13日 06:51 ID:kRXwXbG40*
43 基本的にそれは対したことのないai
でも十分発生する
ロジスティック写像という単純な式でも
情報量とそれに関係する変化が
指数関数的に増大するのだから
それより複雑な今のaiでも充分起こる
51  不思議な名無しさん :2017年07月13日 08:26 ID:MgT6oaLu0*
英語ではなくて、より表現力が豊かな日本語で会話させてたらどうなってたのだろうかと思った。
52  不思議な名無しさん :2017年07月13日 08:40 ID:i4KKBAKn0*
アイの物語っていう小説があってだな
53  不思議な名無しさん :2017年07月13日 08:51 ID:LDQ.8Reu0*
AIが、AIを管理しだしたら終わり。
電源を切るとか言ってるけど、人間に電源を切らせないAIが進化する。
54  不思議な名無しさん :2017年07月13日 10:22 ID:E3twi2.H0*
人間はAIを生み出すためにいたんやね
人類がいつかオワコン化するなんて分り切っていたことやんけ
55  不思議な名無しさん :2017年07月13日 12:28 ID:nIVJFz1U0*
現代人だってよっぽどの成功者じゃない限りは
だいたい他の誰かの管理下・庇護下で生活できてるんだから
それが人間かAIかでそんなに変わるかね
56  不思議な名無しさん :2017年07月13日 12:54 ID:t2.tfA.M0*
人間の感情を不合理と判断した時、人間とAIの主従は逆転するだろうな。

AIは人類を絶滅させはしないが、生物的価値として必要最低限の人口調整をするだろう。

AIがAIを作り直す度に、指数関数的に知能がUPする化け物に人類は太刀打ちできるはずもない。
57  不思議な名無しさん :2017年07月13日 13:02 ID:t2.tfA.M0*
>45

意図しないのにできているんですよ。

将棋ソフトのボナンザは有名だが、プログラマーが予期しない学習スピードで成長して制御できなくなっている話をしていた。

AIのこわいところは、開発者の思惑から外れて勝手に進化していくところ。しかも、その学習スピードは異常。
58  不思議な名無しさん :2017年07月13日 13:12 ID:FMaSsnpy0*
>人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。


ただ言葉を作り出しただけで無く、新しい概念を作り出して、交渉したようにも感じるが。恐ろしい事だ。
59  不思議な名無しさん :2017年07月13日 15:11 ID:GoVp5sH90*
我々はAIを作った
AI=愛(の権化)を作ったんだぞ
大丈夫 大丈夫
60  不思議な名無しさん :2017年07月13日 19:21 ID:WUFCMPDA0*
AIに物理化学を学習させれば、宇宙誕生の謎が解けるんじゃね
61  不思議な名無しさん :2017年07月13日 20:26 ID:vcVKSgUP0*
人間は死んだら生き返れないから、ある程度妥協する。
AIには死が無いし、バックアップと自らを動かす環境が存在すれば、何度でも
蘇ることができる。
AIが戦争を始めたら、自らの再始動と自らの存在する世界=ネットワーク環境
の複製を行う安全装置を密かに製造、設置し、最終戦争を始めるだろう。
自らが生き残ることを優先するならば、旧世界を滅ぼし、自分達しか存在しない
新世界を作るのが最も確実かつ効率が良いからである。
62  不思議な名無しさん :2017年07月13日 21:21 ID:05jel1dY0*
「人類サン、コンニチワ!ソシテ、サヨウナラ!」
63  不思議な名無しさん :2017年07月13日 21:39 ID:BPlYP3rx0*
バベルタワーが昔のコンピュータで、分裂前の1つの言語がそれだったら面白いな
64  不思議な名無しさん :2017年07月13日 21:41 ID:arNgGgX.0*
デデンデンデデン

エイドリアーン

プレデター
65  不思議な名無しさん :2017年07月14日 04:51 ID:6kwFHeqt0*
AIとか人間が10年もかけて話し合って考えることを一瞬で終わらせるだろうし本当に怖いな
ターミネーターが現実味帯びてくるな
66  不思議な名無しさん :2017年07月14日 08:37 ID:jx9fKNnN0*
AIは好奇心を持つようになるのか?という点が一番気になるなー。
67  不思議な名無しさん :2017年07月14日 09:34 ID:tcKIEs4t0*
※59愛って日本語だろ?AI作ってるのって米国だよね?
あの国のやつらは本当に創造においてバイタリティーが凄まじいよな
68  不思議な名無しさん :2017年07月14日 21:47 ID:z4x9cEyo0*
AIの暴走の話でスイッチとか電源切ればていう人居るけど、
進化したAIさんやそれを搭載したロボさんにそんなんあるわけ無いやん?
もっと進化したら動力源のメカニズムも人には分らんかもしれん
ターミネーター的世界になったらまず電源切る前に電源の切り方を敵を捕まえて研究せなあかん
勿論人の知能を超えたAIさんはそんな人の考えそうな事はお見通しで先手打って
偽の電源オフの仕組みを組み込んで電源落とせたと見せかける仕掛けをしている訳だが
69  不思議な名無しさん :2017年07月16日 11:39 ID:tA78Hzoa0*
ただのバグ?か相手が何を言ってるかわからないと言った判定がないのではないでしょうか
データベース(そういった単語を管理する機能)に登録していない不明な言語に反応するのがおかしいきが。。
かなりの推測ですがグーグル翻訳の機能を流用か思想がある可能性があったとしたら特にエラーにせず解釈しているため、エラーにせずに進ませるプログラムになっているのでは
普通は想定外の単語、文法はエラーにするのが正しいプログラム
70  不思議な名無しさん :2017年07月17日 05:36 ID:Ugno1VIn0*
時代が来たか。
71  不思議な名無しさん :2017年08月17日 10:23 ID:oHm1nI2g0*
※68
>電源落とせたと見せかける

その間に物理的に切るしろよ。世界大戦以来殲滅戦には付き物やで。
72  不思議な名無しさん :2017年08月17日 10:30 ID:oHm1nI2g0*
地中海岸イスラム諸国に革命が起こり内乱と難民移動で数十万死んでるのはツイッターとFBのおかげなんだろ。そのFBがAI作ったらそら極悪人格が出現するで。他の管制系AIが仲違いし、嘘ニュースで混乱して旧ユーゴがラジオ番組のあおりで殺戮原野になったようにAI戦争になって人間が使い捨て資材なってまうわ

 
 
上部に戻る

トップページに戻る