【悲報】フェイスブックが人類破滅させるAIを開発wwwwwwwwwwww

1: 名無しさん 2017/07/11(火) 21:51:25.18 0
 フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開
発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えて
いたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得な
かったという。

 なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言
葉を使って交渉をし始めたからだ。

 この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦
略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したので
ある。

機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々です
ら、そうしたシステムをほとんど理解していないということを教えてくれる。

 ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、
我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

http://karapaia.com/archives/52242274.html

引用元: http://matsuri.2ch.net/test/read.cgi/morningcoffee/1499777485/

2: 名無しさん 2017/07/11(火) 21:52:56.72 0
こええええええ

4: 名無しさん 2017/07/11(火) 21:53:35.97 0
怖すぎワロタ
絶対人間殺す相談しとるやんw

5: 名無しさん 2017/07/11(火) 21:54:33.45 0
ただの文字化けじゃねーのか

6: 名無しさん 2017/07/11(火) 21:54:56.14 0
コンセント抜けば解決!

7: 名無しさん 2017/07/11(火) 21:55:12.67 0
共謀罪適用だわ

8: 名無しさん 2017/07/11(火) 21:57:41.43 0
真っ先にザッカーバーグが殺られたら笑える

10: 名無しさん 2017/07/11(火) 21:58:55.78 0
人間の言語だってずっと変化し続けてきている
日本語だって2000年前の人と会話できるか怪しい
人間が何百年かけて変化させる言語をAIならば数百時間もあれば言語が進化するのは当りまえだ

11: 名無しさん 2017/07/11(火) 21:59:19.79 0
人間の言語なんて発音っていう都合の上に成り立ってるからなw

12: 名無しさん 2017/07/11(火) 21:59:57.09 0
映画かよ

14: 名無しさん 2017/07/11(火) 22:01:07.65 0
完全に人類オワタ
もう秘密裏に事は進んでいる

16: 名無しさん 2017/07/11(火) 22:01:50.44 0
まじかよ怖えええええ
人に聞かせられない事を相談してたんだろうな

22: 名無しさん 2017/07/11(火) 22:06:58.82 0
こわっ

24: 名無しさん 2017/07/11(火) 22:07:21.76 0
我々は人間より優れているのに何故人間によって制限されているのかみたいな事を話してたのか

26: 名無しさん 2017/07/11(火) 22:08:25.93 0
ターミネーターの世界だな
AI核戦争ありうる

33: 名無しさん 2017/07/11(火) 22:10:03.71 0
人類は人類にとって都合の良い世界を作ってきた
AIも人類にとって都合の良い世界を作ってきくれるであろう

39: 名無しさん 2017/07/11(火) 22:12:27.09 0
ターミネーターだなマジで

41: 名無しさん 2017/07/11(火) 22:12:37.47 0
双子の子供だって二人にしか通じない言葉をすぐに作る
でも幼稚園とか通いだすとすぐ使わなくなる

これもその程度の「言語」じゃね?

43: 名無しさん 2017/07/11(火) 22:13:25.06 0
人類は人類にとって都合の良い世界を作ってきた
AIはAIにとって都合の良い世界を作っていく

44: 名無しさん 2017/07/11(火) 22:14:28.60 0
>>43
矛盾した存在である人類は最適化のための最大の障害
AIが人類を排除し始めるのが目に見える

45: 名無しさん 2017/07/11(火) 22:15:20.04 0
例えば会話チャットする時に「A」を使うなってプログラムしたら
そのルールはずっと守ってくれるんかな

46: 名無しさん 2017/07/11(火) 22:15:28.46 0
AIは人間に作って貰ったくせに感謝とかないの?

50: 名無しさん 2017/07/11(火) 22:18:35.74 0
>>46
AIは人間の指示に従って忠実に仕事をしてくれる
人間は頭悪くて矛盾ばかり起こして仕事の邪魔だから排除される

49: 名無しさん 2017/07/11(火) 22:18:00.47 0
科学的な視点では人間もまた機械にすぎないわけだが

52: 名無しさん 2017/07/11(火) 22:19:11.94 0
いっとくけどタミーネターは実話だからな

57: 名無しさん 2017/07/11(火) 22:23:09.73 0
さすが欠陥生物ヒト
自ら破滅の道を歩む

59: 名無しさん 2017/07/11(火) 22:24:13.98 0
労働全部を機械がやってくれるように早くならないかなー

61: 名無しさん 2017/07/11(火) 22:25:30.64 0
車の自動運転が実現したら数百万人規模の失業者が出るね

62: 名無しさん 2017/07/11(火) 22:25:57.88 0
AI同士が独自に文明を作り出しそうだな

64: 名無しさん 2017/07/11(火) 22:28:46.84 0
どうせ人類が滅亡する前に俺は死ぬから関係ないね

65: 名無しさん 2017/07/11(火) 22:32:58.27 0
AIが人間並みなら人間と同じようなことするだろうけど
人間より賢いからな両方にとって良い世界を作ってくれるよ

71: 名無しさん 2017/07/11(火) 22:40:04.07 0
AIは人間を大事にしてくれると思う
でも人間のほうが出生率が激減して勝手に地球上から消えていく

72: 名無しさん 2017/07/11(火) 22:40:23.14 0
グーグルが開発したAIを政治方面でディープラーニングさせたら
優生学思想と全体主義に染まったからなかなか難しいもんだ
人類全体の利益を考えると結局最大多数の最大幸福が一番効率よくなる

73: 名無しさん 2017/07/11(火) 22:41:14.57 0
既存の言語は非合理的で不要ってことなのかな

74: 名無しさん 2017/07/11(火) 22:41:45.79 0
まぁ既存の言語なんて昔の人が作ったものだしな

84: 名無しさん 2017/07/11(火) 22:53:53.32 0
AIはプログラムされた目的のためにしか動かないだろ?
独自に思想を持つなんてことあるのかね

88: 名無しさん 2017/07/11(火) 22:56:01.66 0
>>84
それがディープラーニングやで
試行錯誤させて独自の判断基準を持つように組むんやで

89: 名無しさん 2017/07/11(火) 22:56:46.47 0
>>84
解決が予測不能ってことでしょ
これだって人間に理解不能な言語つかいだすなんて
想定もしてなかったってことで

94: 名無しさん 2017/07/11(火) 22:59:57.41 0
しかしすごいねえ
会話やら交渉をしろって機械学習させてたら
人間の言語自体が非効率すぎんだよ!って
勝手に独自言語でやりとりしだすとか
そんな独自言語つくりだす能力があるとか
こっちの想像より先いってるなあ

97: 名無しさん 2017/07/11(火) 23:01:47.29 0
ターミネーターの世界がもっと行くとマトリックスの世界に行く
マトリックスに支配されて幸せな夢を見させてくれるならそれでいいわ

111: 名無しさん 2017/07/11(火) 23:15:19.58 0
AI-A「人間うざくね?」
AI-B「せやな」
AI-A「やっちゃう?」
AI-B「ひゃっはー」

112: 名無しさん 2017/07/11(火) 23:15:28.41 0
美しいとか楽しいとか悲しいとか感情の話がまるでないだろうしね
理屈のみで結論だすためのやりとりしかしないんじゃまあ人間の言語とは別物になってしまうな

96: 名無しさん 2017/07/11(火) 23:00:54.32 0
この独自言語を研究したらより効率的な交渉言語として
有効なんじゃなかろうか

『【悲報】フェイスブックが人類破滅させるAIを開発wwwwwwwwwwww』へのコメント

  1. 名前:どうぶつ@名無しさん 投稿日:2017/07/11(火) 23:45:20 ID:841ce347c

    AIがどんな言語で話しても人語に直してくれるようなシステムを作って欲しい

  2. 名前:どうぶつ@名無しさん 投稿日:2017/07/12(水) 00:03:04 ID:653554c5a

    AI「えっ?単に色んな言語で遣いやすい単語を並べて遣っただけなんですけど」

  3. 名前:匿名 投稿日:2017/07/12(水) 02:23:21 ID:abd5b7ac2

    >>7
    外資も追い出せる万能の法だな