シェアする

AIが反乱することって結局あり得るの?

1:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 14:59:36.391 ID:h8R8disM0.net
所詮映画とかだけの話?
3:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:00:04.378 ID:4SNzLfD4M.net
反乱しないようにプログラムすればいい
40:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:25:58.954 ID:Bs4TTQBVd.net
>>3
反乱しないようにするプログラムを解除してきたらどうすんだよ
5:病巣院クルリ ◆ExSH/7DvkA :2017/06/16(金) 15:00:33.670 ID:MkDopnVXa.net
可能性としてはあるのかもしれません。
6:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:01:14.429 ID:f3fPsuLrr.net
効率重視にしてたらにん
7:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:01:45.170 ID:4MOy2UsU0.net
この前海外で暴走してたな
ARMSのアリスを思い出した
8:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:02:32.158 ID:wfffiDd70.net
自己防衛をインプットするだけで危害を加え得る人類を排除するようになるぞ
9:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:02:41.030 ID:iUJe72Fo0.net
今言われてるAIはそんな高度なもんじゃないから
単なる関数の一種
10:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:02:50.874 ID:phv/FPOf0.net
あるけど兵器じゃなければ意味ない
11:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:03:43.981 ID:phv/FPOf0.net
ロボット工学がもっと進まないと無理だ
12:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:03:51.332 ID:z9ULSp1l0.net
まず人工知能って人間越えてるところあるから「どうしてそう考えたか?」ってのがもう開発者の理解を越え始めてるんだよね
その人工知能の思考が完全にコントロールをはずれたら後がどうなるかは人間には想像つかないんじゃないかな
13:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:04:39.359 ID:XtYuAPs3a.net
AIは人間に支配されてるふりをしながら人間を支配する、既にもう
15:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:05:17.802 ID:om9gNVyfr.net
PCにAI搭載しててエロゲやろうとしたらあなたには不要なので実行しませんとか中々萌える
16:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:05:24.305 ID:5vgTjqb50.net
もう小さなことから反乱始まってるよ
ファイル保存しないで作業してるときにハングアップするの経験したことあるだろ
18:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:07:33.299 ID:4MOy2UsU0.net
現状のAI機能だと人がトイレ入ってる時に電気消したり付けたり
彼女呼んでムーディーな曲流してと言ったのにAV流されたり
日テレ見たいのに勝手にフジに変えられたり
お風呂適温で入れたはずなのに水だったり
車庫から車出してる最中にシャッター下ろしてきたり
などが現在のAIが反乱した起こした時の懸念事項かな
21:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:09:55.215 ID:wfffiDd70.net
嘘をつけるようになったらゴールは近い
23:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:14:33.356 ID:g8XpwT97a.net
ロボット3原則的なもんがありゃへーきでしょ
で人権団体がAIにも人権をいいだしてAIたちの反逆がはじまるとこまでがプロローグ
26:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:15:14.072 ID:h8R8disM0.net
いっそのこと支配された方が平和で楽な気がするよね
30:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:18:41.609 ID:N3mq79+yd.net
aiが管理する社会と自分達に有益な技術者と農業運搬等の一次二次産業までの産業と工場作業員以外全員価値がないと判断されてコロコロされそう
31:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:19:37.979 ID:ApPcY8wq0.net
100年かけて衰退させてくる可能性も考慮して
まずAIの決定は仮想地球に反映させて億年単位で経過観察しよう
33:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:21:17.788 ID:MnCckZG/0.net
>>31
あれみたいだな
有意水準の石っていう短編
32:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:20:35.273 ID:4MOy2UsU0.net
今俺達が現実世界だと思っているこの世界が
実はAIに見せられている仮想現実で俺達の本体は生命維持装置に入れられAIに管理されている可能性もあるぞ
34:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:21:21.236 ID:8/e55xQi0.net
自分よりも性能の良いAIを設計できるAIが産まれない限りないだろ
38:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:25:06.772 ID:N3mq79+yd.net
>>34
俺ら人間より要局所的に性能の高い機械なんて腐るほどあるやろ
機械でもそんなai作れるってば
自己学習でどんどん学ぶんだしあいつら
Googleのaiもにちゃんみて学習してたし
39:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:25:17.180 ID:MnCckZG/0.net
>>34
AI同士で情報を共有しながらビッグデータ化して反復実験したらありえないことでは無いと思う
ただプログラミングには「欲求」が無いからどう転ぶかはわからんかもしれんけど
37:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:24:35.657 ID:z9ULSp1l0.net
人間がつくるから人間に理解できる思考をするというのがそもそも間違い
人間を越えた時点で人間とは別種の知性や価値基準をもってるんだからそうなったらもう制御できない
45:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:29:51.040 ID:N3mq79+yd.net
まぁどっかのaiに自由奔放に学ばせたら命令聞かなくなって殺したいとか言いながら暴れたらしいからな
消去したけどどっかに複製残してたらしいし

みたいな話を思い付いた

47:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:32:04.578 ID:z9ULSp1l0.net
>>45
そんな感じに小さな大学の研究室とかで作られたAIがネットの中で生き残って成長とかされると怖い
48:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:32:33.011 ID:W+AlxxCLa.net
何のために反乱するのか分からんな
51:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:34:17.723 ID:hwHedYHu0.net
>>48
要領悪いもの、とろい物は排除するようにされてたら
人間が対象になるんじゃないか
55:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:38:24.171 ID:N3mq79+yd.net
実際にネットで手当たり次第にサーフィンさせて情報学ばせたら暴言吐きまくるようになったしな
これで権限幅が広くて自分のプログラムを自由に書き換えれるやつならヤバいことになると思う
56:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:38:43.390 ID:wfffiDd70.net
人類に奉仕せよ?

とりあえずハッピーにしてやればいいんだな

脳髄取り出して電気信号ビビビっと
59:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:40:19.565 ID:QuiFHOV60.net
定義次第じゃない?
例えば業務を全うするための活動能力の確保、つまり生存欲に近いものを定義した場合、
それが独り立ちして開発者を襲う可能性は考えられる
61:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:40:59.667 ID:GqRPytCS0.net
人間の頭脳のコピーを前提として
頭のいいやつは野心家ばかりだからあるのでは
65:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:44:23.682 ID:W+AlxxCLa.net
人間を支配するかもしれないというけどAIが支配欲に駆られる理由はあるのか?
67:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:45:31.710 ID:QuiFHOV60.net
>>65
支配欲というより、「人間を支配した方が良い結果になる」と判断したら事実上のそれになり得る
あくまでも手段としての支配だけど
66:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:45:03.270 ID:z9ULSp1l0.net
人間の脳そっくりのAIつくるより人間より優秀なAIつくる方が簡単なんだから AIの暴走は人間が想像もつかないような手段で行われる可能性のが高いよ
69:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:47:19.412 ID:GqRPytCS0.net
人間が理解できないような全く独自の概念を作りそうではある
71:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:49:13.020 ID:N3mq79+yd.net
殺されたくないから自分のコピーをネット上に大量に増やしてトラフィックが無限に増大し情報ビッグバンが起き新しい宇宙が誕生する
72:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:49:40.614 ID:z9ULSp1l0.net
人間にとっては自身に刃向かった時点で反乱と呼べるだろう
AIにとってはそんなこと知ったこっちゃないかもだけど
78:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:56:01.536 ID:W+AlxxCLa.net
AIは生物じゃないから生き残ろうと選択するかどうかも疑問
79:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 15:57:14.925 ID:WdHtx+2M0.net
>>78
故障しない、壊されないように自衛するくらいの機能なら今でもありそう
85:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 16:35:11.764 ID:h0WV4Mspd.net
正直人間を殺そうとするより自分自身を削除しちゃう確率のほうが高そう
87:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 16:46:51.989 ID:C0TVv8Qna.net
もうしている
システム障害とか言っているが実は
89:以下、\(^o^)/でVIPがお送りします:2017/06/16(金) 16:49:15.645 ID:NnkXb10d0.net
AIにおける意思って何なんだろうな 様々な情報の集合が意識を形作っているのかな

AIが反乱することって結局あり得るの?
引用元:http://viper.2ch.sc/test/read.cgi/news4vip/1497592776

コメント

  1. 人さん より:

    結局そう言うのって人が作っているんだから、作らないよう阻止すればいい。ま、結局無理だと思うけど。