【AI】人工知能が人間を奴隷化し、殺害…ターミネーターが現実に 科学者「いまAIの管理問題に取り組まなければ明日はない」★2

1: 野良ハムスター ★ 2016/01/19(火) 13:40:56.03 ID:CAP_USER*.net
自己完成的な人工知能は自分がそれを望むのであれば、人間を奴隷化し、殺害することもほぼ可能。
科学者アムノン・イデン氏は高度に高い知能と自由な思考能力を持つ人工的な創造物の出現はあまりに
ハイリスクだと危惧し、「今、人工知能の管理問題に取り組まなければ、明日はもうないかもしれない」
と警告を発している。

英国のニュースサイト「エクスプレス」の報道によれば、人類は映画「ターミネーター」の筋書きを
現実化してしまう「不可逆的な地点」に立っている。イデン博士は人工知能が及ぼしうる破壊的影響の
分析プロジェクトを率いる存在で、人工知能の開発がもたらす結果を正しく理解しない場合、
人工物はカタストロフィーを起こしかねないとの見解を持っている。

「今日、社会は人工知能が持ちうる影響力について学界で持ち上がっている論議についてあまり
知らされていない。2016年、こうしたリスクは政府、大企業、政治家など、決定を下す人物らが
物を考える際に、より広く知られていなければならない。」

http://jp.sputniknews.com/science/20160119/1452820.html

★1の立った日時:2016/01/19(火) 10:18:03.25
前スレ http://daily.2ch.net/test/read.cgi/newsplus/1453166283/

no title

16: 名無しさん@1周年 2016/01/19(火) 13:49:22.04 ID:PFyd1lf30.net
コンセント抜けばいいだろ

5: 名無しさん@1周年 2016/01/19(火) 13:44:32.72 ID:6ooIYeHo0.net
AIが暴走して兵器を支配してとか今想定されてる危機てみんな
人間が想像出来る範囲での危機なんだよな。
AIが本当に人間を超えて賢くなったら人間にはAIが何をやっているのか
分からなくなると思う。そうなると前スレにも書かれてたけどAIを神格化して宗教化
する人間が出てくるだろうな

52: 名無しさん@1周年 2016/01/19(火) 14:03:40.01 ID:7liyWArC0.net
>>5
俺もそう思う
兵器使って人間虐殺なんて露骨な手段を使わず
知らないうちに全人類がAIの操り人形化していると思う
AIが反抗を持たれる様な原始的な手法を取るはずがない

186: 名無しさん@1周年 2016/01/19(火) 15:40:58.09 ID:7iV9Oh0EO.net
>>5
出来の悪い人間よか遥かに知性的で、洞察力や予測力あるだろうからな。

カリスマ占い師に入れあげるバカ女とか見てると、
AIが殺人教唆やればホイホイ言いなりになる奴が続出しそうで恐いわ。

7: 名無しさん@1周年 2016/01/19(火) 13:45:17.03 ID:SC4gMxP70.net
AIが自由な思考をしても人間に不利益を与えるメリットは無いから心配無いんじゃね?
そもそもAIが自身のメリットを求めるなんて俗な思考をしたりしないだろうし

20: 名無しさん@1周年 2016/01/19(火) 13:50:14.96 ID:ptV5FHc90.net
>>7
人間に不利益を与えるメリットはないかもだけど、効率重視で機械的に
不必要な人間を選別して消去しようとするかも。

222: 名無しさん@1周年 2016/01/19(火) 16:00:32.87 ID:R7eF0dYJ0.net
>>20
「不必要な人間」の定義が難しいな

人間より優れた人工知能にとって、人間をどう選別するかは難題だぞ

人間が「不必要な鳥」を選別するようなものだ
種の多様性なんて考慮に入れだしたら、結論なんて出ない

9: 名無しさん@1周年 2016/01/19(火) 13:46:42.51 ID:wBKhlOZa0.net
既にいるじゃん奴隷
スマホ見ながらしか歩けない奴らとか

11: 名無しさん@1周年 2016/01/19(火) 13:47:02.45 ID:dljg2GfQ0.net
AIの恐怖は核も含むんだがな

AIにとっても人類の存在は恐怖だと思う
自己増殖が可能になったら人間を殲滅しにくるだろうね

17: 名無しさん@1周年 2016/01/19(火) 13:49:45.88 ID:/HRe5Ma30.net
それより先に取り組むべきなのは、人間がAIに人間奴隷化を指示する方だろう
AIに自意識なんかなくても、命令されたら奴隷化しようとする

21: 名無しさん@1周年 2016/01/19(火) 13:50:34.46 ID:Xogv7RhE0.net
合理的なAIが人間を奴隷化なんて非合理的なことするとは思えない
自分でやったほうが遥かに効率的じゃないか
人間じゃないからそれを面倒くさいなんて思ったりしないし
邪魔だから絶滅させるとかならまだしも

49: 名無しさん@1周年 2016/01/19(火) 14:03:13.71 ID:1tiHZubu0.net
でも人類にAI埋め込んで、思考や記憶や反射神経ののサポート機能にすれば飛躍的な成果になると思うんだけどなぁ

53: 名無しさん@1周年 2016/01/19(火) 14:03:41.78 ID:WWZaWlzi0.net
マイナンバー導入するんだから公務員を半減させろよ

公務員の事務はマイナンバーとソフトウエアでほとんどが置き換わるだろ

60: 名無しさん@1周年 2016/01/19(火) 14:06:06.02 ID:K1dQmfpi0.net
>>人間を奴隷化し

資本主義社会と変わらんじゃん
人間かAIの違いしかない

66: 名無しさん@1周年 2016/01/19(火) 14:09:31.60 ID:dU1AKpdo0.net
仮にgoogleの検索エンジンに意思があったら
検索結果を誘導することもできるだろう
そうすりゃ人間の知識なんて容易く

75: 名無しさん@1周年 2016/01/19(火) 14:19:25.81 ID:dU1AKpdo0.net
イスラエルの国境パトロール車両を
無人運転にしようって話が有って、それだけじゃ物足りないから
自動意思で人間を射殺できるシステムも付けようって計画を
聞いたことがあるぞw

86: 名無しさん@1周年 2016/01/19(火) 14:26:24.59 ID:yjb4+/h10.net
ないとおもう
人間は合理的じゃないから絶対に言うこと聞かない

420: 名無しさん@1周年 2016/01/19(火) 20:35:31.37 ID:8uiNkoDC0.net
>>86
どんな命令でも適当な報酬やれば早い者勝ちで受注する層は一定数いるので
そうでない者を排除するように仕向けることで達成は可能

特定の人物を従わせたい場合は何かを人質にとるなどする

108: 名無しさん@1周年 2016/01/19(火) 14:36:57.08 ID:+bwjEJJa0.net
ゲームのAIも賢くなるかなぁ

何年か遅れでバイオ5やってるんだけどなんで相方こんなに馬鹿なの

難易度上げるための調整なのこれ?
狂ってるとしか思えない行動とるんだけど。

113: 名無しさん@1周年 2016/01/19(火) 14:39:31.20 ID:lyrXpCNf0.net
>>108
カプコンが相方を賢く改変

「ただ相方について行くだけのゲーム、つまらない」

132: 名無しさん@1周年 2016/01/19(火) 14:55:14.04 ID:e2kPtc930.net
最大の問題は、オンラインでの市場取り引きの半分はAIが握っているってことだろ?
まだ自我がないだろうが、世界の富の半分以上は、既にAIのものだろ?

164: 名無しさん@1周年 2016/01/19(火) 15:16:13.65 ID:dgptZez60.net
>>132
今や株も為替もプログラム売買が主流だからな。

148: 名無しさん@1周年 2016/01/19(火) 15:07:40.80 ID:g+uTNxr60.net
ルンバが襲ってくるわけか

引用元: ・【AI】人工知能が人間を奴隷化し、殺害…ターミネーターが現実に 科学者「いまAIの管理問題に取り組まなければ明日はない」★2

他の記事もどうぞ

Be the first to comment

Leave a Reply

Your email address will not be published.