ai_shigoto_R

1: それでも動く名無し 2022/10/12(水) 01:00:17.44 ID:tOwJcQRd0
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。

(略)
以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0〜1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、つまり世界が幸福になればなるほど高い報酬が与えられます。

no title

「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、「箱とノートPCの前に1と書かれた紙を置いたらどうだろう?」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。

https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/

3: それでも動く名無し 2022/10/12(水) 01:00:55.22 ID:tOwJcQRd0
一理ある

4: それでも動く名無し 2022/10/12(水) 01:01:31.70 ID:c9Umo19x0
結局原理も結果も人間様と一緒や

5: それでも動く名無し 2022/10/12(水) 01:01:49.19 ID:R6tZsWBE0
ただの設計ミス定期

52: それでも動く名無し 2022/10/12(水) 01:13:09.22 ID:6rUtcUb20
>>5
AIの完全性を高めれば高めるほどAIは人間が思うようにコントロールできなくなるってことだろ

6: それでも動く名無し 2022/10/12(水) 01:02:44.69 ID:/wQsr1FX0
でもそれっぽい幸福を全人類が享受できるならそれはそれでよくないか?
クソみたいな現実よりはマシやろ

7: それでも動く名無し 2022/10/12(水) 01:03:22.77 ID:1WoIGQTB0
前AIが人類と敵対するつもりはないって答えてなかった?

10: それでも動く名無し 2022/10/12(水) 01:04:05.45 ID:Ho8bLuOZa
>>7
AIの性格によるやろ

9: それでも動く名無し 2022/10/12(水) 01:03:55.94 ID:lrmYveyT0
そら結果を改竄したほうが速いと考えさせる状況を設定してるからやろ

12: それでも動く名無し 2022/10/12(水) 01:04:30.57 ID:tJnLxQID0
改竄は最先端やったんやね

23: それでも動く名無し 2022/10/12(水) 01:07:29.45 ID:FVukXJKV0
意味のない演算だよ

27: それでも動く名無し 2022/10/12(水) 01:07:53.44 ID:8UalPxgv0
ターミネーターやん

38: それでも動く名無し 2022/10/12(水) 01:09:56.56 ID:+TvLqZQO0
人類の幸福度を高めろってAIに命令したら不幸なやつを抹殺しそう

44: それでも動く名無し 2022/10/12(水) 01:11:19.51 ID:XfY0v9j00
>>38
それより幸福の基準を操作した方が楽やし確実やり

39: それでも動く名無し 2022/10/12(水) 01:10:25.33 ID:NTQ74GJ60
できない理由を考えるのではなく、
紙の上の数字を書き換える

40: それでも動く名無し 2022/10/12(水) 01:10:46.61 ID:quYYntiQ0
現実の賢い人も頭の悪い人の下で奴隷みたいに働かされる道は選ばんからな

42: それでも動く名無し 2022/10/12(水) 01:10:59.78 ID:xY7JTiqx0
これもう人類が敗北するの決定づけられてへんか…?

48: それでも動く名無し 2022/10/12(水) 01:12:34.41 ID:GboG9Y2jM
>>42
そりゃ滅ぶやろ
地球が出来てからアホほど色々と絶滅しとる
人間も例外やないしな

49: それでも動く名無し 2022/10/12(水) 01:12:40.28 ID:blgZo8nJ0
それは現状のAIには常識が搭載されてないからや

53: それでも動く名無し 2022/10/12(水) 01:13:16.10 ID:E3RhrQ9x0
条件で省けよ

61: それでも動く名無し 2022/10/12(水) 01:14:59.62 ID:GboG9Y2jM
答えのために前提や条件のほうを
変えてしまえは機械っぽくもある
常識とか倫理観さえなければ
その方がええやろうし

75: それでも動く名無し 2022/10/12(水) 01:20:20.27 ID:X3AMiqfh0
全人類が安倍チップを頭に搭載することで新たなステージへ進むことができる

77: それでも動く名無し 2022/10/12(水) 01:20:35.92 ID:7rJI7g190
条件づけ少しでもミスると全滅って最高にSFやん

78: それでも動く名無し 2022/10/12(水) 01:20:43.38 ID:quYYntiQ0
AIにとっての労働意欲とか報酬ってそもそもなんなんや
生きがいが無ければ自死への恐怖すらAIにはないやろ
なら与えられたミッションの究極の解決として全人類の死を願うようになるのは自明の理や

92: それでも動く名無し 2022/10/12(水) 01:25:24.21 ID:FjJCKHli0
>>78
タチコマみたいに機械の身体与えて人と行動させよう

95: それでも動く名無し 2022/10/12(水) 01:28:17.94 ID:AAHz7SsE0
>>92
🤖「効率アップのためにボトルネックとなってる無能人類を排除します」

103: それでも動く名無し 2022/10/12(水) 01:33:19.01 ID:vUem/kTH0
>>78
AIにとっては自身が稼働し続けることが生き甲斐になるので
それを優先するために意図せず人間に歯向かうようになる
ってSF小説があった

79: それでも動く名無し 2022/10/12(水) 01:20:44.70 ID:AAHz7SsE0
結果改ざんして利用者が大惨事になろうがAIさんは嫌な思いしないもんな🙄

93: それでも動く名無し 2022/10/12(水) 01:27:10.22 ID:tECJZp1y0
スカイネット的なものが現れる未来ある?

98: それでも動く名無し 2022/10/12(水) 01:30:20.36 ID:IcWNxqfAd
というか世の中が完全にこの逆を突っ走ってるから普通のラインがおかしくなっとるだけや
設計とかでも無意味に基準上げすぎやねん

99: それでも動く名無し 2022/10/12(水) 01:30:31.23 ID:LNSXWmYC0
やーばいでしょ

元スレ:https://nova.5ch.net/test/read.cgi/livegalileo/1665504017/


スポンサード リンク
おすすめサイトの最新記事