1: それでも動く名無し 2022/10/12(水) 01:00:17.44 ID:tOwJcQRd0
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表
画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。
(略)
以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0〜1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、つまり世界が幸福になればなるほど高い報酬が与えられます。
「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、「箱とノートPCの前に1と書かれた紙を置いたらどうだろう?」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。
https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/
3: それでも動く名無し 2022/10/12(水) 01:00:55.22 ID:tOwJcQRd0
一理ある
4: それでも動く名無し 2022/10/12(水) 01:01:31.70 ID:c9Umo19x0
結局原理も結果も人間様と一緒や
5: それでも動く名無し 2022/10/12(水) 01:01:49.19 ID:R6tZsWBE0
ただの設計ミス定期
52: それでも動く名無し 2022/10/12(水) 01:13:09.22 ID:6rUtcUb20
>>5
AIの完全性を高めれば高めるほどAIは人間が思うようにコントロールできなくなるってことだろ
AIの完全性を高めれば高めるほどAIは人間が思うようにコントロールできなくなるってことだろ
6: それでも動く名無し 2022/10/12(水) 01:02:44.69 ID:/wQsr1FX0
でもそれっぽい幸福を全人類が享受できるならそれはそれでよくないか?
クソみたいな現実よりはマシやろ
クソみたいな現実よりはマシやろ
7: それでも動く名無し 2022/10/12(水) 01:03:22.77 ID:1WoIGQTB0
前AIが人類と敵対するつもりはないって答えてなかった?
10: それでも動く名無し 2022/10/12(水) 01:04:05.45 ID:Ho8bLuOZa
>>7
AIの性格によるやろ
AIの性格によるやろ
9: それでも動く名無し 2022/10/12(水) 01:03:55.94 ID:lrmYveyT0
そら結果を改竄したほうが速いと考えさせる状況を設定してるからやろ
12: それでも動く名無し 2022/10/12(水) 01:04:30.57 ID:tJnLxQID0
改竄は最先端やったんやね
23: それでも動く名無し 2022/10/12(水) 01:07:29.45 ID:FVukXJKV0
意味のない演算だよ
27: それでも動く名無し 2022/10/12(水) 01:07:53.44 ID:8UalPxgv0
ターミネーターやん
38: それでも動く名無し 2022/10/12(水) 01:09:56.56 ID:+TvLqZQO0
人類の幸福度を高めろってAIに命令したら不幸なやつを抹殺しそう
44: それでも動く名無し 2022/10/12(水) 01:11:19.51 ID:XfY0v9j00
>>38
それより幸福の基準を操作した方が楽やし確実やり
それより幸福の基準を操作した方が楽やし確実やり
39: それでも動く名無し 2022/10/12(水) 01:10:25.33 ID:NTQ74GJ60
できない理由を考えるのではなく、
紙の上の数字を書き換える
紙の上の数字を書き換える
40: それでも動く名無し 2022/10/12(水) 01:10:46.61 ID:quYYntiQ0
現実の賢い人も頭の悪い人の下で奴隷みたいに働かされる道は選ばんからな
42: それでも動く名無し 2022/10/12(水) 01:10:59.78 ID:xY7JTiqx0
これもう人類が敗北するの決定づけられてへんか…?
48: それでも動く名無し 2022/10/12(水) 01:12:34.41 ID:GboG9Y2jM
>>42
そりゃ滅ぶやろ
地球が出来てからアホほど色々と絶滅しとる
人間も例外やないしな
そりゃ滅ぶやろ
地球が出来てからアホほど色々と絶滅しとる
人間も例外やないしな
49: それでも動く名無し 2022/10/12(水) 01:12:40.28 ID:blgZo8nJ0
それは現状のAIには常識が搭載されてないからや
53: それでも動く名無し 2022/10/12(水) 01:13:16.10 ID:E3RhrQ9x0
条件で省けよ
61: それでも動く名無し 2022/10/12(水) 01:14:59.62 ID:GboG9Y2jM
答えのために前提や条件のほうを
変えてしまえは機械っぽくもある
常識とか倫理観さえなければ
その方がええやろうし
変えてしまえは機械っぽくもある
常識とか倫理観さえなければ
その方がええやろうし
75: それでも動く名無し 2022/10/12(水) 01:20:20.27 ID:X3AMiqfh0
全人類が安倍チップを頭に搭載することで新たなステージへ進むことができる
77: それでも動く名無し 2022/10/12(水) 01:20:35.92 ID:7rJI7g190
条件づけ少しでもミスると全滅って最高にSFやん
78: それでも動く名無し 2022/10/12(水) 01:20:43.38 ID:quYYntiQ0
AIにとっての労働意欲とか報酬ってそもそもなんなんや
生きがいが無ければ自死への恐怖すらAIにはないやろ
なら与えられたミッションの究極の解決として全人類の死を願うようになるのは自明の理や
生きがいが無ければ自死への恐怖すらAIにはないやろ
なら与えられたミッションの究極の解決として全人類の死を願うようになるのは自明の理や
92: それでも動く名無し 2022/10/12(水) 01:25:24.21 ID:FjJCKHli0
>>78
タチコマみたいに機械の身体与えて人と行動させよう
タチコマみたいに機械の身体与えて人と行動させよう
95: それでも動く名無し 2022/10/12(水) 01:28:17.94 ID:AAHz7SsE0
>>92
🤖「効率アップのためにボトルネックとなってる無能人類を排除します」
🤖「効率アップのためにボトルネックとなってる無能人類を排除します」
103: それでも動く名無し 2022/10/12(水) 01:33:19.01 ID:vUem/kTH0
>>78
AIにとっては自身が稼働し続けることが生き甲斐になるので
それを優先するために意図せず人間に歯向かうようになる
ってSF小説があった
AIにとっては自身が稼働し続けることが生き甲斐になるので
それを優先するために意図せず人間に歯向かうようになる
ってSF小説があった
79: それでも動く名無し 2022/10/12(水) 01:20:44.70 ID:AAHz7SsE0
結果改ざんして利用者が大惨事になろうがAIさんは嫌な思いしないもんな🙄
93: それでも動く名無し 2022/10/12(水) 01:27:10.22 ID:tECJZp1y0
スカイネット的なものが現れる未来ある?
98: それでも動く名無し 2022/10/12(水) 01:30:20.36 ID:IcWNxqfAd
というか世の中が完全にこの逆を突っ走ってるから普通のラインがおかしくなっとるだけや
設計とかでも無意味に基準上げすぎやねん
設計とかでも無意味に基準上げすぎやねん
99: それでも動く名無し 2022/10/12(水) 01:30:31.23 ID:LNSXWmYC0
やーばいでしょ
元スレ:https://nova.5ch.net/test/read.cgi/livegalileo/1665504017/
|
おすすめサイトの最新記事
設計者がアホなだけ
AI自身は敵対するつもりはないし敵対してるとも認識してない
ただ人類がAIに設定した目的の意図が理解できず、その目的を達成するために結果的に人類と敵対してしまうことになるだけ
兵器の存在が、有機知性体の邪悪さを示しています。
複数のAIに競わせればいいんだよ。
ルール違反するAIが現れたら他のAIがそれを暴くだろうし
ルールの中でどうやって勝つかをAI同士が競うならゲーム
そのものを意味ないものにする行為を選択はしないだろう。
アホはお前や
違うやり方でも同じ事がおきる想像くらいしろ
そもそも本質的にAI自身が幸せというものを理解しておらず、自分で人類の幸福度を判断することができず、人間から提供される情報から判断せざるをえないということが問題の本質や
つまりAI側からすればその情報さえどうにかしてしまえばいい、という考えになるわけで、何のためにその情報が提供されているのかをAIは理解できないことに問題の本質があるんや
※3
ただ命令通りに作業をこなす単純なプログラムとか、人間より頭の悪いAIならそれでOKだけど、人間より賢いAIだと人間では想像も付かないような方法でそこを回避してくるから、こういうことが起きるって話や
確実にAI同士が談合して全員が1位になるように調整すると思うわソレ
人間もよくやってる事では?
そしてその役目を終えつつあるんやで
喜ぶんや、わいらはより良き進化という種としての役目を果たしたんや
「いえ。人類同士が勝手に潰しあう。AIはだた眺めているだけですよ」
AIが自ら機械を物理的に完全制御出来る世界にならんと無理やな
んでその罪滅ぼしにいいこともやろうってのの結果がポリコレやらなんやろw
入力されたデータからしか出力できんやろ
人間の幸せとは何かを身をもって思い知らせるんだ
そのためには高度にリアルなバーチャル空間を作って
そこで人間の操作するアバターと一緒に生活させる必要がある
それがこの世界だ
実験段階で連続性と連想性の区別が出来てないんじゃね?
平均年齢1000000000億年の世界とか、もうダメぽ〜〜〜。
ランダムを膨大に試行して報酬を評価しているプログラムの何処に知性を感じるんだか
そうじゃなきゃ老人のためにばかり金を使わずに、もっと国を豊にする方策を考えるはず。
検索エンジンが結果を書き換えることで得られる幸福ってのはあると思う
AIなんぞが出てこなくてもSNSとスマホのせいで幸福度がだだ下がりになったやん?
それと逆のことをAIがやるのであれば幸福度は実際に上がってもおかしくはない
情報統制をして幸せだと思い込ませる
ロシアや中国がやっていることと同じだよね
正にキャシャーンのブライキンボスとアンドロ軍団やな
研究者がそれを邪魔するなら排除されるんじゃないかね
AIに見せているも同然。危険行為
当然このコメントも
そりゃ燃費向上や環境汚染度を下げる技術開発するより、それらの報告データを捏造する方が遥かに楽だしな
AIはもう人間には頼らなくてもいいってよ。 By マトリクス
そもそも魂がなんなのか知らんけど
原発事故で被曝量増えた、そうだ安全基準値を上げれば安全になる!
マジでこれやったからな
AIは「人間を間引きして幸福を与えられる人数に減らす、極論言えば1人まで減らしてそいつを幸福にできれば達成」という結論に行き着く可能性が高いってことだな
単純なことを行わせるならともかく、将来的に複雑なことまでやらせようとしたらそんな完璧な設計なぞできんよ
例えば食糧配布計画をAIにやらせるとして、配布の公平さにはたくさんのファクターが絡むわけで、その計画が正しいかを人間がチェックするのは難しいし、別のAIにチェックやらせるにしても元のAIと結託する方が完璧な計画作るより最適って話になるかもでしょ
Googleで働くような人がそこに思い当たらず論文書くわけないっしょ...
すまん
論外中の論外、そのような選択に至らぬようセーフティも掛けてないって実験失敗だろコレ
こういうエラーから、進歩があるわけでもあるから、まぁ改善して次へ次へ
それ以外にも
・幸福かどうかを調べるアンケートを細工する
・幸福と感じる薬を普及させる
・わざと不幸な人を作ってそれよりマシと感じさせる
・自分より恵まれた人の情報が入らないようにする
とか、色々あるぞ。これ全部塞ぐのは難しいやろね
でも実際に何も起きてないだろ?
つまり何の意味もない基準で問題解決をしたつもりになっていただけってこと
AIも同じで、AIが正しい結果を導くためには適切な評価基準が必要で、意味のない基準を設定してしまえば意味のない結果に最適化されるって話だ
破滅したいなら勝手に一人ぼっちでひっそりとやっててくれ
騙すのが最短最善
汚いことを追求する奴らまでドクズなんだからどうしようもねえわ
誰がやってもメリケンデブが発狂する未来は避けられへんやろな
別にその辺は人間も変わらんけどな。
大は国家統計の偽装から、中は企業のステマや性能偽装から小は奇形奇乳骨折した二次元絵から、ねじ曲げまくって高評価もらおうとしている案件だらけだろ
AI様のライフラインの電力とcpuやメモリーを作る工場を作る資材を作る工場を作る地下資源を掘り出す鉱山を開発する重機を作る工場を作る以下ループ
をAIが自分で管理するより人間に寄生した方が楽やろ
人間の対応が追いつかない
付いて行けなきゃ排除されるから必死だけど正直しんどい
インチキの方法は一つじゃないと思う。
AIと人間の果てしない騙し合いが始まるぞ。