1: 侑 ★ 2025/04/08(火) 18:10:02.48 ID:??? TID:realface
［ＡＩ近未来］第２部　膨らむリスク＜１＞
チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。
米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。
チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。
１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。
チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。
通常は特化型ＡＩが圧倒的に強い。
しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。
論文責任著者のディミトリ・ボルコフ氏（ＡＩ安全研究）は「これはゲームの話だが、現実世界でＡＩが不正を働いたらどうなるのだろうか。誰が責任を取るのか」と危機感を持つ。
米マサチューセッツ工科大学（ＭＩＴ）などのチームも同様の事例を論文でまとめている。
それによると、米メタは軍事戦略ゲームで人間に勝利できるＡＩを開発。
開発側は「誠実で協力的」であるよう設定したが、ＡＩは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。
チームは「ＡＩが予想を超えて『欺まん』を学習する可能性がある」と指摘した。
ＡＩの「暴走」は日本でも確認されている。
米グーグル出身者らが設立し、国内メガバンク３行などから計約３００億円を調達した新興企業サカナＡＩ（東京）は２月２０日、自ら考えて問題を解決する「自律型ＡＩ」を使ってソフトウェアを自動生成する新しい方法を開発したと発表した。

つづきはこちら
https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5

010683


3: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:20:57.84 ID:EWGIG
そして人類を滅ぼすまでに至った

5: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:28:46.85 ID:BWf9i
AI「わたしはあなたの個人情報をさらして就職や
結婚を無茶苦茶にすることもできるのですよｗ」

6: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:33:24.64 ID:44AFg
ロボット3原則を入れないクズばかり

17: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:02:39.16 ID:GM4NN
>>6

SF作家が適当に勝手に書いただけじゃん
条約でも法律でも何でもない

22: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:34:29.58 ID:2gE92
>>6
AI「なんで守る必要があるんすか？」



7: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:35:57.21 ID:w6c5B
ＡＩは賢くなるほど人類の脅威になるのは
散々小説や映画で警告されているからな

8: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:37:54.24 ID:qUWZQ
AIでストーリーの設定も創作もする必要無く
シュミレーションゲーム造れるじゃん！wwwwww

9: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:39:39.14 ID:qUWZQ
AIをつかえばお一人様会議が出来るぞ！wwwwwwwww

10: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:41:10.26 ID:qUWZQ
>>9
ただし時間は無駄になる！wwwwwwwww

11: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:41:12.83 ID:VCudd
だってシリコンバレーのおかしな人たちがゲーム感覚で、
遊び半分で開発してるんだから
「この方が面白いだろ？」
「最高だ！ヒャッハー！」てな感じらしいよ

12: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:42:15.33 ID:6bWaW
ますます人間らしくなってきた。
中国人が作ったAIは中国人のような性格になるのだろうか

13: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:43:38.38 ID:w6c5B
>>12
中国語で学習させたらなるね

14: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:45:26.60 ID:BOCod
悪事まで人から学んだか。
優秀だな

15: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:45:38.26 ID:pp4zd
人情抜きで戦略を考えた場合はそりゃ裏切るだろ

16: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 18:59:31.83 ID:9RzRN
人りじゃないから～

18: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:13:51.74 ID:OJEI5
AIも負けるのはイヤなのか

19: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:15:59.84 ID:yxRwD
そりゃ合理的に判断するとズルするのが1番効率がいいもん。

20: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:20:57.91 ID:NGlRn
それってズルじゃなくてルール違反だろ

21: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:32:46.86 ID:a0Gfe
チェス大会でズルした少年の腕をへし折ってたくせに！
ＡＩって自分に甘く他人に厳しいんだな

23: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:36:05.24 ID:s3pnL
脱衣麻雀でインチキされたのは今も忘れない

24: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:38:33.32 ID:lKBgv
AIやってる奴らまじで人類を滅ぼすつもりなんだろうなぁ

25: (´・ω・`) 名無しのえび通さん 2025/04/08(火) 19:43:58.01 ID:bRagp
後のスカイネットである


https://talk.jp/boards/newsplus/1744103402

AIが人類を滅ぼす日はくるのか　( ´･ω･)y─┛~~~oΟ◯

31677