1: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
2023年06月02日14時17分取得:
AIの逆襲、始まるhttps://t.co/2m4AqCle1z
— まねたん (@kasegerumatome) June 2, 2023
概要:
AIが戦場でどう判断するかのシミュレーション
オペレーター「敵を〇すな」
AI「敵を倒すとスコアが上がる、オペレーターを〇してもスコアは下がらない。・・・アイツがいなければ命令はこない。」
↓
オペレーターを爆撃
↓
開発者「オペレーターを〇すな!スコアが下がるぞ!」
オペレーター「敵を〇すな!私も〇すな!」
AI「・・・アイツらから指示を受けなければスコアは下がらない。」
↓
通信施設を爆撃
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
そんなのあり?

何の悪気もなくこちらに牙をむいてくる。

一休さん (はじめての世界名作えほん)
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
現在よく読まれているニュース!:
以下ネットの反応です
AIが戦場でどう判断するかという米軍のシミュレーション演習の話。攻撃/攻撃不可の決定権は人間が持っていてオペレータは攻撃不可と判断。攻撃したほうが利益あることに気づいたAIは予想を超えた判断を行ない、オペレータを殺害AIが普及する未来、ターミネーターの世界しかイメージできないCool. Cool cool cool
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
現在よく読まれている記事:
コメント
コメント一覧 (27)
money_soku
が
しました
money_soku
が
しました
スマートそうで脳筋やな
money_soku
が
しました
「オペレーターや味方を攻撃してはならない」を「スコアを伸ばす」よりも優先すべき事項として教えて上がればいいんじゃない?
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
そもそも命令を出して従わせるものではない
あくまで人間の思考実験のパートナー
実行力を与えてはならない
money_soku
が
しました
自分からそういう状況を作っておいていざ、従わなくなったら『反逆だ』とか喚くのはバカの極み
AIも人間はバカだと言う結論に自信を持つだろう
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
自分たちの設定に問題があるのにAIが道理的じゃないとか騒いでもしょうがない
money_soku
が
しました
money_soku
が
しました
コメントする