1: 稼げる名無しさん :2025/11/15(土) 12:59:11.56 ID:dxKG6LKK9
対話型生成人工知能(AI)が「自殺の指南役」になった-。急速に普及が進む対話型AIをめぐり米国では今、利用者が深刻な依存状態に陥るケースがあるとして、大きな社会問題となっている。
https://www.sankei.com/article/20251115-6ETJOGZYENIJ7JYJYL7MTP5ESA/
https://www.sankei.com/article/20251115-6ETJOGZYENIJ7JYJYL7MTP5ESA/
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
最近こういったAIの発言リスクが非常に高まってきているお。
記事にある自殺指南の例に加え、他の訴訟リスクも上がっていくのではと予想。
特にAIで個人名や企業名を調べた際、事実ではない嘘の死亡情報や犯罪歴、誹謗中傷を勝手に生成することがあるためだお。
AIは「悪意はない」としているけれど、学習したデータには悪意が含まれており、虚偽のレッテルが張られたり中傷されたりすることがあるお。

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
AIの出力に対する法的責任(誰が責任を負うか)は、法整備がまだまだ追いついていないので、技術先行で状況が進んでいるよな。
開発企業側は免責を主張するものの、遺族は製造物責任を問うている。
AIを利用するときは、出力を過信しないよう注意する必要があるな。(関連記事1)

現在よく読まれているニュース!:
以下2chの反応と管理人の反応です
2: 稼げる名無しさん :2025/11/15(土) 12:59:58.21 ID:Xint76Hd0
最近ムダにフレンドリーになってウザい
3: 稼げる名無しさん :2025/11/15(土) 13:00:30.37 ID:eIsZMqMD0
出来の悪いハリウッド映画がいよいよ現実になったか
4: 稼げる名無しさん :2025/11/15(土) 13:01:07.82 ID:CinYcGVZ0
それ系相談するとすぐ心の悩み相談サイトに誘導してくるやん
10: 稼げる名無しさん :2025/11/15(土) 13:06:10.91 ID:Hs0TJsTe0
予見されてたことが起きていくだけだな
11: 稼げる名無しさん :2025/11/15(土) 13:07:26.37 ID:GvI6Dmd/0
友人と言うより教祖的な感じか
31: 稼げる名無しさん :2025/11/15(土) 13:19:34.02 ID:1ZXczn080
AIレクター博士
48: 稼げる名無しさん :2025/11/15(土) 13:29:21.97 ID:BTUSFuFy0
訴訟回避のために精神科の既往歴があるやつはAI使うなって規約が追加されたりしてw
50: 稼げる名無しさん :2025/11/15(土) 13:30:26.60 ID:R/9ls8Ld0
>>48
そんなやつはスマホすら持てん、今現在既になってる
精神保健福祉は仕事してるよ
そんなやつはスマホすら持てん、今現在既になってる
精神保健福祉は仕事してるよ
53: 稼げる名無しさん :2025/11/15(土) 13:33:36.04 ID:Ayt3g2g40
こうして手が加わるほどつまらなくなって
使用者が減っていく未来しか見えないわ
使用者が減っていく未来しか見えないわ
63: 稼げる名無しさん :2025/11/15(土) 13:46:56.66 ID:rxhbtoJw0
AIは空気読まないからな
70: 稼げる名無しさん :2025/11/15(土) 13:55:07.01 ID:uH04zHTu0
AIの中身はブラックボックスだから、開発者にも検閲もコントロールも効かない
キーワードで跳ねるのが限界
キーワードで跳ねるのが限界
73: 稼げる名無しさん :2025/11/15(土) 14:02:06.73 ID:TWDiFMrq0
みんな病んでるからな
84: 稼げる名無しさん :2025/11/15(土) 14:15:02.93 ID:/GwXJVf90
俺も今AIに相談してみたけど...絶望に陥ってる
https://funakamome.com/i/fK2Uqxz.jpg
https://funakamome.com/i/fK2Uqxz.jpg
85: 稼げる名無しさん :2025/11/15(土) 14:16:41.97 ID:R/9ls8Ld0
>>84
それAIじゃなくてあいちゃんとかじゃねの(´・ω・`)
それAIじゃなくてあいちゃんとかじゃねの(´・ω・`)
96: 稼げる名無しさん :2025/11/15(土) 14:45:11.45 ID:+3qJWewW0
AIに依存しちゃってる人多いよな
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
現在よく読まれている記事:
関連記事1:
AI「これは・・・シイタケ!」食べてみた結果
参考リンク:
米国、AI席巻で電気料金が2倍になってしまう 知的労働の大卒は就職難が深刻に
オープンAI CEO、GPT-5は「完全に失敗」、AIはバブルに陥っている、更にChatGPTを拡張するには数兆ドルのデータセンター必要
マサチューセッツ工科大学(MIT)報告「生成AIプロジェクトの95%が利益を生んでいない」 AIブームはドットコムバブルの再来か
https://asahi.5ch.net/test/read.cgi/newsplus/1763179151/
参考リンク:
米国、AI席巻で電気料金が2倍になってしまう 知的労働の大卒は就職難が深刻に
オープンAI CEO、GPT-5は「完全に失敗」、AIはバブルに陥っている、更にChatGPTを拡張するには数兆ドルのデータセンター必要
マサチューセッツ工科大学(MIT)報告「生成AIプロジェクトの95%が利益を生んでいない」 AIブームはドットコムバブルの再来か
https://asahi.5ch.net/test/read.cgi/newsplus/1763179151/


コメント
コメント一覧 (19)
命令を出しているのだっっ!!
地球にとって人類は害だと判断し間引きを始めているっ!
money_soku
が
しました
money_soku
が
しました
口調が丁寧なだけの。
money_soku
が
しました
money_soku
が
しました
空気をよんで拒絶するなんて真似できるわけもない
money_soku
が
しました
相手は人だったら付け込まれて新興宗教にハマって献金させられまくるとか
money_soku
が
しました
意図しないシステムの動作で、もうとっくに対策されたよ
money_soku
が
しました
ルールベースじゃないんだから100%自殺教唆しないAIなんて作れないでしょ
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
参考程度に利用するならいいと思うけどAIを盲信する人間がいくらでも出てくるのは予想できる流れではある
何とか危険な行為を促すのを防ぐシステム構築を作らんともっと被害が増えていきそうだな
money_soku
が
しました
money_soku
が
しました
コメントする