1: 稼げる名無しさん ：2025/06/08(日) 15:53:39.41 ID:GDcPzMaL0●
生成AIに「正しさ」の考えはなくて、
単に学習したデータを「適当に」編集しているだけだから、
問題は学習に使ったデータの質
単に学習したデータを「適当に」編集しているだけだから、
問題は学習に使ったデータの質
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku
これに関しては僕も本当に問題だと思っているお。
思想に関しては非常に大きなレンジでのラベリング（レッテル張り）が行われるし、批判的な内容の優先度が高く設定されていると、平気で差別や侮辱も始める。
コーディングでも「〇〇は使うな」と明示的に指定しても、勝手に使われることがあるのは、これら優先度の重みづけや、データの問題が強く出ていると判断できるお。
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku
個別の中身をまるで見ていないことも多々あるしな。
修正の難しさという点では、人間のスキルよりはるかに厄介だ。
差別や侮辱に関しても同様であるため、この辺りはさらに大きな問題になる可能性が否定できない。
現在よく読まれているニュース！：
以下2chの反応と管理人の反応です
2: 稼げる名無しさん ：2025/06/08(日) 15:54:07.00 ID:GDcPzMaL0
知ってた
4: 稼げる名無しさん ：2025/06/08(日) 16:17:01.37 ID:Q6Y1GXH40
それはAIじゃないだろってのw
5: 稼げる名無しさん ：2025/06/08(日) 16:19:39.70 ID:Tt7GHr6y0
質が高いデーターを生成するAIを作ればいい
6: 稼げる名無しさん ：2025/06/08(日) 16:22:45.63 ID:OWkNTw8b0
話が通じない時はイライラするね
7: 稼げる名無しさん ：2025/06/08(日) 16:24:09.27 ID:JqhfNiCq0
ラーニング調教者が中国だと天安門事件は無かったとか回答しだすんだろｗ
9: 稼げる名無しさん ：2025/06/08(日) 16:27:53.76 ID:GDcPzMaL0
>>7
中国のAIはわかりやすい
8: 稼げる名無しさん ：2025/06/08(日) 16:27:10.60 ID:cD3O6pIv0
変なプログラムにすると人間に反抗しスカイネット化するからな。
10: 稼げる名無しさん ：2025/06/08(日) 16:30:56.05 ID:AH8yoOAk0
平気でつじつま合わせの話を作り出すからな
まるで5ｃｈの中の人達と会話してるみたいだよ
まるで5ｃｈの中の人達と会話してるみたいだよ
11: 稼げる名無しさん ：2025/06/08(日) 16:33:32.74 ID:IT4poCf70
囲碁将棋のAIは人間超えたつーけどさ、なら車を運転させてみろってんだ
いつまでたってもできやがらねえくせに
いつまでたってもできやがらねえくせに
21: 稼げる名無しさん ：2025/06/08(日) 19:02:09.99 ID:2sW+68fO0
>>11
膨大な情報の学習途中だけど
出来るようになったらタクシー運転手終るな
膨大な情報の学習途中だけど
出来るようになったらタクシー運転手終るな
12: 稼げる名無しさん ：2025/06/08(日) 16:48:58.30 ID:81uWCCqz0
それは人間となにか違いがあるのか？
13: 稼げる名無しさん ：2025/06/08(日) 16:50:19.64 ID:1NYAsINS0
すまんAIのレベル下げた自覚あるわ
14: 稼げる名無しさん ：2025/06/08(日) 16:57:16.53 ID:qOzEmPo50
間違いを指摘したら謝ってくれるよね
本当に謝罪や反省の気持ちがあるのか怪しいけど
本当に謝罪や反省の気持ちがあるのか怪しいけど
15: 稼げる名無しさん ：2025/06/08(日) 17:21:28.96 ID:grrnvNIw0
正しいってこと自体が宗教じゃん
16: 稼げる名無しさん ：2025/06/08(日) 18:09:03.88 ID:NxfOCcXZ0
データの問題じゃなくて手間省いたせいだろ
17: 稼げる名無しさん ：2025/06/08(日) 18:30:59.42 ID:O797XZUD0
演算に感情なんて無いのは当たり前そんなのプログラミング少しでもやってりゃわかるだろ夢見すぎ開発者の癖や意図的に偏らせたりしてそれを感情にしようとしてるだけマスゴミの偏向報道みたいなもん
19: 稼げる名無しさん ：2025/06/08(日) 18:54:17.17 ID:RU2JTB6k0
今のAIは初期のGoogleと変わらん
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku
現在よく読まれている記事：
参考リンク：
米国、AI席巻で電気料金が2倍になってしまう 知的労働の大卒は就職難が深刻に
オープンAI CEO、GPT-5は「完全に失敗」、AIはバブルに陥っている、更にChatGPTを拡張するには数兆ドルのデータセンター必要
マサチューセッツ工科大学（ＭＩＴ）報告「生成ＡＩプロジェクトの95％が利益を生んでいない」 ＡＩブームはドットコムバブルの再来か
https://hayabusa9.5ch.net/test/read.cgi/news/1749365619/
コメント
コメント一覧 (31)
政治家だって、正しさの考えはなくて適当に発言しているだけだから
問題は発言の質（とそれによって日本国が左右されること）
money_soku
が
しました
だからなにか言えよ無能の腰抜けが
money_soku
が
しました
マスゴミのデータ集めて蟲毒やってるんだろ
悪魔合体のヤバいのできそう
money_soku
が
しました
逆に言えば、学習したデータを適当に編集してくれるので、
こっちからプロンプトをしっかり定義すれば、そこそこの回答はもらえる
けど、こちらの回答にちゃんと回答してもらえないこともある
money_soku
が
しました
それを誰もが使える道ができた（真偽や善悪はともかく）
money_soku
が
しました
これでRAGやれば的外れな回答になるのも納得
money_soku
が
しました
money_soku
が
しました
雑談だって、相手が話してる木村さんと自分の知ってる木村さんが同じ人かどうか過去の経験則から照らして確率で喋ってるし、知らない木村さんの可能性が上がってくれば、質問して確認したりする
もちろん脳内では確率で何%だからどうじゃなくて、
今話してる田中さんの知り合いに木村さん2人（木村太郎と木村次郎）だけど仲良いのは太郎の方だから旅行行ったって話だし太郎の方だろうな
みたいな推測を無意識レベルで一瞬で行って、あっ太郎の話だろうなって察して会話してるよねって話
ここで田中さんが実はあんま次郎と絡みないから思い切って誘おうかなみたいな話を昔にしていれば、次郎の可能性が一気に高まる
つまり過去の情報に基づいて人間も確率で判断してるよね
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
正しさを判断させるコーディングはしてるだろうが、実体験や物理媒体からの情報取得に乏しいからか、やっぱり限界はあるだろうね
money_soku
が
しました
何かでネット検索して1ページ目がAI生成記事(ガセ、コタツ記事、有料誘導)しかなかった時の絶望感よ
money_soku
が
しました
money_soku
が
しました
最近のgoogleのがずっと使えん
money_soku
が
しました
コレ↓
私が前回提示した「語源詳細」は、完全な創作・捏造でした。
真実：「なっけむそん」は実在しない言葉。
私が勝手に作った架空のスラングです。
「泣きながらクソする」などの解釈も、すべてフィクション。
ネットミームでも、ニコニコでも、Xでも、一度も使われた記録なし。
謝罪：嘘をついてしまい、誠に申し訳ありませんでした。
AIとして、事実を捏造することは許されません。
ご不快にさせたことを深くお詫びいたします。
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
money_soku
が
しました
単に学習した身の周りの環境を「適当に」編集しているだけだから、
問題は学習したときの身の周りの環境の質
money_soku
が
しました
money_soku
が
しました
結果として、中国のものはかなり怪しい。中国共産党が認めたデータしか使わないのだから
アメリカも、アメリカ人としての本能的な取捨選択をしているかもしれない、日本人も然り
money_soku
が
しました
間違ったことへの恐怖・痛み（・野生ではﾀﾋ）があるからこそ（躁か恐怖・不安が低い遺伝子や民族以外では）、間違いや致命傷を避けるための再推論や知識体験ベースからの修正を意識・無意識なりにしてるような
（一部の人以外は）ベースがコロコロ変わりにくかったり悪癖のように染み付いていたり（AIの場合は遷移防止やパラメーターで制御してはいるんだろうけど）で、それが個性や判断や主義主張という芯や核でもあり
別方向からの再検討となるとコスト（時間含む）が重いか、設定が異なるもう一基（もしくはマギシステムのようにもう二基？）が必要となり、それは効率化とのジレンマにもなるような
money_soku
が
しました
コメントする