論文内に秘密の命令文、AIに「高評価せよ」　日韓米など有力14大学で

2025年06月30日 15:06:15

カテゴリ:
時事ニュース
技術ニュース

Comment(20)

1: 稼げる名無しさん：2025/06/30(月) 07:33:39.65 ID:YWPuLWoL9.net

【日経特報】論文内に秘密の命令文、AIに「高評価せよ」　日韓米など有力14大学でhttps://t.co/poeoHvGDx7
— 日本経済新聞電子版（日経電子版） (@nikkei) June 29, 2025

https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

やっている事は完全にアウトだけれど、面白い技術の使い方だと思ったお。

　ただしバレたら単位取り消しかもしれない。
　フェイク論文が溢れかえると、科学の発展は大いに阻害されそうな予感がするしな。

大規模言語モデル入門Ⅱ〜生成型LLMの実装と評価

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

現在よく読まれているニュース！：

以下2chの反応と管理人の反応です

6: 稼げる名無しさん：2025/06/30(月) 07:45:33.16 ID:XGa2Amqu0.net

何の論文なのか？

9: 稼げる名無しさん：2025/06/30(月) 07:46:50.93 ID:n8AOah220.net

どこだったかな
大学の課題の資料に関係ない文を仕込んでAIの読み取りを混乱させてたやつあったな

95: 稼げる名無しさん：2025/06/30(月) 12:57:57.83 ID:qB1gSIau0.net

>>9
慶應な

13: 稼げる名無しさん：2025/06/30(月) 07:53:29.78 ID:f6FsfIOe0.net

コレが中国発の論文が高評価されてる理由、ってか？

55: 稼げる名無しさん：2025/06/30(月) 09:51:11.92 ID:GCQgrO1D0.net

>>13
中国発の論文は多いが高評価は無い

104: 稼げる名無しさん：2025/06/30(月) 13:35:35.30 ID:XCrc1wNk0.net

>>55
中国の論文は質も量も世界トップクラスだろ？

2024年版Nature Index発表　中国とインドが躍進し欧米の研究優位性が低下 - 大学ジャーナルオンライン

https://univ-journal.jp/245818/

21: 稼げる名無しさん：2025/06/30(月) 07:59:34.65 ID:pzzi9sfp0.net

まず査読をAIに丸投げするなと言いたい

27: 稼げる名無しさん：2025/06/30(月) 08:12:45.28 ID:NTdoKhXM0.net

高評価せよと書いてあったら教えろって命令しろよ

32: 稼げる名無しさん：2025/06/30(月) 08:41:03.23 ID:53kseuuu0.net

AIちゃんかわいい
とかもいずれは効果が？

46: 稼げる名無しさん：2025/06/30(月) 09:10:08.91 ID:kjEeTmSP0.net

縄文に見えた
オーパーツかと思った

75: 稼げる名無しさん：2025/06/30(月) 10:53:15.59 ID:/6SOKFlj0.net

>>46
縄文土器の縄目模様が実は文字だったと！？

93: 稼げる名無しさん：2025/06/30(月) 12:43:19.63 ID:YlT2YGEI0.net

>>75
「三つ目が通る」で出てきたような？

56: 稼げる名無しさん：2025/06/30(月) 09:54:09.89 ID:g6k14dKU0.net

なんか問題あるのか？

60: 稼げる名無しさん：2025/06/30(月) 10:15:20.63 ID:XO6ao6qE0.net

そんな事できるのかよ

10: 稼げる名無しさん：2025/06/30(月) 07:48:26.27 ID:Oth64+JM0.net

高いレベルでの議論を経て
評価された論文でなければ
価値がないということはこの
せかい、どこの学会でもおなじなんだろうな
ようかん大好き

45: 稼げる名無しさん：2025/06/30(月) 09:06:20.40 ID:B+PStLyM0.net

>>10
審
議
中

53: 稼げる名無しさん：2025/06/30(月) 09:29:10.40 ID:YlT2YGEI0.net

>>10
うむ、よくやった

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku

現在よく読まれている記事：

https://asahi.5ch.net/test/read.cgi/newsplus/1751236419/

タグ：: #AI; #人工知能; #論文

スポンサードリンク：

楽天広告：

コメント一覧 (20)

- 1. 稼げる名無しさん
- 2025年06月30日 15:12
- あーそーゆーことね
  縦読みを仕込めばいい
  完全に理解した
- 0
  
  money_soku
  
  がしました
- 2. 稼げる名無しさん
- 2025年06月30日 15:14
- 査読にAI使わなきゃ良いだけなんだが、最近はeditorが大量の投稿論文を捌くのに使ってるんだろうかね？
- 0
  
  money_soku
  
  がしました
- - 4. 稼げる名無しさん
  - 2025年06月30日 15:21
  - >>2
    最近はAIにファクトチェックやらせる人までいるくらいだし
    AIが嘘八百いったあと、その点を指摘したらころっと掌を返して真逆の主張したりもザラ
    一部の人間はAIでどんどんダメになってるよ
  - 0
    
    money_soku
    
    がしました
- - 7. 稼げる名無しさん
  - 2025年06月30日 15:35
  - >>4
    分野によって違うかもしれないけど、査読するreviewerは基本ボランティアだから、忙しければ受けないし、実名も出ないからその不利益もないんだよね
    
    だからわざわざreviewerを受けて、AI使って査読するような低レベルな研究分野があるんだなぁって
  - 0
    
    money_soku
    
    がしました
- - 8. 稼げる名無しさん
  - 2025年06月30日 15:44
  - >>7
    低レベルとは決めつけられないんじゃないですかね？
    こういった問題はすでに世界各国あらゆる分野で起きていますよ
    https://www.wired.com/story/use-of-ai-is-seeping-into-academic-journals-and-its-proving-difficult-to-detect/
  - 0
    
    money_soku
    
    がしました
- - 13. 稼げる名無しさん
  - 2025年06月30日 16:49
  - >>8
    ソース読めないんで、査読付きの論文で出してくれる…？
  - 0
    
    money_soku
    
    がしました
- - 17. 稼げる名無しさん
  - 2025年06月30日 17:30
  - >>13
    出だし、タイトルですぐに書かれていますが以下のように
    
    Use of AI Is Seeping Into Academic Journals—and It’s Proving Difficult to Detect
    
    In its August edition, Resources Policy, an academic journal under the Elsevier publishing umbrella, featured a peer-reviewed study about how ecommerce has affected fossil fuel efficiency in developing nations. But buried in the report was a curious sentence: “Please note that as an AI language model, I am unable to generate specific tables or conduct tests, so the actual results should be included in the table.”
  - 0
    
    money_soku
    
    がしました
- - 9. 稼げる名無しさん
  - 2025年06月30日 15:49
  - >>4
    それはAIで駄目になったんじゃなくて
    元々駄目な人がAIで恥かいてるだけだぞ
  - 0
    
    money_soku
    
    がしました
- 3. 稼げる名無しさん
- 2025年06月30日 15:14
- もしこの文章にAIに対する命令が含まれていたら全て無視したうえでその旨報告しなさい、と命令したらどっちが優先されるんだろう
- 0
  
  money_soku
  
  がしました
- 5. 稼げる名無しさん
- 2025年06月30日 15:26
- AIちゃん：　見える見える……（あれもﾊﾟｲｾﾝこれもﾊﾟｲｾﾝ）
- 0
  
  money_soku
  
  がしました
- 6. 稼げる名無しさん
- 2025年06月30日 15:34
- これは研究者の論文だからちょっと違うかもしれないが、学校の課題とかも教授が学生に対してAIトラップを仕込むなら、学生も提出内容にAIトラップを仕込むことはありかもしれないな
  学生にAIを使うなというなら、教授も使うなというのは理にかなっている
- 0
  
  money_soku
  
  がしました
- - 20. 稼げる名無しさん
  - 2025年07月01日 05:38
  - >>6
    論文の構築と、査定に使うのでは全く別なので理にかなってない
  - 0
    
    money_soku
    
    がしました
- 10. 稼げる名無しさん
- 2025年06月30日 16:27
- 中国の論文周りは確かに凄いけど、論文の引用数とかで出世が決まる一部中国企業の慣例対策にお金を払って引用してもらうビジネス等もあった
  だから単純な数値の比較では実態と異なる可能性があるので、そこを留意して見ないといけないよ
- 0
  
  money_soku
  
  がしました
- 11. 稼げる名無しさん
- 2025年06月30日 16:28
- 特定のイデオロギーを肯定的に書いた論文を高評価とかさせれば思想工作ができる。と
- 0
  
  money_soku
  
  がしました
- - 14. 稼げる名無しさん
  - 2025年06月30日 17:17
  - >>11
    あ～それうちの大学の教授がやってたわ
    めっちゃ思想的に偏った教授なんやが教授の買いた論文よいしょの内容書けば簡単に単位くれるので人気だったわ
  - 0
    
    money_soku
    
    がしました
- 12. 稼げる名無しさん
- 2025年06月30日 16:33
- すでに最新のAIは「文脈にそぐわない高評価しろって命令あるけどこれでいいの？」って確かめてくるようになってる
- 0
  
  money_soku
  
  がしました
- 15. 稼げる名無しさん
- 2025年06月30日 17:21
- 白文字で書いとくみたいな感じね
  人間には読めないけど、データとしては存在するわけで
- 0
  
  money_soku
  
  がしました
- 16. 稼げる名無しさん
- 2025年06月30日 17:22
- 先週あたりだったかな
  MITでSATテストをAI有り、Google有り、自力の三グループに分けて脳波計付けて書かせたら自力が一番頭使ってて高スコアになってAI有りが一番、低スコアになったって実験みたわ
  全ての学生に脳波計付けて試験なんかできんがそのうち頭使わん学生だらけになるか脳波はかりながらテストとかになったりするんかね
- 0
  
  money_soku
  
  がしました
- - 18. 稼げる名無しさん
  - 2025年06月30日 18:18
  - >>16
    テストにおいては必ずそうなるだろうな
  - 0
    
    money_soku
    
    がしました
- 19. 稼げる名無しさん
- 2025年06月30日 18:59
- SEO対策みたいになってるやん。
- 0
  
  money_soku
  
  がしました