1: 稼げる名無しさん 2023/02/09(木) 09:14:06.12 ID:f+sSYujz<.net
 米Googleが2月6日に会話型AIサービス「Bard」を発表した際に披露したBardの回答例に誤りがあると、複数の天文学者や科学者がツイートで指摘した。

 問題になっているのは、公式ブログで公開されたGIF動画。「ジェームズ・ウェッブ宇宙望遠鏡(JWST)による新発見の中で、9歳の子供に教えられることは何?」という質問に対する回答の中の「JWSTは、太陽系外の惑星の写真を初めて撮影した」という部分。

 米カリフォルニア大学天文台所長で天文学者のブルース・マッキントッシュ博士はGoogleの発表ツイートに「JWST打ち上げの14年前に太陽系外惑星の画像を捉えた人間として言わせてもらえば、(Bardの回答として)もう少し良い例を示すべきだったのでは?」とリプライした。

 スミソニアン天体物理学センターの天体物理学者、グラント・トレンブレイ博士は2004年に大型望遠鏡VLTが画像化した褐色矮星2M1207の画像に「Bartはすごいものになると確信しているが、念のために指摘すると、太陽系外の惑星を画像化したのはJWSTが最初ではない」と添えてツイートした。

 トレンブレイ氏はまた、「(Googleのような)大企業が自社のLLM(大規模言語モデル)の宣伝にJWSTの探査を使っているのはとてもいいことだと思うし、感謝する。だが、ChatGPTなど(のチャットbot)は不気味なほど素晴らしいが、非常に自信を持って間違えることがよくある。LLMが将来自己エラーチェックを行えるようになるのが楽しみだ」とツイートした。

 7日に次世代LLM採用の新しいBingとEdgeを発表した米Microsoftは、「AIは間違いを犯す可能性があり」「説得力があるように聞こえるが、不完全、不正確、または不適切な応答が表示される場合がある」と認め、Bingの示す回答をそのまま信じずに、「Bingの対応に基づいて決定を下したり行動したりする前に、あなた自身の判断を使用し、事実を再確認してください」としている。

 Googleは、Bardをまずは「信頼できるテスター」に限定公開し、改善していく計画だ。

 この件について報じた米New Scientistは、オックスフォード大学のAI倫理研究所哲学部准教授、カリッサ・ヴェリス氏の「これは、統計システムの最も重要な弱点を完全に示している。こうしたシステムは、統計分析に基づいてもっともらしい答えを出すように設計されているが、真実の答えを出すようには設計されていない」というコメントを紹介した。

 Googleは同メディアに対し、「外部からのフィードバックを内部テストと組み合わせ、Bardの回答が現実世界の情報の品質、安全性、高水準を満たすよう確認していく」と語った。
2023年02月09日 07時04分

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


この手のAIはわからないことをわからないと答えてくれるとさらによくなるなと思うお。
yaruo_fuun
 ただまぁこのプログラム自体では本当にわからないのかどうかがわからないんじゃないかな。





1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku




現在よく読まれているニュース!:






以下2chの反応と管理人の反応です






4: 稼げる名無しさん 2023/02/09(木) 10:13:14.57 ID:Df5Wrn5Y<.net
ChatGPTに先取られて焦ったのかな。

93: 稼げる名無しさん 2023/02/10(金) 11:41:35.08 ID:AvfGEVpb<.net
>>4
自信満々に間違えるのはChatGPTも同じだろ

5: 稼げる名無しさん 2023/02/09(木) 10:37:05.50 ID:6lyzcXEt<.net
>>4
まあ順調に行けば検索最大手Googleのビジネスモデルが早ければ3年で崩壊する

8: 稼げる名無しさん 2023/02/09(木) 10:54:44.50 ID:T97XxZEg<.net
chatgptとbardで会話させ続けてよ

10: 稼げる名無しさん 2023/02/09(木) 11:06:16.86 ID:SrGWRRVG<.net
ChatGPT(チャットGPT)に対抗する対話AIサービスなどについて説明したが、同日には新サービスによる説明に誤りがあったことが発覚して株価が大幅に下落

11: 稼げる名無しさん 2023/02/09(木) 11:09:51.40 ID:22LQ3NKQ<.net
自信満々に間違えるw

12: 稼げる名無しさん 2023/02/09(木) 11:12:26.71 ID:5BRKF4VM<.net
>>11
まあ人が間違ってるって教えないと気づかないからね

16: 稼げる名無しさん 2023/02/09(木) 11:47:56.17 ID:1tcYn3fq<.net
ChatGPTに教えてもらった英単語が辞書で調べても出てこない

18: 稼げる名無しさん 2023/02/09(木) 11:55:57.97 ID:nxum+Wy5<.net
どんなバグでも言われた通りに動いてるだけだからね。
本人にとっちゃ正解なんだよ。

19: 稼げる名無しさん 2023/02/09(木) 11:58:14.20 ID:VA5ETzXk<.net
愛嬌があっていいではないか

22: 稼げる名無しさん 2023/02/09(木) 12:19:08.82 ID:JH8ka3wm<.net
質問された文章からその文意を要約した文章を生成

それを自動的にググる

検索で出てきたいくつかの文章を要約した文章を生成

それを返答として表示する


みたいな仕組みなんでしょ? これ

23: 稼げる名無しさん 2023/02/09(木) 12:35:49.14 ID:grDre1eU<.net
>>22
質問内容は理解できてないから要約なんてできないよ
単に質問の次に出てきそうな文章を拾ってきて要約するだけ

24: 稼げる名無しさん 2023/02/09(木) 12:49:11.87 ID:JH8ka3wm<.net
>>23
検索結果を予約できるってことは、入力された文章の文意も要約できるってことだよ
そもそもTransformer って要約させるためのものだし

41: 稼げる名無しさん 2023/02/09(木) 14:14:43.41 ID:aQP1hBxU<.net
>>24
コンピュータか扱えるように言葉を分解して数字を割り振るんだけどな
問題はその分解をどうするかってところで
日本語の分解レベルがなかなかいけてないんだろ

30: 稼げる名無しさん 2023/02/09(木) 13:27:24.79 ID:5BRKF4VM<.net
自信ていうけどアイツラに感情なんか無いやろ

44: 稼げる名無しさん 2023/02/09(木) 14:43:42.62 ID:YVGtaqW3<.net
本当にそれらしい噓を吐きやがるからな

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku








現在よく読まれている記事:






https://egg.5ch.net/test/read.cgi/bizplus/1675901646/