AIが生成した「偽の引用」が14万件超、科学論文の信頼性を揺るがす事態に

科学論文は、読者がそこに記された情報を信頼できることを前提として成り立つ。

だからこそ、コーネル大学とカリフォルニア大学ロサンゼルス校（UCLA）の研究者らによる新たな研究で、主要な4つの研究データベースで公開されている科学論文から、AIが生成した偽の引用が14万6900件見つかったことは憂慮すべき事態だ。

japan.cnet 2026年05月21日 11時28分
https://japan.cnet.com/article/35247799/

>>1
どのAIを使ったんだ？

GeminiやClaudeはそんなバカな真似はやらない

>> 250万本の科学論文に含まれる
>> 1億1100万件の参考文献を分析した。

146900件 ÷ 111000000件 * 100 = 0.13%

まるで中国のようだ

>>論文タイトルがどの出版物とも一致しない引用を探した

偽の引用 ＝ AIが生成 ＋ AI以外が生成 + まだ出版に至っていない論文の引用

これってここで記事になってる論文もかなり含まれてそうな量だよね・・・

存在しない論文,説を引用している(作り出してる)のか、関係性の成立しない論文,説を引用しているのか、どっち？前者だとしたら出鱈目もいいとこだ。

>>3
論文数で割らないと、一論文中に複数あるかもしれないけど

引用の意味を知らないのか

詳細をすっかり忘れちまったからなんの参考にもならんがプレプリントを読んでた時に参考文献の論文探しても全然ヒットしないことがあった

あの時は何かの不具合だと思ってすぐに探すの諦めたんだが実在しない論文だった可能性もあったのか

>>2
やるよ

平気で嘘ついてくるからね

笑えるww もっとやれwwwww

科学論文の信頼性が暴かれただけなんじゃないの？

>>24
「引用先がハルシネーション」から「引用内容がハルシネーション」に変わるだけなんだが

LLMは本来的にハルシネーションを産む

本来的に自信満々で答える

それをわからないで使うのはアホ

自分の使う分野で正しい情報をトレーニングしていないなら

ゴミインプット＝ゴミアウトプット

Amazonの検索並みに信用してはいけない