生成AIが挙げてくる参考文献のうち、3割から7割が実在しないものだった。医療用AIの引用の質を五つの専門科で調べた報告があり、そのなかで汎用の大規模言語モデル全般についてこの推定が紹介されています（出典: npj Health Systems「Reference quality of OpenEvidence across five medical specialties」）。
幅が広いのは、調べた対象も年代もばらばらだからです。それでも下限の3割は大きい。10本の文献リストを作らせたら、3本は最初から存在しない計算になります。
「AIの出す文献は確かめないと危ない」という注意は、もうそれなりに知られるようになりました。ただ、どう確かめるのかという中身まで話す人は、あまり見かけません。もう少し深堀りするならこの部分です。
この続き (完全版) は note で無料公開しています。
