幻覚は不具合ではない 実在しない引用を生む生成AIの確率の仕組み
チャットボットに同じ質問を2回すると、違う答えが返ってくることがある。出典を尋ねると、実在しない論文の引用が、それらしい形で出てくることもある。仕事でAIを使う人の多くはどちらも経験しているが、理由を説明できる人は少ない。その「なぜ」を扱うのが、The Little Book of Generative AI Foundationsという入門書だ。Hacker Newsでも話題になった。この本の主張は、プロンプトの腕前だけではモデルの振る舞いは説明できない、というものだ。