人工智能為何會產(chǎn)生幻覺
大模型本質(zhì)上是一個龐大的語言概率預(yù)測和生成模型。它通過分析互聯(lián)網(wǎng)上數(shù)以萬億計的文本,學(xué)習(xí)詞語之間的關(guān)聯(lián)規(guī)律,再像玩猜詞游戲一樣,逐字逐句生成看似合理的回答。這種機(jī)制使AI擅于模仿人類的語言風(fēng)格,但有時缺乏辨別真?zhèn)蔚哪芰Α?#32;AI幻覺的產(chǎn)生與大模型訓(xùn)練的過程密不可分。AI的知識體系基本來源于訓(xùn)練時“吞下”的數(shù)據(jù)源。來自互聯(lián)網(wǎng)的各類信息魚龍混雜,其中不乏虛假信息、虛構(gòu)故…