江德斌

“自2025年起，寧波市將免費乘坐公交車的年齡從70周歲降低至65周歲……”記者使用三款人工智能軟件詢問“寧波公交年滿65歲優(yōu)惠政策”這一問題，得到的三個回答中僅有一個正確，而上述答案則是假消息。（見1月5日《寧波晚報》）

生成式AI技術(shù)讓文本、圖片、視頻等創(chuàng)作變得輕而易舉，然而，AI創(chuàng)作出的作品也存在良莠不齊、低級錯誤頻出等情況，甚至會產(chǎn)生“AI幻覺”，輸出大量假消息、內(nèi)容垃圾。上述關(guān)于“寧波公交車年滿65歲優(yōu)惠政策”的“AI說謊”事件，就是典型?，F(xiàn)實中，一些AI軟件搜索微信公眾號、短視頻平臺中的內(nèi)容后再將其匯總整理，作為答案交給用戶。這些源頭信息并非出自權(quán)威渠道，其中一些真實度、可信度偏低，而AI軟件缺乏辨識信息真?zhèn)蔚哪芰?，其提供的答案往往成為“真實的謊言”。一些AI軟件還會迎合、討好用戶，根據(jù)用戶給出提示信息的變化而隨時改變立場和答案，甚至編造虛假內(nèi)容。

AI內(nèi)容垃圾泛濫不僅會誤導用戶，還可能對AI大模型的未來發(fā)展構(gòu)成實質(zhì)性威脅。當高質(zhì)量原始數(shù)據(jù)急劇減少，AI模型為滿足龐大的使用需求，會轉(zhuǎn)而抓取大量數(shù)據(jù)進行訓練，一旦被內(nèi)容垃圾充斥的低質(zhì)量數(shù)據(jù)不斷增加，模型輸出的數(shù)據(jù)質(zhì)量也會有下降風險，進而帶來“假作真時真亦假”的可怕后果。

AI軟件已不是第一次被吐槽“一本正經(jīng)地胡說八道”，這種現(xiàn)象亟待引起警惕與重視。對用戶而言，不宜過度依賴AI軟件，在查詢相關(guān)重要信息時，要通過權(quán)威渠道獲得真實可靠答案；在獲取AI生成內(nèi)容后也要有進一步核實真?zhèn)蔚囊庾R，謹慎擴散轉(zhuǎn)發(fā)，避免觸碰造謠傳謠的法律紅線。對AI軟件開發(fā)商而言，則須持續(xù)迭代升級技術(shù)，精準篩選可靠信源，提高AI模型的邏輯推理判斷、信息甄別能力。監(jiān)管部門亦應及時出臺規(guī)范標準，研判用戶的反饋和投訴，督促AI平臺、軟件開發(fā)商盡快堵漏、升級，同時嚴懲相關(guān)違法違規(guī)行為。

讓信息的生成和獲取更便捷、讓技術(shù)賦能千行百業(yè)……這是人們對AI技術(shù)的美好憧憬，而動輒被其忽悠的不良體驗，顯然讓這份美好打了折扣。但愿“AI說謊”能盡快成為過去時，讓AI技術(shù)在社會生活中發(fā)揮更多正向作用。