近期，“AI幻覺”引發(fā)廣泛關(guān)注。這一現(xiàn)象指大模型在生成信息時可能基于統(tǒng)計(jì)規(guī)律“虛構(gòu)”不準(zhǔn)確內(nèi)容，例如在回答“周邊咖啡館分布”時編造不存在的地點(diǎn)及營業(yè)信息。

這種“幻覺”在需要精準(zhǔn)決策的城市治理場景中需要被重點(diǎn)關(guān)注。

一方面因?yàn)槟Ｐ陀?xùn)練大多使用的是公開數(shù)據(jù)，但政府的核心數(shù)據(jù)并未公開，所以導(dǎo)致大模型在面對城市治問題時更容易產(chǎn)生虛構(gòu)的情況。

另一方面，城市治理是在現(xiàn)實(shí)物理場景中進(jìn)行的，不能只依靠“紙上談兵”式的理論推導(dǎo)，更需要了解現(xiàn)實(shí)世界的運(yùn)行邏輯。

比如暴雨天問AI“怎么防內(nèi)澇”，它也許可以給出一個看起來面面俱到的教科書般的答案，但卻會忽略某條路正在修地鐵、某個社區(qū)老人占比80%等動態(tài)環(huán)境要素，導(dǎo)致決策建議偏離真實(shí)需求。

維智科技認(rèn)為，化解AI幻覺需突破通用模型的技術(shù)邊界，通過構(gòu)建垂直領(lǐng)域知識圖譜與場景化模型調(diào)優(yōu)實(shí)現(xiàn)認(rèn)知升級。

- 全域知識融合：在DeepSeek這類通用大模型的底層架構(gòu)中融合專業(yè)的知識庫，從源頭上解決“虛構(gòu)”的問題。

比如集成實(shí)時物聯(lián)感知數(shù)據(jù)（交通流量、管網(wǎng)負(fù)荷）、專題政務(wù)庫（城市規(guī)劃白皮書、社區(qū)人口檔案）、社會化動態(tài)信息（人口遷徙熱力、企業(yè)注冊變更）

- 業(yè)務(wù)鏈微調(diào)機(jī)制：基于不同業(yè)務(wù)場景對模型進(jìn)行微調(diào)，例如在防汛響應(yīng)場景中，模型會強(qiáng)化施工路段承壓分析、特殊人群疏散優(yōu)先級等決策因子權(quán)重。

維智科技的時空大模型以地理位置坐標(biāo)為索引，實(shí)現(xiàn)人、地、物、事、策的多維關(guān)聯(lián)與動態(tài)推演，讓大模型更理解真實(shí)城市。

未來，維智科技也會持續(xù)探索解決AI幻覺的方法，例如采取多個模型交叉驗(yàn)證、增加提示詞限制和提供輸出參考等方式，讓垂直領(lǐng)域的AI大模型為城市治理深度賦能。