今年的《政府工作報(bào)告》對(duì)推進(jìn)“人工智能+”行動(dòng)提出了新的要求?！墩ぷ鲌?bào)告》著重強(qiáng)調(diào)了人工智能的實(shí)際應(yīng)用，包括產(chǎn)業(yè)賦能、終端應(yīng)用等方面。在強(qiáng)調(diào)技術(shù)應(yīng)用的同時(shí)，多次出現(xiàn)“安全”一詞，強(qiáng)調(diào)了產(chǎn)業(yè)的安全健康發(fā)展。

在金融領(lǐng)域，龐大的用戶群體和海量數(shù)據(jù)積累還為人工智能技術(shù)的落地提供了優(yōu)質(zhì)場(chǎng)景。隨著“人工智能+”行動(dòng)的持續(xù)推進(jìn)，AI大模型已經(jīng)成為不少金融機(jī)構(gòu)的標(biāo)配。與此同時(shí)，問題也隨之而來，“一本正經(jīng)說胡話”的AI幻覺已經(jīng)讓不少金融從業(yè)者感到頭疼，更令人擔(dān)憂的是，金融業(yè)的高精確性要求使得AI幻覺問題被放大，從模型誤判到資金損失可能僅是一步之遙。

AI幻覺是指AI大模型生成的內(nèi)容與現(xiàn)實(shí)世界事實(shí)或用戶輸入不一致的現(xiàn)象。簡(jiǎn)而言之，就是AI在“胡說八道”。

記者了解到，眼下金融行業(yè)確實(shí)有不少投訴案例與AI幻覺有關(guān)。以市面上常見的AI智能客服為例，AI智能客服的“已讀亂回”經(jīng)常令用戶陷入溝通困局。有客戶連續(xù)發(fā)送“轉(zhuǎn)人工”請(qǐng)求，對(duì)面仍回復(fù)“為了節(jié)約您的時(shí)間，還請(qǐng)?jiān)俸?jiǎn)單描述問題”；當(dāng)用戶咨詢復(fù)雜的理財(cái)產(chǎn)品條款時(shí)，AI回答往往仍以“請(qǐng)咨詢客戶經(jīng)理”倉(cāng)促收?qǐng)觥２簧儆脩舨唤苫螅哼@些外表智能實(shí)則機(jī)械的AI客服，與傳統(tǒng)電話客服“按0轉(zhuǎn)人工”的機(jī)械設(shè)置相比，究竟在服務(wù)體驗(yàn)上有多大程度的實(shí)質(zhì)性提升？

中國(guó)郵政儲(chǔ)蓄銀行研究員婁飛鵬表示，AI幻覺會(huì)生成看似不合理、與事實(shí)不符的結(jié)果，如果出現(xiàn)在營(yíng)銷領(lǐng)域，可能導(dǎo)致銀行無(wú)法向客戶做好解釋，從而增加銀行維護(hù)客戶群體的難度；如果出現(xiàn)在風(fēng)險(xiǎn)管理領(lǐng)域，可能使銀行因?yàn)闊o(wú)法理解其中的邏輯原因，無(wú)法有效采取針對(duì)性的風(fēng)險(xiǎn)管理措施。

記者采訪發(fā)現(xiàn)，AI幻覺的出現(xiàn)與行業(yè)之間的信息壁壘存在一定關(guān)聯(lián)?！般y行、保險(xiǎn)、證券等不同行業(yè)間的數(shù)據(jù)難以有效整合，碎片化的數(shù)據(jù)生態(tài)制約了AI模型的訓(xùn)練精度。”招聯(lián)首席研究員、上海金融與發(fā)展實(shí)驗(yàn)室副主任董希淼認(rèn)為，AI模型的訓(xùn)練需要大量數(shù)據(jù)支持，如何在保證隱私和安全的前提下進(jìn)行模型訓(xùn)練，是行業(yè)需要共同解決的問題。在部分對(duì)精度要求極高的金融應(yīng)用場(chǎng)景中，AI幻覺可能對(duì)新技術(shù)的落地應(yīng)用造成障礙?，F(xiàn)行金融監(jiān)管體系主要針對(duì)傳統(tǒng)業(yè)務(wù)模式設(shè)計(jì)，面對(duì)AI技術(shù)驅(qū)動(dòng)的新興業(yè)態(tài)需要新的有效規(guī)制手段?！靶枰⒁獾氖?，AI生成的知識(shí)在準(zhǔn)確性、科學(xué)性方面仍存在很大不足，現(xiàn)階段只能作為輔助工具而不能作為決策工具?！倍ｍ嫡f。

目前來看，完全消除AI幻覺并不現(xiàn)實(shí)。AI幻覺是一把“雙刃劍”，盡管可能給金融這樣對(duì)精確性要求較高的行業(yè)帶來風(fēng)險(xiǎn)，但在文學(xué)藝術(shù)等創(chuàng)作領(lǐng)域，許多人視其為靈感的催化劑，甚至主動(dòng)加以利用激發(fā)創(chuàng)新。“對(duì)金融機(jī)構(gòu)而言，需要對(duì)AI大模型有一定的容錯(cuò)度?！眾滹w鵬認(rèn)為，對(duì)不同類型的經(jīng)營(yíng)管理決策需要在AI生成結(jié)果和人工經(jīng)驗(yàn)判斷上設(shè)置不同的權(quán)重比例。在AI輸出結(jié)果的基礎(chǔ)上，輔以人工判斷更好地開展決策。同時(shí)通過適時(shí)增加數(shù)據(jù)指標(biāo)、調(diào)整優(yōu)化大模型等方法盡量減少AI幻覺的發(fā)生。

來源：經(jīng)濟(jì)日?qǐng)?bào)