21世紀經濟報道記者 邊萬莉 北京報道  ChatGPT帶火了一(yi)系列GPT產品，AIGC（AI generated content，生(sheng)成式AI）技術逐步走向實用。根(gen)據奇富科技對(dui)104家(jia)中(zhong)小機(ji)構(gou)的(de)(de)訪(fang)談，64%的(de)(de)受訪(fang)金融(rong)機(ji)構(gou)認(ren)為(wei)，GPT產品的(de)(de)能力將有(you)助于提煉信息、整合材(cai)料、生(sheng)成報告(gao)，減輕金融(rong)機(ji)構(gou)內部(bu)繁重的(de)(de)案頭工作。

ChatGPT的(de)面世推(tui)動人(ren)工智能(neng)發展史走到(dao)了奇點，但(dan)不(bu)得不(bu)承認的(de)是(shi)，同時也帶來了風險和挑戰。近期包頭警方(fang)公布的(de)一則詐騙案(an)例，正是(shi)利用“AI換臉”實施(shi)的(de)詐騙，為各行各業都敲響了安全警鐘。

“我們迫切需(xu)要重構人工智(zhi)能信任，在技術上、制度上有效(xiao)對(dui)抗AI虛假，建立防范(fan)AI操縱的(de)防火墻，維護數(shu)字經濟時代的(de)國家安(an)全與金(jin)融(rong)業安(an)全。”中國銀行(xing)原行(xing)長李禮輝在近(jin)日“第八屆融(rong)城(cheng)杯(bei)金(jin)融(rong)科技創新案例評選”啟動(dong)儀式上發(fa)言(yan)時如是說。

實(shi)際上，應對人(ren)工智能技術(shu)(shu)帶來的(de)威(wei)脅，不僅僅是(shi)要(yao)依靠制(zhi)度，更是(shi)需要(yao)技術(shu)(shu)公司、監(jian)管(guan)部門的(de)共同努力(li)。此(ci)外，個人(ren)也應當樹立信息安(an)全意識，謹防(fang)上當受騙。

金融機構對GPT產品的需求方向

ChatGPT熱度稍減，但關注度從(cong)未(wei)消失。如果(guo)將ChatGPT應用金(jin)融(rong)(rong)行業，會有哪些可能性(xing)呢？此前，21世紀經濟報道記者(zhe)向金(jin)融(rong)(rong)從(cong)業人員發(fa)起采訪(fang)后發(fa)現，答案主要集中在以下幾(ji)個方面：寫企業宣傳稿、寫研報、做客服、做催(cui)收、營(ying)銷(xiao)、專業分析等(deng)。

前不久，奇富科技就(jiu)金(jin)融(rong)(rong)機(ji)構對(dui)于GPT產(chan)品(pin)的(de)需求(qiu)，對(dui)104家中(zhong)(zhong)小(xiao)金(jin)融(rong)(rong)機(ji)構進行訪(fang)談。92%的(de)金(jin)融(rong)(rong)機(ji)構一致認為，標準(zhun)化程度越高，AI可替代(dai)性就(jiu)越強。與(yu)其坐等被替代(dai)，不如尋求(qiu)主(zhu)(zhu)動出(chu)擊(ji)。從調(diao)研結果看，金(jin)融(rong)(rong)機(ji)構對(dui)GPT產(chan)品(pin)的(de)需求(qiu)主(zhu)(zhu)要集中(zhong)(zhong)在(zai)三個方面，即(ji)改善用戶體驗、輔助風控決策、資料查詢與(yu)信息提煉(lian)。

數據顯示(shi)，72%的(de)(de)受(shou)訪金融(rong)機(ji)構相信(xin)(xin)，通過使用自(zi)然、流(liu)暢、個性化語言的(de)(de)GPT產(chan)品，可以有(you)效緩解客戶情緒，降(jiang)低客戶投訴(su)率。67%的(de)(de)受(shou)訪金融(rong)機(ji)構表示(shi)，他們需(xu)要一款能夠全(quan)面、準確(que)地解讀征(zheng)信(xin)(xin)報(bao)告(gao)的(de)(de)GPT產(chan)品，以提高(gao)信(xin)(xin)貸(dai)人員的(de)(de)工作效率和(he)精準度。64%的(de)(de)受(shou)訪金融(rong)機(ji)構認為，GPT產(chan)品的(de)(de)能力將(jiang)有(you)助于提煉(lian)信(xin)(xin)息、整合(he)材料、生成報(bao)告(gao)，減輕金融(rong)機(ji)構內(nei)部繁重的(de)(de)案(an)頭(tou)工作。

某南方(fang)農(nong)村(cun)信用社聯(lian)合社科技負責人表示：“我(wo)(wo)們(men)認(ren)為(wei)客(ke)戶對(dui)話(hua)是(shi)非常重要(yao)的一環，特別希望有(you)一款(kuan)能(neng)(neng)(neng)夠(gou)生成(cheng)自然、流暢、個(ge)性化(hua)語言的GPT產品，能(neng)(neng)(neng)滿(man)(man)足客(ke)戶問題(ti)解(jie)答(da)(da)及(ji)處理(li)，同(tong)時(shi)又能(neng)(neng)(neng)紓(shu)解(jie)客(ke)戶情緒，提升客(ke)戶體驗和滿(man)(man)意度，減(jian)少客(ke)戶投訴率。”同(tong)時(shi)，他也(ye)指(zhi)出(chu)，機構也(ye)會(hui)相(xiang)當重視(shi)對(dui)話(hua)內容的合規性、安全性、可信度和邏(luo)輯性，“如果GPT無法解(jie)決問題(ti)處理(li)操作的準確性，我(wo)(wo)們(men)將會(hui)選擇僅回答(da)(da)問題(ti)，在操作環節再跳轉(zhuan)人工復核。”

某南方城商(shang)行(xing)副行(xing)長表示：“我們(men)(men)在(zai)數字(zi)化轉(zhuan)型的(de)(de)(de)過程中(zhong)迫切(qie)需(xu)要(yao)一款優秀的(de)(de)(de)GPT產(chan)品，來提(ti)高(gao)其業(ye)務(wu)的(de)(de)(de)效(xiao)率和(he)質量。GPT能夠(gou)快速(su)查(cha)詢專業(ye)領域資料，提(ti)煉核心(xin)信息。當(dang)然，AI提(ti)供的(de)(de)(de)信息有些需(xu)要(yao)深入(ru)考(kao)究(jiu)真實性(xing)，但是(shi)GPT肯(ken)定(ding)是(shi)未來金(jin)融業(ye)務(wu)發展的(de)(de)(de)趨勢。因(yin)此，我們(men)(men)一定(ding)會(hui)加緊(jin)研究(jiu)和(he)選擇GPT產(chan)品，以適(shi)應市場的(de)(de)(de)需(xu)求(qiu)并提(ti)高(gao)自身(shen)的(de)(de)(de)競(jing)爭力。”

李(li)禮輝認為(wei)，ChatGPT的面世(shi)推動人工(gong)智能發展史走到(dao)了奇點，是人工(gong)智能的迭代升級，標(biao)志(zhi)著(zhu)數字技術的某種變局，將會帶來新的沖擊(ji)和挑戰。

一是在算(suan)力(li)(li)競(jing)爭(zheng)上面臨挑戰。金融(rong)(rong)領(ling)域中，智能化的(de)信(xin)用評(ping)估、客戶篩選、風險(xian)定(ding)價(jia)、數字員(yuan)工(gong)等方面無不需(xu)要數據和算(suan)力(li)(li)的(de)支撐，算(suan)力(li)(li)很大程度(du)上決定(ding)金融(rong)(rong)業(ye)的(de)競(jing)爭(zheng)力(li)(li)。算(suan)力(li)(li)的(de)競(jing)爭(zheng)，今后是科技巨頭、資本(ben)巨頭之間(jian)的(de)競(jing)爭(zheng)。我們(men)需(xu)要探討如何構(gou)建一個既能占領(ling)全球技術(shu)高地、又能避免壟(long)斷的(de)國家級(ji)算(suan)力(li)(li)基礎設施；如何構(gou)建一個資源(yuan)可共享、商業(ye)可持續、監(jian)管可包容、金融(rong)(rong)機構(gou)和科技公司可受(shou)益的(de)金融(rong)(rong)算(suan)力(li)(li)生態圈。

二(er)是AI合(he)成與信(xin)任面臨(lin)挑(tiao)戰。深(shen)(shen)度(du)內容合(he)成模(mo)糊(hu)了真實與虛假(jia)(jia)的(de)(de)邊界，最新的(de)(de)深(shen)(shen)度(du)合(he)成算法可以對(dui)抗(kang)通(tong)用的(de)(de)技術性的(de)(de)甄別，人(ren)們開(kai)始擔(dan)憂(you)AI虛假(jia)(jia)與AI操(cao)縱(zong)對(dui)社會構(gou)成的(de)(de)威脅。低(di)級別的(de)(de)AI虛假(jia)(jia)用于詐(zha)騙、詆毀個人(ren)及企業(ye)名譽；高級別的(de)(de)AI操(cao)縱(zong)有(you)可能(neng)用于詆毀政治(zhi)人(ren)物(wu)或政權實體操(cao)控負面輿情(qing)、制造(zao)政治(zhi)惡意、激化社會矛盾。

“AI換臉”詐騙敲響安全警鐘

風控是金(jin)融機構可持續發展的生命(ming)線，安(an)全性是金(jin)融科技創新(xin)應用(yong)關注的重要問題(ti)。近日，包頭警方公布了一則AI詐騙案例，敲(qiao)響了人工智能(neng)的警鐘。

據警方(fang)通(tong)報，騙子冒充(chong)郭(guo)先(xian)生(sheng)一名至(zhi)(zhi)交好友，通(tong)過(guo)(guo)微(wei)信聯系到郭(guo)先(xian)生(sheng)。對(dui)(dui)方(fang)告訴(su)郭(guo)先(xian)生(sheng)，他的朋友在(zai)外地招(zhao)標(biao)，需(xu)要(yao)430萬元，且需(xu)要(yao)公(gong)(gong)(gong)對(dui)(dui)公(gong)(gong)(gong)賬(zhang)(zhang)戶過(guo)(guo)賬(zhang)(zhang)，所(suo)以想(xiang)要(yao)借(jie)用(yong)郭(guo)先(xian)生(sheng)公(gong)(gong)(gong)司的賬(zhang)(zhang)戶走一下(xia)賬(zhang)(zhang)。郭(guo)先(xian)生(sheng)說，“從頭至(zhi)(zhi)尾都沒有和我(wo)(wo)提借(jie)錢的事情，就(jiu)說會先(xian)把(ba)錢給我(wo)(wo)打過(guo)(guo)來，再讓(rang)我(wo)(wo)給他朋友賬(zhang)(zhang)戶轉過(guo)(guo)去，而且當(dang)時是給我(wo)(wo)打了視(shi)頻，我(wo)(wo)在(zai)視(shi)頻中也確認了面孔和聲音，所(suo)以才放松了戒(jie)備(bei)。因為當(dang)時已(yi)經臨近12點了，對(dui)(dui)方(fang)又說招(zhao)標(biao)款12點前(qian)必須到賬(zhang)(zhang)，所(suo)以基于(yu)信任的前(qian)提下(xia)，我(wo)(wo)還沒等(deng)錢到我(wo)(wo)的賬(zhang)(zhang)戶，就(jiu)先(xian)把(ba)這430萬元給對(dui)(dui)方(fang)打了過(guo)(guo)去。”

沒(mei)想(xiang)(xiang)到(dao)的是(shi)，當錢款打過(guo)去后，郭先(xian)生(sheng)拿起手機給好朋友的微信發了(le)一條消(xiao)息(xi)，稱(cheng)事情已經辦妥。讓他沒(mei)想(xiang)(xiang)到(dao)的是(shi)，此次對(dui)方回過(guo)來(lai)的消(xiao)息(xi)竟然是(shi)一個問號。很快，郭先(xian)生(sheng)撥打了(le)好朋友的電話，這(zhe)一問才知道(dao)自己竟然是(shi)遇上了(le)“高端(duan)”騙局，對(dui)方通過(guo)智能AI的詐(zha)騙手段，佯裝成(cheng)好朋友對(dui)他實(shi)施了(le)詐(zha)騙。

郭先(xian)生在視頻中看到的朋友面孔和(he)聲音(yin)難道是假(jia)的？確實是假(jia)的。隨著AIGC技術(shu)的大(da)爆發(fa)，普通人接觸到各種先(xian)進生成工具變得(de)不(bu)費(fei)吹(chui)灰之力，制作出越(yue)發(fa)難以識別的高質量deepfake視頻也越(yue)來越(yue)容(rong)易，想一眼識破這些造假(jia)內容(rong)就更困難。

5月24日，中國(guo)互聯網協(xie)會發布提醒：伴隨著深(shen)度(du)合(he)成技(ji)術的開放開源，深(shen)度(du)合(he)成產品和服務逐漸增多，利用(yong)“AI換(huan)臉”“AI換(huan)聲”等虛假音視頻，進(jin)行詐騙、誹謗(bang)的違法行為(wei)屢見不鮮。

包頭警(jing)方(fang)通(tong)(tong)報的案例中，不(bu)法分子利用(yong)AI技術(shu)，通(tong)(tong)過(guo)聲(sheng)音合成，偽造(zao)成特(te)定(ding)人(ren)物的聲(sheng)音，通(tong)(tong)過(guo)AI換臉，偽裝(zhuang)成特(te)定(ding)人(ren)物，實(shi)時與他人(ren)進行視頻通(tong)(tong)話(hua)。更換后(hou)的面(mian)部(bu)表情(qing)自然，以假亂真，能夠冒(mao)充(chong)他人(ren)身份聯系被害人(ren)，博取被害人(ren)信任后(hou)實(shi)施詐騙。面(mian)對(dui)利用(yong)AI技術(shu)的新型(xing)騙局，廣大(da)公眾需提高(gao)警(jing)惕(ti)，加強防范。

據(ju)度(du)(du)小滿(man)數據(ju)智(zhi)能(neng)部(bu)總經(jing)理、度(du)(du)小滿(man)技(ji)(ji)術(shu)委(wei)員(yuan)會執(zhi)行(xing)(xing)主(zhu)席楊青(qing)介紹(shao)，在金融行(xing)(xing)業，由(you)deepfake產(chan)生(sheng)的主(zhu)要欺(qi)(qi)詐行(xing)(xing)為就是身(shen)份(fen)欺(qi)(qi)詐，也就是通過(guo)深(shen)度(du)(du)偽造(zao)的虛假(jia)圖像和(he)視頻，來冒(mao)充他人身(shen)份(fen)，騙過(guo)金融信(xin)貸(dai)流程(cheng)中的身(shen)份(fen)核驗系統(tong)（包括活體檢測）。不(bu)(bu)法分(fen)子的欺(qi)(qi)詐方法其實也很(hen)簡單，就是先通過(guo)劫持root或者緩存文件注入等形(xing)式劫持手機的攝(she)像頭，不(bu)(bu)讓(rang)它進行(xing)(xing)真實采(cai)集。然(ran)后(hou)上傳(chuan)提前準備好(hao)(hao)的虛假(jia)證件信(xin)息（或經(jing)過(guo)篡改處理，或直接從黑產(chan)處購(gou)買）和(he)通過(guo)深(shen)偽技(ji)(ji)術(shu)/AIGC技(ji)(ji)術(shu)生(sheng)成的人臉(lian)樣本了。如果(guo)系統(tong)恰好(hao)(hao)沒有(you)檢測出來，盜刷和(he)惡意注冊就可能(neng)隨之(zhi)而來，給(gei)金融機構和(he)用戶造(zao)成不(bu)(bu)易挽回的經(jing)濟(ji)損失。

中(zhong)關村科金(jin)金(jin)融(rong)事業(ye)部技(ji)術(shu)專家張巍(wei)向(xiang)記者表(biao)示，隨著技(ji)術(shu)的不斷進步(bu)和計算能力的提升，AI換(huan)臉技(ji)術(shu)成本(ben)越(yue)來越(yue)低(di)，更加易于使(shi)用(yong)，因此此類AI換(huan)臉案例逐步(bu)進入公(gong)(gong)眾(zhong)視野(ye)，監(jian)管機構、行業(ye)參與者及(ji)社(she)會公(gong)(gong)眾(zhong)需(xu)對此予(yu)以關注。該項(xiang)技(ji)術(shu)的濫用(yong)，引發(fa)了行業(ye)很多思考，包(bao)括：隱私侵犯、虛假(jia)信息傳播、偽造身份(fen)、形象破(po)壞和誹謗(bang)、法律和倫(lun)理問(wen)(wen)題。對于AI技(ji)術(shu)濫用(yong)，需(xu)要(yao)警(jing)惕所(suo)帶來的風險問(wen)(wen)題。

當前應對AI詐騙的探討與實踐

有(you)數據顯示(shi)，國內主(zhu)要(yao)金融機構(gou)及互(hu)聯網公(gong)司(si)應用的(de)(de)人臉驗(yan)證流程，70%以上存在(zai)被繞(rao)過的(de)(de)風(feng)險。在(zai)全球范圍(wei)內，也(ye)有(you)快接近一半(ban)（46%）的(de)(de)企業遭受(shou)過合成身份的(de)(de)欺詐，有(you)高達90%的(de)(de)受(shou)訪(fang)企業認(ren)為這種行為已日益嚴重。

“新技(ji)術發展到現在這個(ge)階(jie)段(duan)，我(wo)們迫切需要(yao)重構人工智(zhi)能信任。需要(yao)探討的(de)是(shi)如(ru)何在技(ji)術上和制度上有效(xiao)對抗AI虛假，如(ru)何建立防(fang)范AI操縱的(de)防(fang)火墻，維(wei)(wei)護數(shu)字經濟時代的(de)國家(jia)安全，當然也要(yao)維(wei)(wei)護數(shu)字經濟時代金(jin)融業(ye)的(de)安全。”李禮輝如(ru)是(shi)說。

實際上(shang)(shang)，已(yi)有公司(si)在破(po)解(jie)deepfake視頻上(shang)(shang)有所(suo)研(yan)究(jiu)和(he)實踐。楊(yang)青(qing)告(gao)訴記者，一般(ban)來說，行業各家公司(si)在破(po)解(jie)deepfake視頻上(shang)(shang)采取的思(si)路(lu)和(he)以上(shang)(shang)所(suo)講差(cha)別不大。以度小滿為例，用防深偽檢測(ce)模型(xing)破(po)解(jie)造假視頻，防深偽攻(gong)擊的算法策略主要從三方面的破(po)綻入手。

具(ju)體(ti)來(lai)看(kan)，一是(shi)生(sheng)成瑕疵，比如，眨眼(yan)頻(pin)率不(bu)正常、瞳孔形狀(zhuang)不(bu)規則、牙(ya)齒有缺(que)陷，大(da)到口型與(yu)聲音不(bu)吻合(he)，肢(zhi)體(ti)動作與(yu)演講內容(rong)不(bu)協(xie)調……二是(shi)固有屬性(xing)(xing)，指(zhi)的(de)是(shi)生(sheng)成工(gong)具(ju)、攝像頭光感元(yuan)件(jian)固有的(de)噪(zao)聲指(zhi)紋。由于單(dan)一特征(zheng)難(nan)以適應復雜的(de)deepfake內容(rong)，因此(ci)檢(jian)測模型的(de)整體(ti)框架采用(yong)的(de)是(shi)多特征(zheng)融合(he)，以此(ci)來(lai)保證決策的(de)魯棒(bang)性(xing)(xing)。三是(shi)高層語義。它指(zhi)的(de)是(shi)檢(jian)測面部(bu)動作單(dan)元(yuan)（肌肉群）協(xie)調性(xing)(xing)、面部(bu)各區域(yu)朝向一致性(xing)(xing)、視頻(pin)微觀(guan)連續性(xing)(xing)等方面的(de)問題，由于這些細節建(jian)模困難(nan)、難(nan)以復制，很容(rong)易抓(zhua)到把柄。

應對(dui)(dui)濫用AI技術(shu)進行詐騙，人工智能科(ke)技公司、監管部(bu)門均需發(fa)揮應有的(de)作用。張巍認(ren)為，對(dui)(dui)于人工智能科(ke)技公司而言(yan)，一(yi)方(fang)(fang)面發(fa)展(zhan)技術(shu)，另一(yi)方(fang)(fang)面也要對(dui)(dui)技術(shu)進行迭代，避免技術(shu)所(suo)帶(dai)來(lai)的(de)道德(de)風(feng)險(xian)；對(dui)(dui)于監管，期望能夠(gou)從(cong)行業秩序方(fang)(fang)面給(gei)予(yu)支持和規范，保(bao)障技術(shu)良性發(fa)展(zhan)，為社(she)會(hui)帶(dai)來(lai)幫助。

他進一(yi)(yi)(yi)步(bu)指出，金融機(ji)構應(ying)從技術(shu)升(sheng)級和(he)組織升(sheng)級角度予以防(fang)范，與相(xiang)關監管機(ji)構、司法機(ji)構開展合作，共(gong)同打擊欺(qi)詐。一(yi)(yi)(yi)方面，技術(shu)升(sheng)級包括(kuo)引入人工(gong)智能輔助技術(shu)，實(shi)施多層次、多模態(tai)身份核驗，全(quan)(quan)面升(sheng)級網(wang)絡安全(quan)(quan)和(he)數(shu)據安全(quan)(quan)策(ce)略，針(zhen)對(dui)異常行為進行監測(ce)；另一(yi)(yi)(yi)方面，組織升(sheng)級包括(kuo)加強員(yuan)工(gong)安全(quan)(quan)培訓，加強對(dui)新型欺(qi)詐手段的認(ren)知(zhi)和(he)應(ying)對(dui)，提升(sheng)安全(quan)(quan)意識。

隨著AI技術近(jin)期(qi)的(de)迅猛發展，新一(yi)輪的(de)有針對性的(de)監管(guan)正(zheng)在逐步(bu)完善(shan)。作(zuo)為一(yi)家領先的(de)對話式AI技術解決(jue)方案提供商(shang)，中關(guan)村(cun)科金有責任與行業(ye)各(ge)方一(yi)道，堅定支持監管(guan)機(ji)構開展行業(ye)監管(guan)，通過科技輔助相關(guan)監管(guan)規范(fan)落地，共同維(wei)護行業(ye)秩序。