整合金融科技行業(yè)？AI時代數(shù)字金融治理思考

編者按：

近日，“ChatGPT之父”山姆?阿爾特曼首次在美國國會作證，呼吁政府加強對人工智能（AI）技術(shù)的監(jiān)管。他提議，政府應(yīng)該對開發(fā)功能強大的AI系統(tǒng)的公司，實行持牌制度。

(資料圖片僅供參考)

在歐洲，政府欲出臺全球首個AI法案。據(jù)第一財經(jīng)報道，歐洲議會正就全球首部人工智能（AI）法案展開大規(guī)模協(xié)商，僅修正案就有一千多項，創(chuàng)下了歐洲議會史上之最。

在中國，國家互聯(lián)網(wǎng)信息辦公室4月正式發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，這也是國家首次針對于當(dāng)下爆火的生成式AI產(chǎn)業(yè)發(fā)布的規(guī)范性政策。

自2022年11月發(fā)布以來，ChatGPT掀起了一股AI熱潮，同時也引發(fā)了各國監(jiān)管機構(gòu)的關(guān)注和擔(dān)憂。阿爾特曼表示，“政府監(jiān)管、干預(yù)對于降低人工智能工具所帶來的風(fēng)險至關(guān)重要”。

本文從數(shù)字金融的角度，討論了ChatGPT所帶來的深度影響、商業(yè)機遇和治理架構(gòu)。作者認為，以自然語言處理為代表的ChatGPT，最終將帶來金融市場商業(yè)模式大變革。作者在文中對AI時代下的潛在金融風(fēng)險、ChatGPT的數(shù)字金融治理架構(gòu)，以及AI引發(fā)的我國數(shù)字普惠金融創(chuàng)新，都進行了深入地探索與思考，推薦大家閱讀。來源 | 《陸家嘴》2023年3月刊

作者 | 杜曉山 顧雷ChatGPT對金融的深度影響、商業(yè)機遇和治理架構(gòu)

——兼論我國數(shù)字普惠金融新業(yè)態(tài)發(fā)展與風(fēng)險防范一項創(chuàng)新可以推進一種經(jīng)營活動發(fā)生翻天覆地進步，也可能顛覆毀滅一個產(chǎn)業(yè)，區(qū)別就是有無事先的規(guī)范和治理。 ——題記近期，一個能聊天、能寫文案、能做表格的聊天機器人ChatGPT熱度不減，引發(fā)全球高度關(guān)注。大家都認為ChatGPT的意義不亞于，甚至高于幾年前阿爾法狗（Alpha Go）戰(zhàn)勝世界圍棋冠軍李世石。Chat是“聊天”的英文單詞，GPT是“生成式預(yù)訓(xùn)練模型”的英文縮寫。相較于以往的人工智能產(chǎn)品，ChatGPT理解力更強、邏輯思維更好、知識儲備更廣。

ChatGPT主要特征是什么？簡單說，聊天機器人ChatGPT是一個由浮點數(shù)參數(shù)表示的深度神經(jīng)網(wǎng)絡(luò)大模型。通過至少5個維度的能力提升，實現(xiàn)了初步的智慧涌現(xiàn)：

第一，海量高價值信息的全量在線記憶能力，體現(xiàn)在參數(shù)的數(shù)量上。ChatGPT的模型參數(shù)高達1750億，訓(xùn)練數(shù)據(jù)45TB，期間數(shù)據(jù)清洗標注、模型訓(xùn)練都是在積累知識，呈現(xiàn)出數(shù)字化信息爆發(fā)式增長。

第二，基于人類反饋的強化學(xué)習(xí)技術(shù)，自然語言輸入的任意任務(wù)和多輪對話理解能力成倍增加，不同的用戶可以有效獲得適合各自的答案。

第三，復(fù)雜邏輯的思維鏈推理能力，尋找到不同模態(tài)數(shù)據(jù)之間的對應(yīng)關(guān)系，使得生成內(nèi)容與使用者需求之間存在邏輯關(guān)系，諸如將一段文本和與之對應(yīng)的圖片聯(lián)系起來，生成更高級的邏輯語言。

第四，多角色多風(fēng)格文本生成與表達能力，實現(xiàn)不同模態(tài)數(shù)據(jù)間相互轉(zhuǎn)化與生成。在軟件開發(fā)方面，ChatGPT能夠更快、更準確生成計算機代碼，完成腳本或軟件開發(fā)工作；在客服、營銷方面，ChatGPT基于文本處理優(yōu)勢，提供更加優(yōu)質(zhì)在線語音和文字聊天服務(wù)，比如根據(jù)一張圖片生成對應(yīng)的語言描述，對圖像視覺內(nèi)容進行歸納和分析，使用合適的語言和詞匯將其重新組織，生成新圖像標題，實現(xiàn)智能客服和智能營銷應(yīng)用；在清算支付方面，ChatGPT能夠高效實現(xiàn)智能支付結(jié)算、智能會計記賬等職能。

第五，ChatGPT具備即時新知識學(xué)習(xí)應(yīng)用與進化能力，來自機器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)以及Transformer模型的多種技術(shù)模型積累，更好地捕捉人類語言的復(fù)雜性，經(jīng)過多類技術(shù)路線演化后，可以快速實現(xiàn)的人類意圖，更好適應(yīng)各種復(fù)雜任務(wù)，亦如有學(xué)者提出“易用、好用、實用”，完美詮釋ChatGPT的業(yè)務(wù)邏輯。[0]

與傳統(tǒng)認知智能需要對應(yīng)的系統(tǒng)不同，ChatGPT可以在不斷接觸新知識過程中持續(xù)提高自身性能，不僅能完成多個場景、多輪的人機對話，還能在多輪交互中以“類人”方式交流、學(xué)習(xí)，并可以自主、快速、不間斷達到人類專家水平。比如“易用”帶來了萬千的客戶，“好用”使得一個個好奇的測試者變成了初級使用者，“實用”使得初級使用者變?yōu)榱藞远ㄊ褂谜摺1]

目前，ChatGPT在金融領(lǐng)域應(yīng)用更多是搜索引擎和智能營銷，通過整合互聯(lián)網(wǎng)平臺信息方便用戶進行信息檢索，既可推出對話搜索模式，帶動金融咨詢行業(yè)、財富管理行業(yè)以及數(shù)字保險行業(yè)發(fā)展，又能替代部分腦力工作者重復(fù)性勞動，推薦普惠型金融產(chǎn)品、金融產(chǎn)品視頻介紹、客服咨詢、智能財富理財，緩解一部分金融從業(yè)人員工作負擔(dān)。

可以說，ChatGPT工作能力之強已不僅僅是單一場景的人機對話，而是一個同時具備多種能力的“對話式AI系統(tǒng)”。今天，在以自然語言處理為代表的ChatGPT，很可能重塑構(gòu)數(shù)字金融經(jīng)營形態(tài)，改變金融領(lǐng)域眾多產(chǎn)品升級樣態(tài)，重構(gòu)各類金融市場主體經(jīng)營模式，打破時空限制，實現(xiàn)跨界發(fā)展，最終帶來互聯(lián)網(wǎng)金融市場商業(yè)模式大變革。[2]顯然，ChatGPT帶來的影響和想象空間是巨大的，不僅關(guān)乎實施大數(shù)據(jù)、人工智能發(fā)展問題，更關(guān)系到金融市場未來發(fā)展和創(chuàng)新問題。01

ChatGPT對金融行業(yè)影響深度1、可能改變的金融運作模式

第一，改變現(xiàn)有人機交互模式

由于ChatGPT可以精準理解用戶意圖，更多符合人性化功能會被整合進APP軟件或程序里，在隨后的服務(wù)方面更能滿足用戶需求。ChatGPT人機交互模式有效改變當(dāng)前銀行業(yè)金融機構(gòu)APP等應(yīng)用的使用方式，用戶可以順暢使用自然對話智能方式與金融產(chǎn)品進行交互，提高交互效率與任務(wù)成功率，更加受到用戶歡迎。

第二，提高信息分發(fā)獲取精準度

基于智能認知技術(shù)可實現(xiàn)更高效信息整合功能，ChatGPT可以更加直接給出答案，提高問題與答案的匹配精準度，超越了傳統(tǒng)搜索引擎依靠關(guān)鍵字匹配篩選有用信息的限制。同時，ChatGPT還可以快速從海量數(shù)據(jù)中歸納總結(jié)有價值的關(guān)鍵信息，諸如行業(yè)趨勢、財務(wù)數(shù)據(jù)、產(chǎn)品利率走勢、輿情走向等，將其轉(zhuǎn)化為可讀的自然語言文本，快速得出財務(wù)分析數(shù)據(jù)及風(fēng)險數(shù)據(jù)，生成諸如行業(yè)研究報告、財務(wù)分析報告、市場風(fēng)險評估報告等，幫助機構(gòu)或用戶快速識別商機或風(fēng)險。在國外，新型聊天機器人模型ChatGPT已經(jīng)被用于各種各樣的工作：撰寫產(chǎn)品（招股）說明書、債券認購須知、編寫金融業(yè)務(wù)流程等基礎(chǔ)性金融文件，甚至幫助客戶撰寫需求申請說明書，大幅提高工作效率。

第三，增強實際使用價值

作為AIGC（人工智能生成內(nèi)容）技術(shù)的典型代表，ChatGPT一經(jīng)上線便被應(yīng)用于風(fēng)險管理、欺詐檢測、精準營銷，以及對金融市場客戶意圖識別、信息處理和決策輔助支持，大幅提升金融業(yè)務(wù)處理效率，尤其是ChatGPT編程能力極大拓展金融從業(yè)人員創(chuàng)意能力，帶動圖像、音頻、視頻等AIGC技術(shù)在金融市場發(fā)展，成為金融行業(yè)新的生產(chǎn)力工具，對金融業(yè)發(fā)展產(chǎn)生巨大影響。從理論上來講，如果機器人ChatGPT參加銀行業(yè)金融機構(gòu)面試，雇傭它成為一名入門級大堂副經(jīng)理亦或理財專員應(yīng)該是可以的。

第四，大幅提升金融行業(yè)生產(chǎn)力

未來，ChatGPT強大功能衍生出一系列多元化金融服務(wù)產(chǎn)品，實現(xiàn)資訊內(nèi)容、產(chǎn)品介紹、客服咨詢以及服務(wù)遴選等自動化生成，推動業(yè)務(wù)模式與服務(wù)模式創(chuàng)新。ChatGPT與元宇宙技術(shù)的融合，能夠快速生成數(shù)字人工客服，提供智能化、交互性服務(wù)，有效提高服務(wù)質(zhì)量和引流能力，能夠以低成本、高效率處理復(fù)雜金融業(yè)務(wù)，提升金融機構(gòu)運營效率。同時，ChatGPT還可以為各類金融消費者提供個性化、高質(zhì)量的服務(wù)，在投資顧問、客戶咨詢、商業(yè)營銷領(lǐng)域，提供智能營銷、智能客服、智能量化投資、智能風(fēng)險管理等多種金融場景，提升客戶滿意度，增強品牌形象。

第五，ChatGPT一定程度可替代金融從業(yè)人員

牛津大學(xué)2013年一項研究發(fā)現(xiàn)：未來20年，美國47%的工作崗位可能會被人工智能取代，尤其是白領(lǐng)工作。[3]目前，ChatGPT可以替代簡單重復(fù)的體力勞動及腦力勞動，還可以輔助做一些較復(fù)雜的具有創(chuàng)造性的工作，一定程度改變我國金融行業(yè)人力資源結(jié)構(gòu)，促使部分金融從業(yè)者有動力進行更多金融創(chuàng)新，有助于實現(xiàn)金融行業(yè)快速發(fā)展。可能產(chǎn)生的金融替代崗位：

（1）技術(shù)類工作：程序員、軟件工程師、數(shù)據(jù)分析師

ChatGPT擅長準確處理編碼和計算機編程技能，用ChatGPT人工智能取代銀行業(yè)金融機構(gòu)、互金平臺、金融科技公司軟件工程師、軟件開發(fā)人員、網(wǎng)絡(luò)開發(fā)人員、計算機程序員、編碼員等技術(shù)崗位，編制業(yè)務(wù)規(guī)劃和業(yè)務(wù)流程，應(yīng)該不會太遙遠的事情。

（2）培訓(xùn)類工作：金融行業(yè)職業(yè)培訓(xùn)與教育

低成本、高效率ChatGPT可以幫助銀行業(yè)金融機構(gòu)、互金平臺、金融科技公司培訓(xùn)員工，加強職業(yè)教育，提高金融行業(yè)知識和技能。

（3）咨詢類工作：金融分析師，個人財務(wù)顧問

ChatGPT不僅可以幫助市場研究分析師、金融分析師、個人財務(wù)顧問和其他需要處理數(shù)字數(shù)據(jù)的崗位，還可以幫助金融投資者識別市場趨勢，利用各種形式數(shù)據(jù)推薦最優(yōu)投資組合，幫助投資者提高財富管理能力。

（4）客服類工作：金融專項服務(wù)

ChatGPT可以給所有客戶打電話或聊天，更加智能化和人性化。科技研究公司Gartner在去年一項研究預(yù)測顯示：到2027年，ChatGPT將成為約25%公司的主要客戶服務(wù)渠道。[4]因此，未來銀行業(yè)金融機構(gòu)、互金平臺、小貸公司、金融科技公司完全可以利用ChatGPT對城鎮(zhèn)居民、農(nóng)戶、個體工商戶進行財務(wù)管理、農(nóng)業(yè)生產(chǎn)知識、災(zāi)害保險賠付方面的咨詢服務(wù)。

雖然金融行業(yè)初級分析師、個人理財顧問、營銷客服、會計師、交易員等的失業(yè)風(fēng)險增加，但金融行業(yè)是具有創(chuàng)新性、靈活性以及挑戰(zhàn)性的工作，諸如深度研究分析、金融監(jiān)管政策制定和執(zhí)行是無法被人工智能所取代。更重要的是，金融業(yè)核心在于服務(wù)，人與人之間情感互通的溫情是人工智能無法替代的，比如銀行、證券公司、金融咨詢公司業(yè)務(wù)中面對面溝通、對話以及人性化服務(wù)與管理，這類工作ChatGPT更是無法替代的。

2、可能產(chǎn)生的潛在金融風(fēng)險

首先，ChatGPT存在不準確甚至誤導(dǎo)性回答。由于ChatGPT顛覆了很多現(xiàn)有規(guī)則，ChatGPT可以“一本正經(jīng)的胡說八道”，容易讓人們相信ChatGPT給出的答案是正確的。但是，沒有人保證這些數(shù)據(jù)100%準確、客觀，不帶有偏見和歧視。有學(xué)者已經(jīng)指出，在數(shù)據(jù)質(zhì)量和隱私安全上，人工智能性能很大程度上取決于可用的數(shù)據(jù)。然而，許多數(shù)據(jù)缺乏質(zhì)量和完整性，仍然需要大量人力和時間成本進行數(shù)據(jù)清洗和預(yù)處理。[5]

這是因為，作為一種語言模型智能機器人，ChatGPT生成對話文本能力僅僅局限在文字表面的意思，并不能真正理解文字背后真實含義。大多數(shù)情況下，ChatGPT只是顯示出基于文字提示或表達提問邏輯暗示，盡管文字表達比較強，但其內(nèi)在邏輯和聯(lián)想空間是不夠的。顯而易見，算力成為制約人工智能模型發(fā)展的因素，尚未具備生成文字上下結(jié)構(gòu)語境的理解能力。這意味著ChatGPT很可能出現(xiàn)創(chuàng)建誤導(dǎo)性內(nèi)容、可解釋性不周全、不符合人類認識邏輯、知識偏見甚至是虛假新聞等問題，誤導(dǎo)金融消費者相信一個不完全正確的結(jié)論。

其次，ChatGPT會給個人金融數(shù)據(jù)保密帶來一定挑戰(zhàn)。因為ChatGPT依托海量數(shù)據(jù)庫信息存在，其中包括大量互聯(lián)網(wǎng)用戶自行輸入信息，但ChatGPT無法對金融信息與金融數(shù)據(jù)來源進行核查，如果將其納入自身語料庫就會產(chǎn)生泄露風(fēng)險。一旦重要數(shù)據(jù)泄露，造成的損失到底是由泄露數(shù)據(jù)的人承擔(dān)，還是由披露數(shù)據(jù)的ChatGPT承擔(dān)？如何評估和計算ChatGPT賠償或懲罰的力度和價值？這些都不得而知。據(jù)說，目前歐盟委員會正在起草一項新的人工智能法規(guī)，試圖解除ChatGPT和其他人工智能技術(shù)帶來的潛在泄露個人信息風(fēng)險。

再次，ChatGPT對于金融科技倫理侵犯的問題。ChatGPT可以更加高效準確地完成一些基礎(chǔ)性、重復(fù)性的工作，ChatGPT的數(shù)據(jù)輸出功能承載著后臺技術(shù)操控者的話語權(quán)，用戶越多、使用范圍越廣就意味著其話語權(quán)越大、價值滲透力越強。如果操控者價值觀存在歷史和文化偏見、歧視，就會通過ChatGPT“放大鏡”誤導(dǎo)用戶，扭曲大眾價值觀，違反金融科技倫理和職業(yè)道德。顯然，從安全倫理角度看，存在數(shù)據(jù)泄露風(fēng)險、被濫用或者被危險分子使用的安全倫理問題，由此產(chǎn)生的金融科技倫理問題更是不容忽視的。02

建立ChatGPT金融治理框架必要性目前，ChatGPT面臨可信度、數(shù)據(jù)隱私保護及數(shù)據(jù)安全問題，離市場實踐和產(chǎn)品落地尚有一定距離。我們以普惠金融為例，一方面，從事人工智能技術(shù)開發(fā)的企業(yè)不了解金融市場需求，尤其對社會低收入群體、殘疾人、新市民、個體工商戶以及農(nóng)民的真實金融需求并不真正了解，導(dǎo)致開發(fā)出來的人工智能無法讓上述特殊群體滿意，產(chǎn)生需求錯位，產(chǎn)品流于形式。另一方面，深入基層一線的銀行業(yè)金融機構(gòu)、互金平臺、小貸公司、金融科技企業(yè)或者實體產(chǎn)業(yè)的專家們沒有那么高水平開發(fā)ChatGPT大模型，無法解決日常工作中碰見的小額信貸問題。

上海一家民營機構(gòu)金融監(jiān)管研究院測試ChatGPT在金融監(jiān)管領(lǐng)域性能時認為，在獲取文本真實性與全面性方面，ChatGPT表現(xiàn)得還是略遜一籌。例如，當(dāng)在ChatGPT聊天框輸入“資管新規(guī)”時，ChatGPT給出的答案只是類似于該新規(guī)的解釋語。這是因為ChatGPT沒有聯(lián)網(wǎng)，并不能替代搜索引擎，它是一個離線的生成模型，所有回答都是生成的，不具備真實性。因此，想要獲得專業(yè)性金融或法律類知識，人們還得去官網(wǎng)或?qū)I(yè)網(wǎng)站，以求獲得可信度比較高的專業(yè)信息。

顯然，數(shù)據(jù)質(zhì)量、隱私和安全、計算能力及風(fēng)險管理，是目前ChatGPT人工智能在金融行業(yè)應(yīng)用的主要難點。如果設(shè)計不準或使用正當(dāng)這些超級工具就會成為超級毀壞者，產(chǎn)生我們意料之外的嚴重后果。為此，我們呼吁我國金融學(xué)術(shù)界，一同努力，主動出擊，建立一個健康的ChatGPT生態(tài)，而不是任憑ChatGPT自由發(fā)展，亦或跟隨在西方國家后面人云亦云，喪失自我。ChatGPT的發(fā)展離不開法律保障和金融監(jiān)管。為了防范人工智能非道德和反人類的濫用，我們必須制定有關(guān)法律、法規(guī)來規(guī)范科技工作者的行為，需要建立一個規(guī)范化ChatGPT系統(tǒng)，特別需要符合中國國情的人工智能AI技術(shù)框架，比如人工智能合規(guī)化：經(jīng)過科技、法律、領(lǐng)域?qū)＜艺撟C，頒布一系列有關(guān)人工智能法律法規(guī)；法規(guī)數(shù)字化：法律執(zhí)行自動化，建設(shè)“可編程法律”，包括智能金融合約開發(fā)、注冊、認證、部署、執(zhí)行、存儲；算法倫理化：考慮倫理道德規(guī)范，高度重視金融科技倫理在人工智能領(lǐng)域的運用。

我們認為，人類的未來應(yīng)該由人類決定，不可以由人工智能左右。我們需要有為民之心、商業(yè)智慧和學(xué)術(shù)尊嚴，使算法融合治理，治理進入算法，應(yīng)該對所有試圖建立ChatGPT的努力進行嚴格審查，要將金融科技與法律法規(guī)結(jié)合起來，使得人工智能操作系統(tǒng)符合人類倫理和國家法律，不能屈從于利益集團，將ChatGPT變成一款可以瘋狂賺錢的聊天機器人。03

ChatGPT的數(shù)字金融治理架構(gòu)1、世界各國對ChatGPT治理概況

近年來，美國國會議員一直推動通過關(guān)于人工智能的聯(lián)邦立法。2019年，《算法問責(zé)法》要求各組織向美國提供年度人工智能算法評估報告，對人工智能出口管制將更加嚴格。在白宮科學(xué)技術(shù)辦公室領(lǐng)導(dǎo)下，美國制定了首個用于管理人工智能實踐的算法權(quán)利法案。美國各州地方政府逐漸開始通過算法監(jiān)管法規(guī)，比如紐約市為了防止申請過程中潛在歧視，要求組織外部專業(yè)機構(gòu)進行人工智能算法審計。

2021年1月18日，美國頒布《國家人工智能倡議法案》（National AI Initiative Act），旨在確保美國在全球AI技術(shù)領(lǐng)域保持領(lǐng)先地位，保障獲取計算和數(shù)據(jù)資源、設(shè)置技術(shù)標準、建立勞動力系統(tǒng)及與盟友展開合作。2021年12月13日，美國國家標準與技術(shù)研究院（NIST）發(fā)布《人工智能風(fēng)險管理框架概念文件》（AI Risk Management Framework Concept Paper），旨在幫助指導(dǎo)人工智能風(fēng)險管理框架的開發(fā)，并將在2023年初接續(xù)發(fā)布人工智能風(fēng)險管理框架1.0版本。

2023年1月20日，美國Pixelplex公司發(fā)布《人工智能監(jiān)管：各國對這項技術(shù)適用哪些法律?》（Artificial Intelligence Regulation:What Laws Do Countries Apply to this Tech），提出3大關(guān)鍵問題：（1）數(shù)據(jù)將如何在人工智能系統(tǒng)內(nèi)使用？（2）人工智能系統(tǒng)是否有合法的依據(jù)使用這些數(shù)據(jù)？（3）人工智能系統(tǒng)是否數(shù)據(jù)擁有人的同意？依據(jù)哪一部美國法律？

2022年6月18日，加拿大發(fā)布《2022年數(shù)字憲章實施法案》，以加強對加拿大私營部門的管理，為負責(zé)任的人工智能AI開發(fā)和使用創(chuàng)造新規(guī)則。該《法案》包括三項擬議法案，《消費者隱私保護法》、《個人信息與數(shù)據(jù)保護法庭法》、《人工智能與數(shù)據(jù)法》。其中，《人工智能與數(shù)據(jù)法》（Artificial Intelligence and Data Act,AIDA）通過確保各公司應(yīng)以旨在減輕傷害和偏見風(fēng)險的方式開發(fā)部署AI系統(tǒng)來保護加拿大居民。[6]

2022年9月，英國開展了一場探索ChatGPT是不是安全討論，集中在ChatGPT系統(tǒng)有沒有確保機制確保系統(tǒng)安全的應(yīng)用？ChatGPT系統(tǒng)里面的技術(shù)是不是安全？目前全球ChatGPT人工智能系統(tǒng)是否表現(xiàn)出市場公平性？ChatGPT出現(xiàn)問題引發(fā)經(jīng)濟損失或人身傷害以后究竟由誰來承擔(dān)法律責(zé)任？

對于開發(fā)ChatGPT人工智能系統(tǒng)的企業(yè)，英國金融學(xué)家和法官們經(jīng)過充分討論和溝通，一致認為需要具備以下規(guī)則：（1）在整個組織內(nèi)，有制定清楚的政策和程序，以創(chuàng)建一個促進人工智能創(chuàng)新并確保系統(tǒng)透明度和可解釋性的設(shè)計合規(guī)計劃。（2）定期審核人工智能的使用情況。（3）對于監(jiān)管單位需要的信息、流程和數(shù)據(jù)，必須隨時提供給監(jiān)管機構(gòu)。（4）即使人工智能相關(guān)法規(guī)還沒有到位，也要避免系統(tǒng)中的偏見風(fēng)險。

2021年4月，歐盟委員會提出了《人工智能法案》（The AI Act）草案，關(guān)注歐盟各國人工智能系統(tǒng)隱私保護應(yīng)用，在AI應(yīng)用可能給經(jīng)濟和社會帶來的風(fēng)險和利益中尋求平衡的探索。[7]《人工智能法案》（The AI Act）要求歐盟各國必須學(xué)會如何使用《人工智能法案》，發(fā)展統(tǒng)一、可信賴的歐盟人工智能市場，對制造和使用人工智能的組織產(chǎn)生全球性影響。顯然，歐盟已經(jīng)意識到，ChatGPT不是單獨的一個人工智能行業(yè)，更不是獨立于科技領(lǐng)域之外的“世外桃源”。只有在歐盟層面采取共同行動，利用其監(jiān)管權(quán)力塑造全球規(guī)則和標準，形成全球公認的人工智能治理規(guī)則框架，才能保護歐盟數(shù)字主權(quán)。

2、我國對人工智能的監(jiān)管規(guī)定

現(xiàn)階段，我國并沒有專門針對ChatGPT的法律治理架構(gòu)，但有一些對人工智能方面的監(jiān)管規(guī)定，分散在各個時期頒布的網(wǎng)絡(luò)信息、網(wǎng)絡(luò)數(shù)據(jù)、人工智能法規(guī)中，初步形成“技術(shù)防范+倫理規(guī)范+法律規(guī)制”綜合規(guī)制體系。瑞銀集團報告顯示：當(dāng)前ChatGPT全球活躍用戶數(shù)或已達1億，成為人類歷史增長最快的消費者應(yīng)用，由此引發(fā)的人工智能話題，諸如從現(xiàn)在的“考試作弊代寫神器”到將來的金融、倫理、法律問題已經(jīng)備受全球關(guān)注。在今天萬物智聯(lián)化年代，ChatGPT人工智能并非十全十美，更不是包治普惠金融百病的“萬能藥”。我們必須制定一套嚴格的限制性應(yīng)用規(guī)則，堅持ChatGPT以人為本原則，樹立負責(zé)任金融理念，推進數(shù)字化智能化轉(zhuǎn)型，有效控制ChatGPT可能帶來的金融、法律、倫理以及社會問題，加大金融重點領(lǐng)域和薄弱環(huán)節(jié)金融投入，更好滿足廣大“長尾客戶”金融需求。2023年2月24日，科技部負責(zé)人針對ChatGPT熱門話題時強調(diào)，未來要在算法、數(shù)據(jù)、算力上進行有效結(jié)合，對于人工智能任何一個新技術(shù)，除了加快理論研究和重大技術(shù)攻關(guān)外，還要在倫理方面采取相應(yīng)措施，加強倫理規(guī)范，兼顧人工智能創(chuàng)新性與規(guī)范性，推動建立人工智能安全可控的治理體系。[8]

3、建立ChatGPT治理框架和監(jiān)管規(guī)則

（1）開展先期ChatGPT測試實驗

現(xiàn)階段，先期開發(fā)對接ChatGPT軟件或是硬件進行內(nèi)部測試，暫不考慮直接現(xiàn)實使用。只有經(jīng)過測試保證安全，經(jīng)過行業(yè)認證、相關(guān)部門批準后才可投入使用。如果經(jīng)過測試，有些ChatGPT技術(shù)依然不成熟，有必要禁止ChatGPT連接金融市場系統(tǒng)，守好ChatGPT共治底線，避免產(chǎn)生直接物理性傷害和財產(chǎn)性損失。

（2）設(shè)置ChatGPT限制性規(guī)則

設(shè)置ChatGPT禁止性規(guī)定，要求ChatGPT對任何個人、企業(yè)（機構(gòu)組織）、社會、主權(quán)國家負有防止傷害的法定責(zé)任，例如不能傷害人類，不可以披露個人隱私數(shù)據(jù)，不能披露虛假或沒有依據(jù)的陳述，切實防范發(fā)展過程中的各項風(fēng)險，構(gòu)建完善ChatGPT算法與模型的風(fēng)險防范與責(zé)任管理架構(gòu)。

（3）建立隱私權(quán)保護機制

要求ChatGPT提供隱私保護，包括隱私保護算法、數(shù)據(jù)存儲方式、數(shù)據(jù)分析算法、信息披露系統(tǒng)以及應(yīng)用算法，而且長期追蹤，禁止任何與隱私權(quán)保護法律法規(guī)相違背的業(yè)務(wù)行為。

（4）確立數(shù)據(jù)真?zhèn)卧瓌t

需要ChatGPT提供數(shù)據(jù)來源以及相關(guān)記錄，并且能判斷信息真?zhèn)危ＷC數(shù)據(jù)來源的真實性。如果發(fā)生問題，出錯的數(shù)據(jù)來源必須及時移除。需要ChatGPT提供數(shù)據(jù)、信息來源保持中立，不能有任何政治性偏向，確保回答立場中性和公正。

（5）建立ChatGPT金融科技倫理標準。

保障ChatGPT在金融行業(yè)應(yīng)用時不能挑戰(zhàn)傳統(tǒng)金融市場的倫理標準，不僅系統(tǒng)設(shè)計時要有倫理考量，在市場運作時也需要積極應(yīng)對倫理規(guī)則，遵循人工智能無權(quán)拋棄人類倫理和道德標準。04

ChatGPT引發(fā)的我國數(shù)字普惠金融創(chuàng)新思考今天，金融行業(yè)很多人對ChatGPT產(chǎn)生了深度擔(dān)憂。這種擔(dān)憂是可以理解的，但我們不必恐慌。金融發(fā)展需要人工智能，而人工智能發(fā)展到一定階段必然出現(xiàn)ChatGPT。不能因為ChatGPT存在一定風(fēng)險，就停止對人工智能的創(chuàng)新探索。我們不認為金融市場停止其發(fā)展是可能的或可取的，恰恰相反，未來我們應(yīng)該發(fā)揮ChatGPT優(yōu)勢，促進數(shù)字技術(shù)與普惠金融領(lǐng)域融合滲透，激發(fā)人工智能深層次創(chuàng)新活力，不斷催生新模式，實現(xiàn)數(shù)字普惠金融領(lǐng)域動力變革、質(zhì)量變革、效率變革，拓展我國數(shù)字普惠金融新業(yè)態(tài)。

第一，整合金融科技行業(yè)

今天，當(dāng)我們第一次面對ChatGPT時，我們并沒有預(yù)料到擴展會像事實證明的那樣重要。但是，成功過渡到一個擁有超級智能的世界，應(yīng)該是人類歷史上最有希望的未來。因此，推進ChatGPT人工智能在數(shù)字金融領(lǐng)域創(chuàng)新應(yīng)用，圍繞供應(yīng)鏈金融服務(wù)、數(shù)字資產(chǎn)交易，突破分布式存儲、密碼學(xué)、共識機制、智能合約、跨鏈技術(shù)等關(guān)鍵核心技術(shù)，構(gòu)建數(shù)字金融創(chuàng)新平臺，加強人工智能、虛擬現(xiàn)實等技術(shù)在普惠金融領(lǐng)域研究應(yīng)用，為銀行業(yè)金融機構(gòu)數(shù)字化轉(zhuǎn)型升級發(fā)揮重要作用。

【案例】

金融壹賬通在AIGC技術(shù)上已經(jīng)應(yīng)用于銀行、保險、投資等金融垂直領(lǐng)域，提供更精準的金融文檔處理解決方案，提升了客服、審核、行政、運營、數(shù)據(jù)分析等從業(yè)人員的工作效率。以文本掃描理解一體產(chǎn)品為例,其單張文稿識別時間不到2秒,表格字符識別率達96.8%,字符準確率達99.55%,且支持布局還原、信息抽取、閱讀理解等后續(xù)操作,有效降低40%漏檢、誤檢風(fēng)險。

金融壹賬通還將人工智能意圖識別、情緒理解、相似匹配、實體識別與驗證等技術(shù)嵌入“智能客服”產(chǎn)品中，提升了客戶服務(wù)響應(yīng)速度，大幅降低運營成本。以“加馬智慧語音解決方案”為例，針對智能催收、智能營銷、智能客服多業(yè)務(wù)多場景打造“300+外呼流程”、“3000+文本FAQ庫”、“200+質(zhì)檢模型”和“60+智能輔助模板”。在與某城商行合作中，助力該城商行激活了近70%存量客戶，意向客戶中有超過50%進入銷售環(huán)節(jié)，整體運營成本降低75%，人均產(chǎn)能提升了5倍。

截至2022年底，在智能客服方面，AI+導(dǎo)航和AI+文本機器人有效分流人工服務(wù)量，平均實現(xiàn)人工替代率達到60%以上，平均通話時長降低10%；在智能催收方面，信用卡催收可提升80%坐席作業(yè)時效，降低90%客訴率，AI+催收對話分析質(zhì)檢準確率高于85%；在智能營銷方面，針對長尾客戶已實現(xiàn)100%的AI觸達率，APP端AI銷售額逾百億，AI銷售占比達62%。案例來源：《中國網(wǎng)科學(xué)》，2023年2月16日

第二，培育普惠型智慧農(nóng)業(yè)

ChatGPT加強在物聯(lián)網(wǎng)、大數(shù)據(jù)、衛(wèi)星通信、遙感技術(shù)應(yīng)用，提高可追溯服務(wù)、直播電商、休閑農(nóng)業(yè)電商在人工智能方面的技術(shù)含量，賦能農(nóng)戶、涉農(nóng)中小微企業(yè)、農(nóng)村經(jīng)濟組織可視化遠程診斷、遠程控制、災(zāi)變預(yù)警等智慧農(nóng)業(yè)功能，用ChatGPT強化人腦、用機器替代人力、用自主替代進口，實現(xiàn)生產(chǎn)智能化、作業(yè)精準化、管理數(shù)字化和服務(wù)網(wǎng)絡(luò)化，培育普惠型智慧農(nóng)業(yè)新業(yè)態(tài)。

第三，促進云端消費金融

發(fā)揮ChatGPT人工智能、VR技術(shù)優(yōu)勢，聚焦供應(yīng)鏈管理、精準營銷獲客、沉浸式銷售體驗等環(huán)節(jié)，緊密結(jié)合傳統(tǒng)零售企業(yè)、老字號企業(yè)，推廣云逛街、智能試裝、VR逛店、無人物流、虛擬裁縫助理等云端服務(wù)，為傳統(tǒng)零售企業(yè)提供升級解決方案，實現(xiàn)以消費者為中心的會員、支付、庫存、服務(wù)全面人工智能升級。

第四，解決特殊人群“數(shù)字鴻溝”問題

針對老年人、文化程度較低人群或輕微智障人員，利用ChatGPT人工智能技術(shù)、大數(shù)據(jù)、客戶移動終端、APP等數(shù)字技術(shù)，可以在遠程開戶、線上支付、網(wǎng)絡(luò)支付提供更加簡單、方便的特殊服務(wù)，大幅提升信息無障礙觸達率，解決大多數(shù)老年人甚至是殘疾人或輕微智障人員不會使用智能手機的窘境，按照適老化要求開發(fā)出更方便化、更精準化、更差異化普惠金融產(chǎn)品，不僅解決老年人、殘疾人或輕微智障人員使用不足、效率不高問題，也讓農(nóng)民、城鎮(zhèn)低收入人群、文化程度不高人群分享新技術(shù)、新工具、新產(chǎn)品，提升特殊群體的數(shù)字化感應(yīng)能力，縮小數(shù)字鴻溝，提高數(shù)字普惠金融服務(wù)范圍和普及效能。

第五，賦能社區(qū)金融智慧場景

根據(jù)社區(qū)居民、新市民收入特點、家庭經(jīng)濟狀況、投資偏好特點，利用ChatGPT拓展社區(qū)金融管理和民生保障，引導(dǎo)國有銀行、地方中小商業(yè)銀行、互金平臺、科技企業(yè)、電商服務(wù)運營商以及社區(qū)金融服務(wù)機構(gòu)深入挖掘社區(qū)居民、新市民金融需求，運用ChatGPT技術(shù)提高儲蓄、投資理財、融資、日常生活繳費、支付結(jié)算、稅務(wù)匯兌、網(wǎng)上購物等人工智能服務(wù)等級，在產(chǎn)品設(shè)計、服務(wù)方式、服務(wù)周期、維權(quán)方面考慮社區(qū)居民、新市民多樣化金融需求，在遠程開戶、線上支付提供更加智能化的金融產(chǎn)品，讓所有社區(qū)居民都可以享受到ChatGPT帶來的金融服務(wù)，體會人工智能快樂，在推進城鄉(xiāng)基本公共服務(wù)均等化上持續(xù)發(fā)力，促進數(shù)字化社會公共資源智能化共享復(fù)用。

第六，發(fā)展數(shù)字化養(yǎng)老產(chǎn)業(yè)

利用ChatGPT技術(shù)提供包括儲蓄、融資、保險、理財在內(nèi)的智能化普惠金融服務(wù)，確保老年人、尤其是低收入老年群體有機會利用人工智能積累個人和家庭財富。同時，圍繞著人工智能養(yǎng)老產(chǎn)業(yè)，建立涵蓋養(yǎng)老、醫(yī)療、保健、衛(wèi)生、藥品、服務(wù)要素的“ChatGPT健康云空間”，對海量、多維養(yǎng)老健康檔案、服務(wù)檔案進行人工智能管理、分析與應(yīng)用，為養(yǎng)老產(chǎn)業(yè)提供“一站式”人工智能數(shù)據(jù)信息服務(wù)，方便老年人居家使用和操作，讓老年群體享受到看得見、摸得著的實惠。

本文注釋：

[0]祝世虎：《ChatGPT的技術(shù)、缺陷與合規(guī)》，摘自《九卦金融圈》，2023年2月22日。

[1]易用，OpenAI斥巨資提供了便捷的API接口，每個人都可以很方便的接入；好用，其效果遠遠高于同類型的傳統(tǒng)產(chǎn)品，出乎意料的效果吸引了更多的人進行試用；實用，有些學(xué)生用ChatGPT來寫作業(yè)，有些程序員用ChatGPT來代碼，有些畫師用ChatGPT來繪畫，這就體現(xiàn)了ChatGPT的實用性。

[2]ChatGPT的思想不是2022年才出來的。麻省理工學(xué)院在1964年提出Eliza系統(tǒng)，以及1972年斯坦福大學(xué)開發(fā)的PARRY系統(tǒng)，都是和用戶交互的軟件。由于系統(tǒng)功能限制，他們沒有引起社會的重視。后來IBM開發(fā)了Watson系統(tǒng)，產(chǎn)生重大影響。相關(guān)技術(shù)越來越成熟。因此ChatGPT出來后，由于性能比以前的系統(tǒng)好的多，也可以在許多領(lǐng)域上使用，得到世界的重視。

[3]崔璞玉：《哪些工作會被AI取代？ChatGPT和專家給出了相似答案》，載《界面新聞》，2023年2月9日。

[4]參見《ChatGPT掀起驚濤駭浪：未來它能做這十個工作》，載“聯(lián)系創(chuàng)投網(wǎng)站”，2023年2月7日。

[5]唐燕飛：《券商“試水”ChatGPT隱私與安全風(fēng)險須警惕》，摘自《上海證券報》，2023年2月24日。

[6]蔡維德：《ChatGPT法律治理：中國式管仲框架雛形》，載“盈科元宇宙研究會微信號”，2023年2月21日。

[7]根據(jù)歐盟委員會的構(gòu)想，《人工智能法案》設(shè)定的AI監(jiān)管框架有四個具體的目標：一是立足于目前歐盟基本權(quán)利法律和價值認同，在技術(shù)安全的前提下，保障AI系統(tǒng)在歐盟市場內(nèi)的布局；二是確保相關(guān)法律的確定性，以促進AI產(chǎn)業(yè)投資與創(chuàng)新；三是增強對AI系統(tǒng)的治理，并將目前歐盟基本權(quán)利法律和對于安全性要求的強制力應(yīng)用到AI系統(tǒng)上；四是促使歐盟內(nèi)部形成合法、安全又可信賴的AI應(yīng)用單一市場，防止內(nèi)部市場割裂。

[8]吳科任：《關(guān)于ChatGPT，科技部發(fā)聲》，摘自《中國證券報》，2023年2月24日。

（本文作者杜曉山為中國社科院農(nóng)村發(fā)展研究所研究員、中國小額信貸聯(lián)盟原理事長；顧雷為北京大學(xué)普惠金融與法律監(jiān)管研究基地副主任、中關(guān)村數(shù)字金融與科技監(jiān)管研究中心主任）