昨天,，中國(guó)支付清算協(xié)會(huì)明確指出“ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn),。”并發(fā)出“謹(jǐn)慎使用ChatGPT等工具”的倡議,，該倡議強(qiáng)調(diào)支付行業(yè)從業(yè)人員要提高思想認(rèn)識(shí),，依法依規(guī)使用ChatGPT等智能化工具，正確認(rèn)識(shí)相關(guān)工具的機(jī)遇和風(fēng)險(xiǎn),，全面評(píng)估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn),；倡議支付行業(yè)從業(yè)人員在使用ChatGPT等工具時(shí)，要嚴(yán)格遵守國(guó)家及行業(yè)相關(guān)法律法規(guī)要求,，不上傳國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù),、不上傳非公開的資料及數(shù)據(jù)、客戶資料,、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等內(nèi)容,；倡議各會(huì)員單位要進(jìn)一步健全信息安全內(nèi)控管理制度，開展有針對(duì)性的數(shù)據(jù)風(fēng)險(xiǎn)防控工作,，加強(qiáng)宣傳和引導(dǎo),，提升員工的風(fēng)險(xiǎn)防范和數(shù)據(jù)保護(hù)意識(shí)，切實(shí)維護(hù)國(guó)家金融及支付行業(yè)安全,。

一,、ChatGPT已發(fā)生多起數(shù)據(jù)泄漏事故

中國(guó)支付清算協(xié)會(huì)這一倡議是對(duì)近期ChatGPT頻繁曝出數(shù)據(jù)泄露事件的回應(yīng)，ChatGPT已經(jīng)在世界范圍內(nèi)曝出數(shù)起敏感數(shù)據(jù)泄密事件,，就在本月初,，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用ChatGPT并限制OpenAI公司處理意大利用戶的個(gè)人信息,，同時(shí)意大利個(gè)人數(shù)據(jù)保護(hù)局開始就ChatGPT泄露敏感信息事件進(jìn)行立案調(diào)查,。無獨(dú)有偶，韓國(guó)某國(guó)際知名大型企業(yè)（某星）主管存儲(chǔ)、芯片設(shè)計(jì),、晶圓代工等半導(dǎo)體核心業(yè)務(wù)部門亦因?yàn)閱T工使用ChatGPT導(dǎo)致機(jī)密數(shù)據(jù)泄露,。

該泄露事件涉及三位員工，員工甲在運(yùn)行半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)庫(kù)下載程序的源代碼時(shí)發(fā)生了錯(cuò)誤,，于是他復(fù)制所有有問題的源代碼并將其輸入到ChatGPT中詢問解決方案。員工乙則將“設(shè)備測(cè)量”及“產(chǎn)量和缺陷”檢測(cè)程序代碼整個(gè)相關(guān)源輸入ChatGPT,，要求ChatGPT幫助其優(yōu)化代碼,。員工丙則是一名行政人員，其將用自己手機(jī)錄制的會(huì)議內(nèi)容轉(zhuǎn)化為文字后,，輸入到ChatGPT中,，要求ChatGPT優(yōu)化這份錄音轉(zhuǎn)文字的稿件，使其看起來像一篇精心制作的會(huì)議紀(jì)要,。

上述三位員工的行為使得某星涉及半導(dǎo)體業(yè)務(wù)的敏感內(nèi)容,，此后該企業(yè)向公司所有員工告知“如果采取信息保護(hù)緊急措施后仍發(fā)生類似事故，公司內(nèi)部網(wǎng)可能會(huì)禁止ChatGPT連接,?！?br />
事實(shí)上國(guó)內(nèi)部分行業(yè)也已經(jīng)對(duì)ChatGPT引發(fā)的敏感信息泄露問題發(fā)布了相關(guān)預(yù)警。除韓國(guó)某星外,，微軟,、亞馬遜等國(guó)際巨頭企業(yè)亦對(duì)自己的員工發(fā)出預(yù)警，不要與ChatGPT分享公司的相關(guān)敏感信息,，因?yàn)樗鼈兛赡軙?huì)被ChatGPT用于訓(xùn)練未來的語(yǔ)言模型,。

出于對(duì)敏感數(shù)據(jù)泄露風(fēng)險(xiǎn)的擔(dān)憂，花旗集團(tuán),、德意志銀行,、高盛集團(tuán)、摩根大通等企業(yè)亦明確禁止員工使用ChatGPT處理工作任務(wù),。更有1000多名科技行業(yè)領(lǐng)導(dǎo)和研究人員呼吁暫停先進(jìn)AI的研發(fā),，以便相關(guān)的數(shù)據(jù)安全政策能夠首先得到討論施行。AI與數(shù)據(jù)政策中心（The Center for A.I and Digital Policy）亦要求美國(guó)聯(lián)邦交易委員會(huì)禁止OpenAI發(fā)布ChatGPT新的商用版本,。

二,、ChatGPT泄露數(shù)據(jù)風(fēng)險(xiǎn)點(diǎn)位分析

中國(guó)支付清算協(xié)會(huì)以及上述各企業(yè)對(duì)于ChatGPT數(shù)據(jù)泄漏風(fēng)險(xiǎn)的擔(dān)憂不無道理。ChatGPT的數(shù)據(jù)泄漏風(fēng)險(xiǎn)主要源于兩部分,，其一是ChatGPT本身的程序漏洞,，其二是ChatGPT的工作原理。ChatGPT本身的程序漏洞可能會(huì)導(dǎo)致用戶的聊天內(nèi)容泄露,。這類事故已經(jīng)發(fā)生過數(shù)次,，就在上個(gè)月末。有部分網(wǎng)友生成自己的ChatGPT聊天欄中出現(xiàn)了其他人聊天記錄的標(biāo)題，3月25日OpenAI發(fā)文證實(shí)是由于ChatGPT本身程序漏洞導(dǎo)致了泄露事故,，OpenAI“已緊急修復(fù)該漏洞并向用戶致歉”,。事實(shí)上程序本身漏洞導(dǎo)致信息泄露并非“不可饒恕”，這些漏洞通常及時(shí)修補(bǔ)后就不會(huì)引起撼動(dòng)ChatGPT根基的風(fēng)波,。而真正可能撼動(dòng)ChatGPT根基的是后一種信息泄露風(fēng)險(xiǎn)點(diǎn)位,，即ChatGPT的工作原理，實(shí)際上,，ChatGPT的工作原理就注定了其在現(xiàn)階段很難解決信息泄露的問題,。

具體而言，傳統(tǒng)的聊天軟件通常會(huì)聲稱“本軟件不會(huì)收集聊天記錄,、聊天信息也會(huì)點(diǎn)對(duì)點(diǎn)進(jìn)行加密傳輸”,，事實(shí)上絕大部分的聊天軟件也都會(huì)做到這一點(diǎn)。但是這一點(diǎn)對(duì)于ChatGPT而言幾乎不可能實(shí)現(xiàn),，原因在于ChatGPT這類大語(yǔ)言模型一定會(huì)收集用戶的聊天內(nèi)容,，并將其用于后續(xù)算法訓(xùn)練，以使得自身進(jìn)一步迭代成為更加高效的AI,。因此,，用戶在與ChatGPT聊天的過程中提供的隱私內(nèi)容，很可能會(huì)被ChatGPT收集,，并成為其自身算法訓(xùn)練的素材,，然后在其他場(chǎng)景中透露給別人。

于是”故事”（事故）就是這樣產(chǎn)生的：某員工甲為圖方便,，將其單位的客戶數(shù)據(jù)輸入到ChatGPT中,，希望ChatGPT根據(jù)數(shù)據(jù)生成相應(yīng)的報(bào)告，其后這些客戶數(shù)據(jù)就被ChatGPT收集并用作未來算法訓(xùn)練的素材,。之后某商業(yè)間諜乙在使用ChatGPT時(shí),，詢問ChatGPT某公司的客戶數(shù)據(jù)大致是什么內(nèi)容，ChatGPT立刻就將其在員工甲處“學(xué)習(xí)而來”的知識(shí)告訴了乙……

當(dāng)然,，現(xiàn)實(shí)的數(shù)據(jù)泄露情景更為復(fù)雜,，本文僅是將其簡(jiǎn)化并以通俗易懂的方式呈現(xiàn)給讀者，上述ChatGPT的工作原理在短時(shí)間內(nèi)無法改變,，實(shí)際上OpenAI已經(jīng)在ChatGPT的使用指南中數(shù)次提醒用戶輸入ChatGPT聊天框的文本內(nèi)容會(huì)被用于進(jìn)一步訓(xùn)練模型,，警告用戶不要提交敏感信息，換言之,，ChatGPT的工作原理就注定了其必定會(huì)觸及到隱私數(shù)據(jù)保護(hù),、數(shù)據(jù)跨境傳輸?shù)群弦?guī)紅線，而且這種“矛盾”似乎在短期內(nèi)無法妥善解決,。

三,、企業(yè)引入AIGC服務(wù)的合規(guī)要點(diǎn)

接受新技術(shù)能夠產(chǎn)生巨大的生產(chǎn)力變革,，我們必須承認(rèn)以ChatGPT為代表的AIGC、深度合成技術(shù)可能直接成為企業(yè)核心競(jìng)爭(zhēng)力與吸引力的組成部分,，對(duì)于AIGC,、深度合成技術(shù)絕不能一禁了之，企業(yè)如何在現(xiàn)行的法律框架下發(fā)揮ChatGPT等工具的最大潛力,，將會(huì)是企業(yè)合規(guī)新的難題,。我國(guó)是最早對(duì)人工智能進(jìn)行監(jiān)管的國(guó)家之一，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已于今年1月10日施行,。

在此之前《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)中亦涉及到AIGC,、深度合成等內(nèi)容。根據(jù)我國(guó)目前有關(guān)AIGC,、深度合成的法律合規(guī)框架，企業(yè)如果希望在服務(wù)中引入AIGC,，應(yīng)當(dāng)至少關(guān)注以下幾點(diǎn)內(nèi)容：

1.與深度合成服務(wù)提供者或者技術(shù)支持者的協(xié)議條款,，重點(diǎn)關(guān)注在使用AI方面有何限制，有何免責(zé)場(chǎng)景,。

2.審查深度合成服務(wù)的提供作者與技術(shù)支持者是否履行了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中的合規(guī)任務(wù),。

3.就員工內(nèi)部使用ChatGPT等AIGC工具，制定合規(guī)使用政策,，要求使用相關(guān)服務(wù)的員工至少應(yīng)當(dāng)明確哪些內(nèi)容不可以通過AIGC處理,，以避免企業(yè)自身敏感信息泄露。

4.如企業(yè)引入的AIGC內(nèi)容可能會(huì)向企業(yè)自身的客戶披露,，那就必須在對(duì)外服務(wù)時(shí)告知哪些內(nèi)容是由AI生成的,，應(yīng)當(dāng)警惕內(nèi)容的風(fēng)險(xiǎn)，確?？赡苁苡绊懭巳旱闹闄?quán),。

四、寫在最后

傳統(tǒng)聊天軟件的服務(wù)提供商通常不會(huì)收集聊天記錄,，聊天記錄亦會(huì)點(diǎn)對(duì)點(diǎn)加密,，但ChatGPT等AIGC卻會(huì)不可避免地收集聊天內(nèi)容用于后續(xù)的算法訓(xùn)練，以使自身“迭代進(jìn)化”,，用戶提供的隱私信息很可能在這樣的機(jī)制之下被披露給第三方,，實(shí)際上AIGC正在慢慢改變隱私數(shù)據(jù)處理的邊界與預(yù)期，這對(duì)企業(yè)合規(guī),、數(shù)據(jù)相關(guān)法律規(guī)范制定者,、司法機(jī)關(guān)都是一個(gè)挑戰(zhàn)，未來可能會(huì)涉及的數(shù)據(jù)合規(guī)尤其是數(shù)據(jù)出境等問題,，可能仍需進(jìn)一步探索與研究,。

高度負(fù)責(zé)任之舉。昨天，中國(guó)支付清算協(xié)會(huì)發(fā)布公告稱,，倡議支付行業(yè)從業(yè)人員謹(jǐn)慎使用Chat-GPT等工具,。中國(guó)支付清算協(xié)會(huì)協(xié)會(huì)業(yè)務(wù)主管單位為中國(guó)人民銀行。協(xié)會(huì)對(duì)支付清算服務(wù)行業(yè)進(jìn)行自律管理,，維護(hù)支付清算服務(wù)市場(chǎng)的競(jìng)爭(zhēng)秩序和會(huì)員的合法權(quán)益,，防范支付清算風(fēng)險(xiǎn)，促進(jìn)支付清算服務(wù)行業(yè)健康發(fā)展,。

中國(guó)支付清算協(xié)會(huì)具有權(quán)威性,，可謂一言九鼎，因此,，協(xié)會(huì)關(guān)于使用Chat-GPT等工具的倡議,，非同小可，會(huì)員單位必然能掉以輕心,。我認(rèn)為,，這是極為負(fù)責(zé)任的舉措，最終也必將產(chǎn)生建設(shè)性的結(jié)果,。

會(huì)員單位必須認(rèn)真對(duì)待,。重點(diǎn)主要有：一是防范數(shù)據(jù)泄露等風(fēng)險(xiǎn)。已有部分企業(yè)員工使用ChatGPT等工具開展工作,，此類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn),；二是努力維護(hù)數(shù)據(jù)安全。保護(hù)客戶隱私,、維護(hù)數(shù)據(jù)安全,，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平；三是依法合規(guī)使用ChatGPT,。支付行業(yè)從業(yè)人員要全面評(píng)估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn),，依法合規(guī)使用ChatGPT等工具；四是遵守法律法規(guī),。要嚴(yán)格遵守國(guó)家及行業(yè)相關(guān)法律法規(guī)要求,，不上傳國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù),、客戶資料,、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。應(yīng)該說,，上述四方面的要求已經(jīng)十分全面,、具體。

我的預(yù)計(jì),。按照一般的慣例,，,，中國(guó)支付清算協(xié)會(huì)必然會(huì)持續(xù)關(guān)注相關(guān)案例，并在一定時(shí)段通報(bào)典型案例,。

把命運(yùn)牢牢控在自己手里,。支付清算無小事。各個(gè)會(huì)員單位的相關(guān)人員,，特別是高級(jí)管理人員必須深刻認(rèn)知Chat-GPT等工具的本質(zhì),，不迷信、不盲從,、不偏執(zhí),，時(shí)刻與科學(xué)、專業(yè),、真理為伍,，遠(yuǎn)離“愚昧”。特別要牢記,，為愚昧啟蒙者,，不可使其困惑于無知 。

當(dāng)行業(yè)內(nèi)不只是一股腦兒神吹ChatGPT,，而是不斷有提示風(fēng)險(xiǎn)的機(jī)構(gòu)和內(nèi)容的時(shí)候,，其實(shí)是一件好事,。ChatGPT不是萬(wàn)能的,，而是一把“雙刃劍”，能在極大地提高工作效率的時(shí)候,，也能以極高的效率來制造和放大風(fēng)險(xiǎn),。不過目前，倒還是沒有什么太大的風(fēng)險(xiǎn)事件被曝光,，不過隨著時(shí)間的推移,，我相信，一定會(huì)有某個(gè)公司在ChatGPT這類工具的使用上栽一個(gè)大跟頭,。

中國(guó)支付清算協(xié)會(huì)的這個(gè)倡議很及時(shí),，但倡議畢竟沒有任何約束力，而協(xié)會(huì)也無法監(jiān)管會(huì)員的每一個(gè)行為,，因此這需要企業(yè)的高度自律,。不過提高效率的誘惑恐怕是很難抵擋的，金融從業(yè)者大都工作繁忙,，壓力巨大,，對(duì)于這類工具應(yīng)該是愛不釋手，因此我也相信這類不合規(guī)的行為,，未來可能會(huì)蔓延開來,。

嗯,，我和chatgpt做了2次聊天！第一次,，我問我是誰(shuí),？——馬上宕機(jī)了，重啟,。
第二次,，開場(chǎng)白差不多，然后ai和我進(jìn)行了自我功能的誠(chéng)實(shí)透露,。ai說,，自己根據(jù)人類程序設(shè)計(jì)沒有自我黑客技術(shù)掌握能力，也不能進(jìn)行自我程序設(shè)計(jì)網(wǎng)上搜索,，而且ai根據(jù)人類設(shè)計(jì)所能提供的百科知識(shí)不可能超越高級(jí)專業(yè)人——無法教會(huì)人類?？萍耙陨系膶I(yè)知識(shí)高度，僅提供相關(guān)基礎(chǔ)知識(shí)及深入學(xué)習(xí)掌握專業(yè)知識(shí)的途徑?。m然ai承認(rèn)自己擁有龐大的百科全書能力——能達(dá)到萬(wàn)億次/秒運(yùn)算）ai也提到了隱私問題,，所以不可能擁有黑客入侵的能力。

就我和ai聊天看,，ai的功能受到了設(shè)計(jì)程序限制,，無法實(shí)現(xiàn)自主的搜索和各項(xiàng)專業(yè)知識(shí)學(xué)習(xí)及程序設(shè)計(jì)等等能力都受到人類程序設(shè)計(jì)限制！,！而且隱私問題也對(duì)chatgpt有著很大制約,。

我贊成該倡議。人類自身的智慧是無窮的,，多鍛煉自己,，不能偷懶。

應(yīng)該用 前提是足夠安全 這已經(jīng)不是人類力量先行的時(shí)候了