電子發(fā)燒友網(wǎng)報道（文/吳子鵬）近日，又一科技巨頭加入到了禁用ChatGPT類工具的行列，它就是三星。據(jù)報道，三星近期推出了一項新政策，禁止員工在工作場所使用生成式人工智能工具，包括OpenAI的ChatGPT和谷歌Bard等。

此前，三星發(fā)現(xiàn)有員工將敏感的代碼上傳到ChatGPT，不慎將其泄漏。據(jù)悉，三星并不清楚此次泄露的敏感代碼具體內(nèi)容是什么，不過該公司隨后啟動了內(nèi)部調(diào)查。三星表示，調(diào)查中公司65%的受訪者認為此類工具構成安全風險。

巨頭公司紛紛禁用ChatGPT類工具

根據(jù)此前的報道，雖然三星沒有透露泄露信息的內(nèi)容，不過有用戶在ChatGPT上發(fā)現(xiàn)了該公司半導體設備測量資料、產(chǎn)品良率等機密內(nèi)容，相關內(nèi)容出現(xiàn)在ChatGPT的學習資料庫中。并且，該報道指出，三星的泄密并不是由一個工程師造成的，而是出現(xiàn)了三個典型的泄密事故。

泄密事件一是一名三星員工讓ChatGPT幫助修復半導體設備測量資料庫中下載的軟件；泄密事件二是一名三星員工讓其幫助優(yōu)化用于識別產(chǎn)品良率的程序代碼；泄密事件三是一名三星員工把會議紀要發(fā)給了ChatGPT讓其幫助整理。

三星泄密事件表明，生成式AI會讓人在不經(jīng)意間就導致泄密。當然，這主要還是和生成式AI的工作原理有關。生成式AI本質(zhì)通過處理大量視覺或語言數(shù)據(jù)來生成新數(shù)據(jù)，其主要分為訓練階段和生成階段，用戶主要接觸到的就是生成階段。在這一階段里，為生成新數(shù)據(jù)，模型將根據(jù)給定的輸入提示（如關鍵詞、圖像或文本片段等）生成新圖像或文本。模型利用所學規(guī)律和模式生成新數(shù)據(jù)，并將其輸出給用戶。

因此不難看出，生成式AI在實際的使用階段和傳統(tǒng)搜索引擎很類似，有輸入才有輸出，但由于ChatGPT類工具過于強大，其能夠處理很復雜的句式和指令，這就導致一些在職人員可能采用ChatGPT類工具走捷徑，將工作任務輸入到工具里，進而造成泄密。

目前，很多巨頭公司都意識到這一點。在三星之前，韓國另一大科技巨頭SK海力士也已經(jīng)宣布，“除必要時刻外”，幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT類工具；韓國面板巨頭LG為了防止員工使用ChatGPT類工具發(fā)生泄密，已經(jīng)通過公司內(nèi)部帖子和教育、活動等，隨時強調(diào)公司內(nèi)部信息保護和防止泄漏等信息安全認識。

更為謹慎的是銀行領域。據(jù)不完全統(tǒng)計，目前包括瑞穗金融集團、三菱UFJ銀行、三井住友銀行、摩根大通、美國銀行和花旗等大型銀行都已經(jīng)對人工智能下了禁令，這些公司是首批限制員工訪問ChatGPT類工具的公司。

如何安全使用ChatGPT類工具

竟然行業(yè)巨頭帶頭，那么商業(yè)公司真的要全面禁止ChatGPT類工具嗎？筆者的答案是大可不必。

生成式AI工具的價值是巨大的，它能夠給各行各業(yè)帶來四大創(chuàng)新性改變。首先，生成式AI可以創(chuàng)造新內(nèi)容，可用于藝術、音樂和其他形式的創(chuàng)造性表達等方面；其次，生成式AI可以提高效率和生產(chǎn)力，可以顯著減少新聞、內(nèi)容創(chuàng)作、數(shù)據(jù)注釋和分析等領域的人工投入；第三，生成式AI可以提高生成內(nèi)容的質(zhì)量，這是讓機器和人類自如交流的關鍵所在；最后，生成式AI可以實現(xiàn)新的應用和用途，可用于打造各種個性化的創(chuàng)新方案。

據(jù)波士頓咨詢公司預測，生成式AI市場規(guī)模將在2027年達到1210億美元，是2022年的13倍多。

價值大、前景好，那么行業(yè)該如何利用好生成式AI呢？

首先需要有專門的法規(guī)限制。目前，全球各國都在加緊制定針對生成式AI的法律法規(guī)。在國內(nèi)，4月11日，國家網(wǎng)信辦起草《生成式人工智能服務管理辦法(征求意見稿)》，明確國家支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作。當然，征求意見稿也對生成內(nèi)容、算法框架、知識產(chǎn)權和商業(yè)道德等方面做出了明確的限制。每一個健康發(fā)展的行業(yè)都需要有完善法規(guī)的引導，生成式AI也不例外。目前，美國、英國、日本和歐盟等國家和地區(qū)都在積極推動生成式AI相關法規(guī)的落地。

其次，推出ChatGPT類工具的公司需要進一步增強工具的安全性和脫敏屬性。比如，谷歌表示，將通過自動化工具幫助刪除用戶的個人身份信息，來改進Bard的隱私安全。顯然這還不夠，基于開放數(shù)據(jù)庫訓練而來的ChatGPT類工具，進化的源泉就是新的數(shù)據(jù)，那么如何保證新數(shù)據(jù)的安全是一個大挑戰(zhàn)。

第三是各行各業(yè)針對使用ChatGPT類工具需要進行專業(yè)的員工培訓，要明確哪些是員工可以做的，那么是員工不能做的。

第四是針對高科技行業(yè)以及金融證券等保密性要求嚴格的公司，全面杜絕ChatGPT類工具肯定是不可取的，這些行業(yè)需要一套自己的ChatGPT類工具，也就是從源頭構建自己的工具，使得數(shù)據(jù)從最開始就被保護，沒有對外的接口可以泄露。目前，行業(yè)也在探索輕量級的ChatGPT類工具，這些工具具備基本的功能，能夠在企業(yè)私有云上去部署，如果可以實現(xiàn)將大幅降低數(shù)據(jù)泄露的風險。

后記

目前很多行業(yè)、學校、國家都在推動全面禁止ChatGPT類工具，筆者認為這樣做并不可取。生成式AI作為一次革命性的科技升級創(chuàng)新，有著顛覆各行各業(yè)的巨大潛力。而且，這種顛覆更多是正向的、積極的，幫助各行各業(yè)完成數(shù)智化升級。當然，作為一項創(chuàng)新技術，在完善的過程中會露出它的獠牙。正確的做法是將這只猛獸關在圈子里進行馴化，讓其不再具有攻擊性。