政府采購人工智能產(chǎn)品風(fēng)險(xiǎn)有哪些？怎么防？

政府采購人工智能產(chǎn)品風(fēng)險(xiǎn)有哪些？怎么防？

■ 張澤明

隨著人工智能的日益強(qiáng)大，其相關(guān)產(chǎn)品在政府采購市場(chǎng)的應(yīng)用也將越來越多。然而，人工智能是一把雙刃劍，采購人必須處理好幾個(gè)核心關(guān)切，才能有效規(guī)避風(fēng)險(xiǎn)，發(fā)揮最大作用。

政府采購人工智能需求不斷被挖掘

人工智能產(chǎn)品的政府采購需求已不是新鮮事物。2023年8月3日財(cái)政部發(fā)布的《通用服務(wù)器政府采購需求標(biāo)準(zhǔn)（征求意見稿）》中就提出，配備了AI計(jì)算單元的產(chǎn)品，可大幅提升在特定場(chǎng)景下，典型功能的計(jì)算性能，如人臉識(shí)別、圖片識(shí)別、數(shù)據(jù)挖掘等，用戶可根據(jù)需要選擇是否配備。

各采購單位對(duì)于人工智能產(chǎn)品的使用也日益增多。2023年最高人民法院對(duì)十三屆全國(guó)人大五次會(huì)議第3194號(hào)建議的答復(fù)中，針對(duì)人大代表提出關(guān)于運(yùn)用人工智能等方式保障法官裁量可預(yù)測(cè)性的建議，最高法表態(tài)將充分考慮一線法官需求，搭建完全自主、集法律和案例檢索、應(yīng)用、研究于一體的統(tǒng)一法律適用平臺(tái)和數(shù)據(jù)庫，實(shí)現(xiàn)智能分析和人工篩查相結(jié)合，為進(jìn)一步完善類案檢索、規(guī)范裁量權(quán)行使、推進(jìn)統(tǒng)一法律適用提供科技支撐。

類似的基于對(duì)文本學(xué)習(xí)而統(tǒng)一執(zhí)法尺度的需求，在其他單位也不同程度存在。例如，多地公共資源交易中心已經(jīng)用上了人工智能輔助評(píng)標(biāo)系統(tǒng)。而未來，采購人對(duì)于人工智能產(chǎn)品的需求仍將不斷攀升。

高度關(guān)注人工智能產(chǎn)品使用的責(zé)任與風(fēng)險(xiǎn)

人工智能產(chǎn)品采購已有先例，但尚未成熟。筆者認(rèn)為，采購人在采購和使用人工智能產(chǎn)品時(shí)要注意以下幾個(gè)問題。

一是做好個(gè)人信息保護(hù)。人工智能產(chǎn)品涉及個(gè)人信息的收集，如何避免收集到的個(gè)人信息泄露，是采購人必須要考慮的首要問題。

《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱個(gè)人信息保護(hù)法）已經(jīng)就有關(guān)單位如何進(jìn)行個(gè)人信息保護(hù)提出了很多要求。第六十九條規(guī)定了個(gè)人信息處理者的舉證倒置責(zé)任，即處理個(gè)人信息侵害個(gè)人信息權(quán)益造成損害，個(gè)人信息處理者不能證明自己沒有過錯(cuò)的，應(yīng)當(dāng)承擔(dān)損害賠償?shù)惹謾?quán)責(zé)任。此外，該法還規(guī)定了警告、處分、罰款等不同的違法責(zé)任。

個(gè)人信息保護(hù)的細(xì)則也在繼續(xù)完善。去年8月3日，國(guó)家網(wǎng)信辦公布了《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法》征求意見稿，要求處理超過100萬人個(gè)人信息的處理者，每年至少開展一次個(gè)人信息保護(hù)合規(guī)審計(jì)，其他應(yīng)每?jī)赡陮徲?jì)一次。如果該要求在正式辦法中依然保留，那么各采購單位在使用人工智能產(chǎn)品處理個(gè)人信息時(shí)，還要新增主動(dòng)尋求合規(guī)審計(jì)的責(zé)任。

因此，機(jī)關(guān)單位等采購人在采購及使用人工智能產(chǎn)品前，就要有個(gè)人信息保護(hù)意識(shí)，避免出現(xiàn)某些單位上馬人臉識(shí)別系統(tǒng)引發(fā)的數(shù)據(jù)采集與保護(hù)爭(zhēng)議。

二是確保數(shù)據(jù)安全。數(shù)據(jù)安全法規(guī)定了數(shù)據(jù)分類分級(jí)保護(hù)制度、數(shù)據(jù)安全應(yīng)急處置機(jī)制與數(shù)據(jù)出口管制制度等，重要數(shù)據(jù)的處理者還應(yīng)當(dāng)明確數(shù)據(jù)安全負(fù)責(zé)人和管理機(jī)構(gòu)，落實(shí)數(shù)據(jù)安全保護(hù)責(zé)任。

以上規(guī)定中，采購人最容易忽視的就是數(shù)據(jù)出口管制制度了。很多采購人認(rèn)為，自己采購的人工智能產(chǎn)品其訓(xùn)練所需的數(shù)據(jù)采集與存儲(chǔ)都在國(guó)內(nèi)，不存在數(shù)據(jù)非法出口的問題，其實(shí)不盡然。以之前大火的人工智能工具ChatGPT為例，有媒體報(bào)道某國(guó)企員工因直接將企業(yè)機(jī)密信息以提問的方式輸入到ChatGPT中，導(dǎo)致相關(guān)內(nèi)容進(jìn)入學(xué)習(xí)數(shù)據(jù)庫，并泄露到境外。

ChatGPT曾經(jīng)還存在一項(xiàng)漏洞，使得一些用戶可以看到另一在線用戶的姓名、電子郵件地址、付款地址、信用卡號(hào)后四位，以及信用卡有效期等隱私信息。雖然漏洞目前已經(jīng)被修復(fù)，但是這種因機(jī)器學(xué)習(xí)需要數(shù)據(jù)“喂入”而產(chǎn)生的數(shù)據(jù)跨境泄露風(fēng)險(xiǎn)是一直存在的。

因此，2023年4月10日，中國(guó)支付清算協(xié)會(huì)明確指出，ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)，要求全面評(píng)估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn)，并發(fā)出謹(jǐn)慎使用ChatGPT等工具的倡議。

最近正在公開征求意見的《會(huì)計(jì)師事務(wù)所數(shù)據(jù)安全管理暫行辦法》也要求會(huì)計(jì)師事務(wù)所的審計(jì)工作底稿及相關(guān)數(shù)據(jù)存儲(chǔ)在境內(nèi)，不得在境外備份，加密數(shù)據(jù)密鑰應(yīng)當(dāng)存儲(chǔ)在境內(nèi)，核心數(shù)據(jù)應(yīng)存儲(chǔ)在專用服務(wù)器或私有云平臺(tái)上，使用加密虛擬專用網(wǎng)絡(luò)等技術(shù)手段傳輸?shù)?。各采購單位在采購人工智能產(chǎn)品時(shí)，可以結(jié)合上述經(jīng)驗(yàn)，對(duì)具體數(shù)據(jù)保護(hù)措施予以約定。

三是提前考慮能耗問題。人工智能產(chǎn)品需要大規(guī)模的密集計(jì)算，其耗電量非常驚人，對(duì)應(yīng)的數(shù)據(jù)中心水冷消耗也是巨大的。

雖然目前有專家表示，由于人工智能大模型存在復(fù)雜度高、參數(shù)量大的問題，對(duì)于政府機(jī)關(guān)事業(yè)單位的部署使用將帶來巨大挑戰(zhàn)，并建議可以考慮模型壓縮的概念和研發(fā)規(guī)劃路線，在盡量不損失模型精度和使用體驗(yàn)的情況下，減小模型的計(jì)算復(fù)雜度。但短時(shí)間這種技術(shù)只能停留在研究階段，畢竟從原理上，人工智能的強(qiáng)大就是根源于海量數(shù)據(jù)的學(xué)習(xí)與復(fù)雜參數(shù)的調(diào)整。

四是避免形成技術(shù)依賴。按照現(xiàn)行規(guī)范性文件要求，政府采購人工智能服務(wù)合同期限最長(zhǎng)可以續(xù)簽到3年。采購人應(yīng)避免后續(xù)續(xù)約時(shí)出現(xiàn)只能通過單一來源選擇原供應(yīng)商的問題，人為使自己的選擇權(quán)受限。

做好人工智能產(chǎn)品采購的幾點(diǎn)建議

一是壓實(shí)個(gè)人信息保護(hù)責(zé)任。涉及個(gè)人信息采集等關(guān)鍵問題的采購需求，采購人應(yīng)經(jīng)過內(nèi)部合法性審查。針對(duì)供應(yīng)商管理，采購人要在采購文件中，對(duì)個(gè)人信息保護(hù)提出具體要求，要求供應(yīng)商制定并遵守相關(guān)人員管理制度，避免對(duì)個(gè)人信息的非法采集與信息泄露。在合同中，采購人還應(yīng)約定供應(yīng)商違反個(gè)人信息相關(guān)法律法規(guī)的罰則。

二是嚴(yán)守?cái)?shù)據(jù)安全底線。采購人應(yīng)在采購文件中對(duì)供應(yīng)商的數(shù)據(jù)分級(jí)保護(hù)與傳輸、數(shù)據(jù)安全應(yīng)急處置等提出要求，明確人工智能產(chǎn)品訓(xùn)練與生成的數(shù)據(jù)必須存放在采購人可控的存儲(chǔ)上，比如政務(wù)云或采購單位的存儲(chǔ)設(shè)備上。

采購單位也要從權(quán)責(zé)分治、權(quán)限管理等方面夯實(shí)數(shù)據(jù)保護(hù)基礎(chǔ)。具體來說，要對(duì)提供給供應(yīng)商的原始數(shù)據(jù)建立審查機(jī)制，確保不上傳國(guó)家及行業(yè)涉密文件、非公開的資料、基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等數(shù)據(jù)。

按照個(gè)人信息保護(hù)法第三十八條規(guī)定，向中國(guó)境外提供個(gè)人信息主要有三條合規(guī)路徑：通過網(wǎng)信部門組織的安全評(píng)估，經(jīng)專業(yè)機(jī)構(gòu)進(jìn)行個(gè)人信息保護(hù)認(rèn)證，以及與境外接收方訂立國(guó)家網(wǎng)信部門制定的標(biāo)準(zhǔn)合同。國(guó)家網(wǎng)信辦目前已出臺(tái)《個(gè)人信息出境標(biāo)準(zhǔn)合同辦法》，配套發(fā)布《個(gè)人信息出境標(biāo)準(zhǔn)合同備案指南（第一版）》，明確了個(gè)人信息出境標(biāo)準(zhǔn)合同備案的適用范圍、備案方式和備案流程等。從此，適用廣泛的個(gè)人信息出境的第三條路徑——標(biāo)準(zhǔn)合同有了可實(shí)操的規(guī)范。采購人應(yīng)結(jié)合上述規(guī)范性文件與項(xiàng)目具體情況，在采購文件和合同中對(duì)供應(yīng)商如何應(yīng)對(duì)數(shù)據(jù)出境風(fēng)險(xiǎn)及如何做到合法出境等作出要求。

此外，筆者注意到，近來國(guó)家安全機(jī)關(guān)曾通報(bào)，境外特定組織和人員正通過SDK搜集中國(guó)大陸使用者數(shù)據(jù)，給國(guó)家安全帶來隱患。SDK是手機(jī)軟件的開發(fā)組件，國(guó)內(nèi)廠商如果在開發(fā)手機(jī)APP時(shí)使用了有問題的國(guó)外SDK，再參加政府采購活動(dòng)，就可能把這種數(shù)據(jù)安全風(fēng)險(xiǎn)引入采購單位。

各采購單位可以視具體情況，適時(shí)在采購文件中加入供應(yīng)商提供產(chǎn)品未通過網(wǎng)絡(luò)安全審查的，不得參與采購項(xiàng)目競(jìng)爭(zhēng)等要求。

三是在采購需求階段就預(yù)估能耗。采購人應(yīng)將人工智能產(chǎn)品采購與節(jié)能減排政策相結(jié)合，在采購需求調(diào)研階段就對(duì)人工智能產(chǎn)品需要的能耗進(jìn)行預(yù)估，從而驗(yàn)證自身是否可以承擔(dān)，項(xiàng)目上馬是否必要。

四是從項(xiàng)目源頭確保人工智能產(chǎn)品的可替代性。為防止服務(wù)期滿后，只能通過單一來源方式繼續(xù)選用原供應(yīng)商服務(wù)的情況，采購人應(yīng)在合同中與供應(yīng)商約定好數(shù)據(jù)資產(chǎn)的權(quán)屬劃分，自己要保存好已提供或由供應(yīng)商采集的原始訓(xùn)練數(shù)據(jù)集，合理劃分人工智能生成式數(shù)據(jù)的知識(shí)產(chǎn)權(quán)與所有權(quán)、使用權(quán)，防止現(xiàn)有人工智能產(chǎn)品形成不可替代性，為項(xiàng)目后期升級(jí)等保持競(jìng)爭(zhēng)性奠定基礎(chǔ)。

五是避免對(duì)人工智能產(chǎn)品過于激進(jìn)的使用。雖然目前人工智能技術(shù)在圖像識(shí)別上有天然的優(yōu)勢(shì)，在文本和視頻生成上也有不錯(cuò)的效果，在教育、醫(yī)療、智慧城市、氣象、電力等多個(gè)行業(yè)中有很好的實(shí)踐，但對(duì)于人工智能是否能夠進(jìn)化為有自我意識(shí)，且對(duì)人類社會(huì)產(chǎn)生危害，社會(huì)各界一直保持著警惕。因此，重點(diǎn)領(lǐng)域的采購單位，還是應(yīng)該對(duì)人工智能技術(shù)持謹(jǐn)慎態(tài)度，并持續(xù)關(guān)注人工智能業(yè)界關(guān)于技術(shù)管制的最新動(dòng)態(tài)，對(duì)是否通過人工智能技術(shù)解決自身需求做出理性抉擇。

本報(bào)擁有此文版權(quán)，若需轉(zhuǎn)載或復(fù)制，請(qǐng)注明來源于中國(guó)政府采購報(bào)，標(biāo)注作者，并保持文章的完整性。否則，將追究法律責(zé)任。