政府采購人工智能產(chǎn)品風險有哪些？怎么防？

政府采購人工智能產(chǎn)品風險有哪些？怎么防？

■ 張澤明

隨著人工智能的日益強大，其相關產(chǎn)品在政府采購市場的應用也將越來越多。然而，人工智能是一把雙刃劍，采購人必須處理好幾個核心關切，才能有效規(guī)避風險，發(fā)揮最大作用。

政府采購人工智能需求不斷被挖掘

人工智能產(chǎn)品的政府采購需求已不是新鮮事物。2023年8月3日財政部發(fā)布的《通用服務器政府采購需求標準（征求意見稿）》中就提出，配備了AI計算單元的產(chǎn)品，可大幅提升在特定場景下，典型功能的計算性能，如人臉識別、圖片識別、數(shù)據(jù)挖掘等，用戶可根據(jù)需要選擇是否配備。

各采購單位對于人工智能產(chǎn)品的使用也日益增多。2023年最高人民法院對十三屆全國人大五次會議第3194號建議的答復中，針對人大代表提出關于運用人工智能等方式保障法官裁量可預測性的建議，最高法表態(tài)將充分考慮一線法官需求，搭建完全自主、集法律和案例檢索、應用、研究于一體的統(tǒng)一法律適用平臺和數(shù)據(jù)庫，實現(xiàn)智能分析和人工篩查相結合，為進一步完善類案檢索、規(guī)范裁量權行使、推進統(tǒng)一法律適用提供科技支撐。

類似的基于對文本學習而統(tǒng)一執(zhí)法尺度的需求，在其他單位也不同程度存在。例如，多地公共資源交易中心已經(jīng)用上了人工智能輔助評標系統(tǒng)。而未來，采購人對于人工智能產(chǎn)品的需求仍將不斷攀升。

高度關注人工智能產(chǎn)品使用的責任與風險

人工智能產(chǎn)品采購已有先例，但尚未成熟。筆者認為，采購人在采購和使用人工智能產(chǎn)品時要注意以下幾個問題。

一是做好個人信息保護。人工智能產(chǎn)品涉及個人信息的收集，如何避免收集到的個人信息泄露，是采購人必須要考慮的首要問題。

《中華人民共和國個人信息保護法》（以下簡稱個人信息保護法）已經(jīng)就有關單位如何進行個人信息保護提出了很多要求。第六十九條規(guī)定了個人信息處理者的舉證倒置責任，即處理個人信息侵害個人信息權益造成損害，個人信息處理者不能證明自己沒有過錯的，應當承擔損害賠償?shù)惹謾嘭熑巍４送?，該法還規(guī)定了警告、處分、罰款等不同的違法責任。

個人信息保護的細則也在繼續(xù)完善。去年8月3日，國家網(wǎng)信辦公布了《個人信息保護合規(guī)審計管理辦法》征求意見稿，要求處理超過100萬人個人信息的處理者，每年至少開展一次個人信息保護合規(guī)審計，其他應每兩年審計一次。如果該要求在正式辦法中依然保留，那么各采購單位在使用人工智能產(chǎn)品處理個人信息時，還要新增主動尋求合規(guī)審計的責任。

因此，機關單位等采購人在采購及使用人工智能產(chǎn)品前，就要有個人信息保護意識，避免出現(xiàn)某些單位上馬人臉識別系統(tǒng)引發(fā)的數(shù)據(jù)采集與保護爭議。

二是確保數(shù)據(jù)安全。數(shù)據(jù)安全法規(guī)定了數(shù)據(jù)分類分級保護制度、數(shù)據(jù)安全應急處置機制與數(shù)據(jù)出口管制制度等，重要數(shù)據(jù)的處理者還應當明確數(shù)據(jù)安全負責人和管理機構，落實數(shù)據(jù)安全保護責任。

以上規(guī)定中，采購人最容易忽視的就是數(shù)據(jù)出口管制制度了。很多采購人認為，自己采購的人工智能產(chǎn)品其訓練所需的數(shù)據(jù)采集與存儲都在國內(nèi)，不存在數(shù)據(jù)非法出口的問題，其實不盡然。以之前大火的人工智能工具ChatGPT為例，有媒體報道某國企員工因直接將企業(yè)機密信息以提問的方式輸入到ChatGPT中，導致相關內(nèi)容進入學習數(shù)據(jù)庫，并泄露到境外。

ChatGPT曾經(jīng)還存在一項漏洞，使得一些用戶可以看到另一在線用戶的姓名、電子郵件地址、付款地址、信用卡號后四位，以及信用卡有效期等隱私信息。雖然漏洞目前已經(jīng)被修復，但是這種因機器學習需要數(shù)據(jù)“喂入”而產(chǎn)生的數(shù)據(jù)跨境泄露風險是一直存在的。

因此，2023年4月10日，中國支付清算協(xié)會明確指出，ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風險，要求全面評估使用ChatGPT等工具處理工作內(nèi)容的風險，并發(fā)出謹慎使用ChatGPT等工具的倡議。

最近正在公開征求意見的《會計師事務所數(shù)據(jù)安全管理暫行辦法》也要求會計師事務所的審計工作底稿及相關數(shù)據(jù)存儲在境內(nèi)，不得在境外備份，加密數(shù)據(jù)密鑰應當存儲在境內(nèi)，核心數(shù)據(jù)應存儲在專用服務器或私有云平臺上，使用加密虛擬專用網(wǎng)絡等技術手段傳輸?shù)取８鞑少弳挝辉诓少徣斯ぶ悄墚a(chǎn)品時，可以結合上述經(jīng)驗，對具體數(shù)據(jù)保護措施予以約定。

三是提前考慮能耗問題。人工智能產(chǎn)品需要大規(guī)模的密集計算，其耗電量非常驚人，對應的數(shù)據(jù)中心水冷消耗也是巨大的。

雖然目前有專家表示，由于人工智能大模型存在復雜度高、參數(shù)量大的問題，對于政府機關事業(yè)單位的部署使用將帶來巨大挑戰(zhàn)，并建議可以考慮模型壓縮的概念和研發(fā)規(guī)劃路線，在盡量不損失模型精度和使用體驗的情況下，減小模型的計算復雜度。但短時間這種技術只能停留在研究階段，畢竟從原理上，人工智能的強大就是根源于海量數(shù)據(jù)的學習與復雜參數(shù)的調(diào)整。

四是避免形成技術依賴。按照現(xiàn)行規(guī)范性文件要求，政府采購人工智能服務合同期限最長可以續(xù)簽到3年。采購人應避免后續(xù)續(xù)約時出現(xiàn)只能通過單一來源選擇原供應商的問題，人為使自己的選擇權受限。

做好人工智能產(chǎn)品采購的幾點建議

一是壓實個人信息保護責任。涉及個人信息采集等關鍵問題的采購需求，采購人應經(jīng)過內(nèi)部合法性審查。針對供應商管理，采購人要在采購文件中，對個人信息保護提出具體要求，要求供應商制定并遵守相關人員管理制度，避免對個人信息的非法采集與信息泄露。在合同中，采購人還應約定供應商違反個人信息相關法律法規(guī)的罰則。

二是嚴守數(shù)據(jù)安全底線。采購人應在采購文件中對供應商的數(shù)據(jù)分級保護與傳輸、數(shù)據(jù)安全應急處置等提出要求，明確人工智能產(chǎn)品訓練與生成的數(shù)據(jù)必須存放在采購人可控的存儲上，比如政務云或采購單位的存儲設備上。

采購單位也要從權責分治、權限管理等方面夯實數(shù)據(jù)保護基礎。具體來說，要對提供給供應商的原始數(shù)據(jù)建立審查機制，確保不上傳國家及行業(yè)涉密文件、非公開的資料、基礎設施或系統(tǒng)的核心代碼等數(shù)據(jù)。

按照個人信息保護法第三十八條規(guī)定，向中國境外提供個人信息主要有三條合規(guī)路徑：通過網(wǎng)信部門組織的安全評估，經(jīng)專業(yè)機構進行個人信息保護認證，以及與境外接收方訂立國家網(wǎng)信部門制定的標準合同。國家網(wǎng)信辦目前已出臺《個人信息出境標準合同辦法》，配套發(fā)布《個人信息出境標準合同備案指南（第一版）》，明確了個人信息出境標準合同備案的適用范圍、備案方式和備案流程等。從此，適用廣泛的個人信息出境的第三條路徑——標準合同有了可實操的規(guī)范。采購人應結合上述規(guī)范性文件與項目具體情況，在采購文件和合同中對供應商如何應對數(shù)據(jù)出境風險及如何做到合法出境等作出要求。

此外，筆者注意到，近來國家安全機關曾通報，境外特定組織和人員正通過SDK搜集中國大陸使用者數(shù)據(jù)，給國家安全帶來隱患。SDK是手機軟件的開發(fā)組件，國內(nèi)廠商如果在開發(fā)手機APP時使用了有問題的國外SDK，再參加政府采購活動，就可能把這種數(shù)據(jù)安全風險引入采購單位。

各采購單位可以視具體情況，適時在采購文件中加入供應商提供產(chǎn)品未通過網(wǎng)絡安全審查的，不得參與采購項目競爭等要求。

三是在采購需求階段就預估能耗。采購人應將人工智能產(chǎn)品采購與節(jié)能減排政策相結合，在采購需求調(diào)研階段就對人工智能產(chǎn)品需要的能耗進行預估，從而驗證自身是否可以承擔，項目上馬是否必要。

四是從項目源頭確保人工智能產(chǎn)品的可替代性。為防止服務期滿后，只能通過單一來源方式繼續(xù)選用原供應商服務的情況，采購人應在合同中與供應商約定好數(shù)據(jù)資產(chǎn)的權屬劃分，自己要保存好已提供或由供應商采集的原始訓練數(shù)據(jù)集，合理劃分人工智能生成式數(shù)據(jù)的知識產(chǎn)權與所有權、使用權，防止現(xiàn)有人工智能產(chǎn)品形成不可替代性，為項目后期升級等保持競爭性奠定基礎。

五是避免對人工智能產(chǎn)品過于激進的使用。雖然目前人工智能技術在圖像識別上有天然的優(yōu)勢，在文本和視頻生成上也有不錯的效果，在教育、醫(yī)療、智慧城市、氣象、電力等多個行業(yè)中有很好的實踐，但對于人工智能是否能夠進化為有自我意識，且對人類社會產(chǎn)生危害，社會各界一直保持著警惕。因此，重點領域的采購單位，還是應該對人工智能技術持謹慎態(tài)度，并持續(xù)關注人工智能業(yè)界關于技術管制的最新動態(tài)，對是否通過人工智能技術解決自身需求做出理性抉擇。

本報擁有此文版權，若需轉(zhuǎn)載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。