把握好人工智能政府采購10項準則

把握好人工智能政府采購10項準則

《人工智能系統(tǒng)政府采購白皮書》——摘編（二）

（準則的詳細說明1-5項）

1.采購流程中應(yīng)關(guān)注所面臨的問題和機會

在采購流程中以創(chuàng)新為導向，是因為采購程序會加快采用新技術(shù)的速度，以此促進技術(shù)革新。同時，有效支持國家政策標準（如對中小企業(yè)的支持以及AI的道德發(fā)展）。

a.借助創(chuàng)新的采購流程來獲取AI系統(tǒng)。

創(chuàng)新的采購過程支持早期的市場參與，各類企業(yè)可以在不同的階段進入政府采購市場。（采購人）可以驗證創(chuàng)新采購流程的正確與否。創(chuàng)新的公共采購流程包括：詳細說明挑戰(zhàn)性問題；組織有關(guān)技術(shù)層面的競爭；為供應(yīng)商提供演示機會以及為新成立的中小微企業(yè)提供競爭公共部門合同的機會等，從而促進并幫助有潛力的新公司成長。另外，做市商中也鼓勵小企業(yè)有新的想法，并減少新技術(shù)創(chuàng)業(yè)的風險。所謂做市商是指在證券市場上，由具備一定實力和信譽的獨立證券經(jīng)營法人作為特許交易商，不斷向公眾投資者報出某些特定證券的買賣價格，并在該價位上接受公眾投資者的買賣要求，以其自有資金和證券與投資者進行證券交易。

其次，根據(jù)所需要解決問題的性質(zhì)從戰(zhàn)略上選擇采購方式。靈活的采購程序可以使采購人在不同的階段進入市場，這樣采購人就有機會在做出真正購買決策之前對該技術(shù)在相關(guān)問題領(lǐng)域進行測試和概念證明。借助采購流程，使供應(yīng)商根據(jù)其AI技能相互競爭；創(chuàng)新伙伴關(guān)系，使目前市場上現(xiàn)有的但無法交付的技術(shù)采購成為可能。此外，動態(tài)采購系統(tǒng)可以加速技術(shù)的使用。作為采購工具，它在某種程度上類似于電子框架協(xié)議，但是由于新供應(yīng)商可以隨時加入，因此，新成立的公司只要符合設(shè)定的標準，便可以參與框架協(xié)議；采購框架規(guī)定了適用于任何后續(xù)合同的條款和條件，并允許框架提供商根據(jù)一組可能包括道德要求的預定義標準進行預審核。

b.采購時要給出明確的問題描述，而不是解決方案的詳細說明。

人工智能技術(shù)發(fā)展迅速，不斷有新技術(shù)和產(chǎn)品被推向市場。公共部門通過專注于描述要解決的挑戰(zhàn)并利用技術(shù)合作伙伴的專業(yè)知識，可以更好地理解哪種技術(shù)最適合當前的問題。除了發(fā)揮每個利益相關(guān)者的優(yōu)勢外，采購時要給出明確的問題描述，而不是解決方案的詳細說明有兩個額外的好處。首先，它促進早期的市場參與到項目中來。其次，它使新的AI服務(wù)提供商（如初創(chuàng)企業(yè)）更容易參與，因為公共部門不再將采購重點放在特定產(chǎn)品上。培育新興的AI生態(tài)系統(tǒng)是未來的一項關(guān)鍵的經(jīng)濟投資。

c.在產(chǎn)品開發(fā)過程中支持迭代方法。

人工智能驅(qū)動的解決方案與其他技術(shù)在學習和利用新數(shù)據(jù)來進行訓練方面有明顯的不同。因此，人工智能系統(tǒng)的采購過程中應(yīng)該為迭代預留一定的空間，以確保系統(tǒng)的健壯性。所謂系統(tǒng)的健壯性，是指在異常和危險情況下系統(tǒng)生存的關(guān)鍵。為此，應(yīng)建立公平和透明的評估及決策過程。例如，分階段采購可以在采購的第一階段評估不同潛在供應(yīng)商的最低可行產(chǎn)品（MVP），只有獲勝者才能開發(fā)完整的解決方案。在采購周期內(nèi)分階段進行構(gòu)建和測試，有助于做出明智的決策。此外，透明的采購過程還為企業(yè)提供相關(guān)信息，以進行有意義的影響評估和風險評估。

2.對使用AI的益處進行定義并評估潛在風險

AI對公眾的益處進行定義并評估潛在風險旨在為整個項目和采購流程提供基礎(chǔ)保障。人工智能為公共機構(gòu)帶來益處的同時還帶來了全新的、特定的風險，因此必須在項目的采購實施之前就進行識別和管理。

a.采購人在需求建議書中說清楚為什么覺得這個問題和AI相關(guān)，同時提出了備選的技術(shù)方案。

在大多數(shù)情況下，只有在有充分跡象表明某項技術(shù)可解決所需解決的問題時，才應(yīng)在招標書中提及對AI解決方案的需求。公共機構(gòu)應(yīng)該通過分析政策挑戰(zhàn)和替代方案來闡述獲取人工智能系統(tǒng)的需求，并且當人工智能項目沒有明確的研究和創(chuàng)新重點時，可以將其與其他潛在的行動方案進行比較。如果在評估招標結(jié)果時，發(fā)現(xiàn)另一種不包含AI的解決方案能夠更好地解決該問題，那么采購人應(yīng)該決定采用這一替代交付方式。另外，在開始采購流程之前，請評估AI是否可以作為解決問題的一部分。如果公共機構(gòu)的團隊缺乏執(zhí)行此評估的能力，則應(yīng)從組織中其他地方或相關(guān)專業(yè)部門（如學術(shù)界、可信賴的供應(yīng)商）中尋求評估支持，并優(yōu)先與適當?shù)睦嫦嚓P(guān)者進行協(xié)商和協(xié)作。對于此評估，至關(guān)重要的是要與多利益相關(guān)方共同參與，在需求建議書中反映評估結(jié)果。這將幫助采購人更好地與潛在供應(yīng)商溝通需求，因為一個項目的成功主要還取決于AI系統(tǒng)提供商對問題的理解程度。

b.在需求建議書中解釋清楚在評估標書時公共利益是自動決策過程的主要驅(qū)動力。

在需求建議書中提出，公共機構(gòu)應(yīng)該考慮明確提及公共利益以及用戶需求。在確定用戶需求時，行政機構(gòu)的采購人應(yīng)確信他們在為公共利益行事。關(guān)于人工智能系統(tǒng)，公共利益不只是物有所值，還包括決策過程的透明度以及這些準則中包含的其他因素。實踐中，要求采購人在公共利益的背景下明確成功和失敗的標準：采購人希望這樣的系統(tǒng)能夠?qū)崿F(xiàn)什么具體的價值？必須避免什么類型的失敗和傷害？進行影響評估將幫助采購人解決這些問題。

c.在開始采購前進行人工智能風險和影響評估，確保評估結(jié)果反饋到采購需求層面，并在決策點重新進行評估。

在人工智能解決方案的全生命周期內(nèi)，從設(shè)計到后期的維護，都要進行系統(tǒng)性和持續(xù)性的風險監(jiān)控。人工智能解決方案提供商可以通過項目管理功能來識別、草擬解決方案和報告風險。為了更好地了解使用AI的潛在影響并減輕風險，重要的是在購買AI系統(tǒng)之前進行系統(tǒng)性地評估。根據(jù)公共機構(gòu)要解決的政策挑戰(zhàn)以及AI的潛在功能可能有助于解決這一挑戰(zhàn)，他們之間會站在不同立場有不同的考慮。初步評估應(yīng)概述用戶需求和受影響的地區(qū)、社區(qū)的潛在風險及意外后果的方案。初步評估應(yīng)使公共機構(gòu)考慮AI系統(tǒng)的不準確性和偏差的潛在影響，包括但不限于透明度報告和對差異化私有或綜合數(shù)據(jù)集的測試。針對相關(guān)風險及其相應(yīng)的緩解策略必須由具有決策權(quán)的合適風險所有者認可，并且應(yīng)包括“可以/不可以”決策。

在招標中，公共機構(gòu)應(yīng)考慮要求潛在的供應(yīng)商識別風險并解釋如何減輕風險。這可以幫助采購人了解每個投標者的謹慎程度以及投標人對潛在風險的了解程度等寶貴信息。如果采購人在初始評估中發(fā)現(xiàn)了重大風險，則應(yīng)特別要求招標人闡明如何應(yīng)對這些風險。另外，數(shù)據(jù)保護影響評估和平等影響評估可以為評估潛在意外后果提供有用的幫助。在評估這些指標時，采購人可以考慮使用這些系統(tǒng)（例如半自動化或純自動化決策）如何與監(jiān)督、審查和其他保障機制互動。有關(guān)用于自動決策的風險評估調(diào)查表的示例，請參閱加拿大政府的《自動決策指令》以及AI Now的算法影響評估框架。除上述內(nèi)容外，還應(yīng)在AI解決方案生命周期的每個階段（從設(shè)計到實施后維護）進行系統(tǒng)且連續(xù)的風險監(jiān)控。AI解決方案提供商可以通過項目管理功能來識別、起草緩解措施并報告風險，這是實施的關(guān)鍵。必要時應(yīng)重新評估影響。

3.使AI采購與現(xiàn)有的政府戰(zhàn)略一致，并有助于其進一步改進

AI采購與現(xiàn)有的政府戰(zhàn)略一致是為了確保公共機構(gòu)有策略地借助采購來支持AI開發(fā)和部署的工作，并傳播新興技術(shù)在公共應(yīng)用方面的知識。

a.查閱政府發(fā)展規(guī)劃文件和關(guān)于新技術(shù)的公共政策指南文件，如人工智能國家戰(zhàn)略、創(chuàng)新戰(zhàn)略和工業(yè)戰(zhàn)略。

許多國家目前正在起草和發(fā)布國家人工智能戰(zhàn)略，其中一些國家已經(jīng)發(fā)布了他們的戰(zhàn)略。在開始推出AI之前，請公共機構(gòu)評估其對購買AI系統(tǒng)的需求如何與國家的整體戰(zhàn)略相吻合。符合國家AI戰(zhàn)略的另一個好處是，與該戰(zhàn)略相一致的計劃可以獲得特殊支持，例如獲得更多專家的支持。

b.與其他相關(guān)政府機構(gòu)和科研院所相互協(xié)作和學習。

一方面，采購人可以改善實踐做法并分享其經(jīng)驗，同時還可以積極尋求跨部門和專業(yè)領(lǐng)域的協(xié)作，可以通過專家社區(qū)（如數(shù)字社區(qū)、專業(yè)網(wǎng)絡(luò)社區(qū)）分享知識和反饋。另一方面，采購人所在的公共機構(gòu)部門可以通過設(shè)置平臺和網(wǎng)絡(luò)交換有關(guān)購買基于AI的解決方案的信息、經(jīng)驗和最佳實踐，這對之后的采購工作也可能會有所幫助。

4.在需求建議書中加入相關(guān)的潛在立法和行業(yè)規(guī)則

在AI采購需求中加入相關(guān)的潛在立法和行業(yè)規(guī)則是要遵守現(xiàn)有法律法規(guī)，確保合規(guī)；納入業(yè)務(wù)守則支持規(guī)范的標準化；通過調(diào)查相關(guān)規(guī)則，可以在動態(tài)創(chuàng)新技術(shù)生態(tài)系統(tǒng)中更好地制定政策。

a.對管理數(shù)據(jù)類型和應(yīng)用類型的相關(guān)立法、權(quán)利、管理規(guī)則和其他規(guī)范進行審查，并在需求建議書中進行引用。

公共機構(gòu)應(yīng)該在采購前對所在國相關(guān)的法律、人權(quán)、公民權(quán)利、行政法規(guī)以及其他相關(guān)規(guī)范進行審查，以避免在需求建議書中所要解決的問題和提出的解決方案中有關(guān)的數(shù)據(jù)類型、應(yīng)用程序類型與該國現(xiàn)行法律中對數(shù)據(jù)的使用、處理、傳輸?shù)纫?guī)則相沖突。另外，在需求建議書中標注的相關(guān)規(guī)則，其信息來源不僅應(yīng)包括正式法律條文，還應(yīng)包括行業(yè)最佳實踐做法以及世界貿(mào)易組織共識準則以及軟性法律中的其他形式準則制定機制。

b.將與人工智能系統(tǒng)部署相關(guān)的機密性、商業(yè)密碼保護、數(shù)據(jù)隱私最佳實踐考慮進來；根據(jù)公共利益需要，可以在保密和保護商業(yè)秘密的前提下，在調(diào)查過程中，可以通過部分披露、有限的審查和其他增強公眾信任的手段促進透明度。

為了對潛在的AI解決方案進行有意義的評估，行政機構(gòu)的官員或采購人必須對評估過程的透明度和確保供應(yīng)商與其產(chǎn)品和服務(wù)相關(guān)的商業(yè)機密之間取得相對平衡。有關(guān)政府程序的信息應(yīng)默認為公開，在特殊情況下（如出口管制、國家安全或正在進行的刑事調(diào)查除外），公開范圍應(yīng)合理。出于公共利益考慮，面對供應(yīng)商對于AI系統(tǒng)機密性和貿(mào)易安全保護的相關(guān)訴求，應(yīng)研究通過披露有限的審查選項和其他增強公眾信任的方式來提高透明度的可能性。

5.闡明訪問相關(guān)數(shù)據(jù)的技術(shù)和管理可行性

訪問相關(guān)數(shù)據(jù)的技術(shù)和管理可行性之所以重要，是因為相關(guān)數(shù)據(jù)的可用性是任何AI解決方案的前提，因此如果沒有可用數(shù)據(jù)，則不應(yīng)花時間討論AI采購。此外，只有數(shù)據(jù)管理方仔細考慮后，才可以授予對數(shù)據(jù)的訪問權(quán)限。

a.確保從采購流程開始就有適當?shù)臄?shù)據(jù)管理機制。公共機構(gòu)應(yīng)當從采購流程開始時就制定數(shù)據(jù)治理方法。鑒于數(shù)據(jù)治理的重要性和復雜性，幾乎必須執(zhí)行健全的數(shù)據(jù)治理流程，然后才能參與變革性的AI項目。治理需要涵蓋與擬議項目相關(guān)的所有數(shù)據(jù)活動，例如向項目成員授予數(shù)據(jù)訪問權(quán)限，在其他位置移動/存儲數(shù)據(jù)以進行分析以及查看數(shù)據(jù)同意書。此外，數(shù)據(jù)治理以及AI項目的所有其他方面都需要一支跨學科的團隊。在沒有數(shù)據(jù)治理框架的情況下，明確負責人，即誰具體負責采購過程和后續(xù)項目中的數(shù)據(jù)管理。

b.評估相關(guān)數(shù)據(jù)對項目是否可用。數(shù)據(jù)對于現(xiàn)代AI工具至關(guān)重要。采購人在開始采購活動之前，應(yīng)該從總體上確定全生命周期項目的數(shù)據(jù)可用性。這需要研究項目中哪些數(shù)據(jù)需要被了解。這個研究不是評估所有可能的數(shù)據(jù)源，而是建立對潛在利益數(shù)據(jù)源的一般認識。例如，在嘗試建立對數(shù)據(jù)資產(chǎn)的高級理解時，使用數(shù)據(jù)字典中的數(shù)據(jù)文件會很有幫助。簡單來說，數(shù)據(jù)字典是對數(shù)據(jù)的數(shù)據(jù)項、數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)流、數(shù)據(jù)存儲、處理邏輯等進行定義和描述，其目的是對數(shù)據(jù)流程圖中的各個元素做出詳細的說明。因此，數(shù)據(jù)字典是描述數(shù)據(jù)的信息集合，是對系統(tǒng)中使用的所有數(shù)據(jù)元素的定義的集合。而數(shù)據(jù)文件是在大容量復制操作中，將數(shù)據(jù)從向外大容量復制操作傳輸?shù)较騼?nèi)大容量復制操作的文件。

如果研究中認為有些數(shù)據(jù)不可用，則可以通過第三方（如供應(yīng)商、合作伙伴或數(shù)據(jù)經(jīng)紀人）找到數(shù)據(jù)。如果無法通過任何渠道獲得數(shù)據(jù)，可以請有關(guān)專業(yè)的數(shù)據(jù)科學家來評估是否能夠以數(shù)據(jù)驅(qū)動的方式解決用例。

c.定義是否以及如何就采購計劃和隨后的項目與廠商進行相關(guān)數(shù)據(jù)共享。

根據(jù)項目和數(shù)據(jù)的敏感性，公共機構(gòu)值得考慮的是在采購過程中向供應(yīng)商發(fā)布數(shù)據(jù)，以便投標人可以針對需求建議書做出響應(yīng)，需求建議書可以根據(jù)采購人的需求“量身定制”，并提供與招標要求相符的假設(shè)時間表和費用。盡可能提高投標文件對需求建議書的響應(yīng)質(zhì)量。如果公共機構(gòu)發(fā)布的數(shù)據(jù)比較敏感不適合公眾使用，應(yīng)該考慮僅發(fā)布一個樣本，以便供應(yīng)商清楚了解他們能夠執(zhí)行哪些操作而無需訪問所有數(shù)據(jù)。在具體執(zhí)行此操作中，采購人應(yīng)確保提供一個代表整個數(shù)據(jù)集的樣本，否則供應(yīng)商可能會做出錯誤的假設(shè)，從而影響投標的質(zhì)量，進而影響項目的完整性。最后要創(chuàng)建并記錄適當?shù)臄?shù)據(jù)共享條件。例如：供應(yīng)商托管數(shù)據(jù)環(huán)境的最低要求；由項目負責人簽署的數(shù)據(jù)同意書，說明供應(yīng)商擁有的數(shù)據(jù)除需求建議書中指定的用途外，不得將其用于其他目的；數(shù)據(jù)刪除日期（如提交投標文件后后立即刪除）。在任何情況下，政府都不應(yīng)允許供應(yīng)商在采購過程之后或項目結(jié)束后保留項目中需要的數(shù)據(jù)；確認刪除所有數(shù)據(jù)（如由供應(yīng)商負責人簽署并提交的刪除項目的書面確認）。有許多匿名技術(shù)可幫助保護數(shù)據(jù)隱私，包括數(shù)據(jù)聚合，屏蔽和合成數(shù)據(jù)。但采購人必須像對待原始數(shù)據(jù)一樣仔細地管理匿名數(shù)據(jù)，因為它可能會無意間暴露出重要的內(nèi)容。需求建議書中應(yīng)該鼓勵采用創(chuàng)新性的技術(shù)方法，例如上面提到的那些，以減少對數(shù)據(jù)的使用或者使用敏感度較低的數(shù)據(jù)集實現(xiàn)相同或相似的結(jié)果。但是，當某些供應(yīng)商所需的數(shù)據(jù)可能涉及項目的補充內(nèi)容，建議公共機構(gòu)在合理的情況下提供供應(yīng)商數(shù)據(jù)。決定提供給供應(yīng)商數(shù)據(jù)的原因可以包括：某些供應(yīng)商可能已經(jīng)被資格認定為可接受的數(shù)據(jù)提供者，由于他們以前作為現(xiàn)有供應(yīng)商的過往記錄而被認為更值得信賴，或者在其數(shù)據(jù)資產(chǎn)方面享有很高的聲譽；某些非常敏感的領(lǐng)域，如健康、司法和移民等，使用第三方數(shù)據(jù)需要被仔細檢查，然后才能接受。

（昝妍編譯）

本報擁有此文版權(quán)，若需轉(zhuǎn)載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。