在過(guò)去幾年中，新興的人工智能（AI）系統(tǒng)重塑了各種任務(wù)，并為眾多領(lǐng)域拓展能力提供了令人興奮的機(jī)會(huì)。這些系統(tǒng)在圖像識(shí)別、文本分析等多種應(yīng)用中，對(duì)政府機(jī)構(gòu)可能越來(lái)越有用。

美國(guó)聯(lián)邦和州政府已開始制定管理AI并有效、公平使用AI的方法。為此，某智庫(kù)為評(píng)估AI成熟度模型提供了一個(gè)框架，幫助各級(jí)政府機(jī)構(gòu)評(píng)估其AI能力水平，規(guī)劃這些能力的發(fā)展，并在日益復(fù)雜和快速發(fā)展的AI領(lǐng)域中確定工作優(yōu)先級(jí)。

（二）AI的定義

AI系統(tǒng)廣義上被定義為 “一種基于機(jī)器的系統(tǒng)，對(duì)于給定的一組人類定義的目標(biāo)，能夠做出影響真實(shí)或虛擬環(huán)境的預(yù)測(cè)、推薦或決策”。

（三）政府機(jī)構(gòu)面臨的挑戰(zhàn)

在協(xié)調(diào)新興能力與現(xiàn)有能力、確定這些能力最有前景的用例、管理風(fēng)險(xiǎn)以及構(gòu)建全機(jī)構(gòu)范圍的結(jié)構(gòu)以高效安全地使用AI等方面，存在不可避免的挑戰(zhàn)。該成熟度模型作為藍(lán)圖，幫助政府機(jī)構(gòu)解決這些問(wèn)題，了解當(dāng)前AI能力，并規(guī)劃未來(lái)方向。

（一）五個(gè)核心領(lǐng)域 建立富有成效的治理模型機(jī)構(gòu)的AI系統(tǒng)受制于強(qiáng)大的治理系統(tǒng)和人類監(jiān)督，并遵守所有相關(guān)法律法規(guī)。 資源充足機(jī)構(gòu)的AI計(jì)劃擁有必要的資金、硬件、軟件、數(shù)據(jù)和人力資源。 產(chǎn)出具有影響力機(jī)構(gòu)已建立績(jī)效標(biāo)準(zhǔn)、測(cè)試程序和政策，以確保 AI 系統(tǒng)應(yīng)用于合適的用例，并為機(jī)構(gòu)的總體使命做出貢獻(xiàn)。 產(chǎn)品和結(jié)果值得信賴機(jī)構(gòu)設(shè)計(jì)和管理 AI 系統(tǒng)，使其具有代表性、透明度和無(wú)偏見性。 產(chǎn)品安全可靠機(jī)構(gòu)有效管理與 AI 相關(guān)的風(fēng)險(xiǎn)，并保護(hù) AI 系統(tǒng)及其包含的數(shù)據(jù)免受惡意攻擊或不當(dāng)披露。

?

（二）子領(lǐng)域與主題

每個(gè)領(lǐng)域分為子領(lǐng)域，每個(gè)子領(lǐng)域描述AI成熟度的更具體元素，如資金、測(cè)試和評(píng)估或網(wǎng)絡(luò)安全。子領(lǐng)域進(jìn)一步分為主題，是模型中機(jī)構(gòu)AI能力的最詳細(xì)組成部分。

（三）四個(gè)成熟度階段 發(fā)展中機(jī)構(gòu)在該領(lǐng)域僅有有限的能力，偶然實(shí)施或由員工獨(dú)立工作，沒(méi)有總體治理、結(jié)構(gòu)或戰(zhàn)略。 執(zhí)行中機(jī)構(gòu)在該領(lǐng)域的能力受到一定程度的意圖和戰(zhàn)略指導(dǎo)，但仍不發(fā)達(dá)。 已建立機(jī)構(gòu)在該領(lǐng)域的能力已全面發(fā)展，但持續(xù)改進(jìn)的機(jī)會(huì)仍未充分探索。 優(yōu)化中機(jī)構(gòu)在該領(lǐng)域的能力已全面發(fā)展，并受到持續(xù)、系統(tǒng)的努力來(lái)改進(jìn)、加強(qiáng)和擴(kuò)展。

基于各種組織當(dāng)前與AI相關(guān)的政策、計(jì)劃和指南開發(fā)了此成熟度模型，具體步驟如下：

收集了39份公開的參考文檔，包括聯(lián)邦跨機(jī)構(gòu)、單個(gè)聯(lián)邦部門和機(jī)構(gòu)、州政府、國(guó)際組織、非政府組織、學(xué)術(shù)界和私營(yíng)部門的戰(zhàn)略、政策、計(jì)劃和指南。 對(duì)關(guān)鍵文檔的內(nèi)容進(jìn)行分類，并使用這些類別起草暫定的領(lǐng)域和子領(lǐng)域，旨在為政府機(jī)構(gòu)的AI能力提供全面分類。 將剩余參考文檔的內(nèi)容編碼到領(lǐng)域和子領(lǐng)域，根據(jù)需要更新領(lǐng)域和子領(lǐng)域，并在過(guò)程中明確它們之間的區(qū)別。 制定模型中使用的四個(gè)成熟度級(jí)別以及每個(gè)級(jí)別的特征。 使用參考文檔的內(nèi)容為每個(gè)子領(lǐng)域和每個(gè)成熟度級(jí)別制定暫定的成熟度指標(biāo)，將子領(lǐng)域劃分為成熟度模型中包含的主題。 對(duì)暫定的成熟度指標(biāo)進(jìn)行內(nèi)部審查，包括將它們與各種來(lái)源的其他與 AI 相關(guān)的成熟度模型進(jìn)行比較，以確定可能遺漏的AI能力領(lǐng)域。 將成熟度模型草案提供給項(xiàng)目團(tuán)隊(duì)之外的專家進(jìn)行審查，并相應(yīng)地更新模型。

?（一）作為評(píng)估與規(guī)劃工具

該模型應(yīng)作為政府機(jī)構(gòu)了解其AI能力以及為其進(jìn)一步發(fā)展、政策決策和內(nèi)部運(yùn)營(yíng)提供信息的工具。應(yīng)定性地將其用作地圖，機(jī)構(gòu)可以通過(guò)它將自己置于 AI 能力的整體格局中，并確定進(jìn)一步發(fā)展的方向。

（二）自我評(píng)估與差距分析

機(jī)構(gòu)應(yīng)通過(guò)分析哪組指標(biāo)最接近其自身的AI運(yùn)營(yíng)，來(lái)評(píng)估其在每個(gè)領(lǐng)域、子領(lǐng)域和主題中的成熟度水平。這種診斷練習(xí)將使機(jī)構(gòu)對(duì)其AI成熟度的總體水平有一個(gè)整體的認(rèn)識(shí)。它可以使用下一個(gè)最高領(lǐng)域的成熟度指標(biāo)來(lái)關(guān)注特定的能力建設(shè)活動(dòng)。

（三）優(yōu)先級(jí)設(shè)定與計(jì)劃制定

根據(jù)機(jī)構(gòu)的具體使命和目標(biāo)，可能希望將更多精力集中在特定領(lǐng)域或子領(lǐng)域的能力發(fā)展上，因?yàn)樗鼈儽徽J(rèn)為重要，或由于這些領(lǐng)域已有的計(jì)劃和正在進(jìn)行的活動(dòng)。機(jī)構(gòu)可以優(yōu)先考慮打算解決的差距，并制定計(jì)劃來(lái)提高這些領(lǐng)域的能力。

（一）領(lǐng)域 1：建立富有成效的治理模型 子領(lǐng)域 1.1：協(xié)調(diào)、戰(zhàn)略和規(guī)劃 定義機(jī)構(gòu)AI系統(tǒng)的開發(fā)和使用是戰(zhàn)略性規(guī)劃的，并與適當(dāng)?shù)膬?nèi)部和外部利益相關(guān)者協(xié)調(diào)執(zhí)行。 主題與目標(biāo)包括組織內(nèi)部人員參與、外部利益相關(guān)者參與、計(jì)劃制定、政策和標(biāo)準(zhǔn)制定、架構(gòu)文檔、治理的組織結(jié)構(gòu)和流程、實(shí)施過(guò)程等。 輸出：政策、計(jì)劃和指南；人員和組織；產(chǎn)品和流程。 成熟度階段表現(xiàn)從僅由技術(shù)人員參與到非技術(shù)人員廣泛參與，從無(wú)戰(zhàn)略到戰(zhàn)略與其他計(jì)劃集成，從無(wú)明確治理結(jié)構(gòu)到有完善的治理模型等。 子領(lǐng)域 1.2：合規(guī)與問(wèn)責(zé) 定義機(jī)構(gòu)遵守相關(guān)法律法規(guī)，并擁有一套標(biāo)準(zhǔn)和政策，使內(nèi)部和外部利益相關(guān)者能夠?qū)C(jī)構(gòu)使用AI的行為負(fù)責(zé)。 主題與目標(biāo)合規(guī)性審查和審計(jì)、職責(zé)分離、事件報(bào)告、熟練標(biāo)準(zhǔn)。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從對(duì)合規(guī)要求理解不足到全面理解和管理，從職責(zé)未分離到明確分離，從無(wú)事件報(bào)告流程到有完善的報(bào)告和管理框架等。 子領(lǐng)域 1.3：上訴和替代系統(tǒng) 定義機(jī)構(gòu)的AI系統(tǒng)受到人類監(jiān)督，其決策可以上訴。 主題與目標(biāo)AI 輸出的人類監(jiān)督、替代流程、上訴。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)人類監(jiān)督和上訴機(jī)制到有明確的監(jiān)督和上訴流程，從無(wú)替代流程到有完善的替代流程并能根據(jù)風(fēng)險(xiǎn)觸發(fā)。

?（二）領(lǐng)域 2：資源充足 子領(lǐng)域 2.1：數(shù)據(jù)集 定義機(jī)構(gòu)擁有并隨時(shí)提供質(zhì)量足夠的數(shù)據(jù)，用于開發(fā)和測(cè)試系統(tǒng)。 主題與目標(biāo)數(shù)據(jù)質(zhì)量、數(shù)據(jù)可訪問(wèn)性。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)數(shù)據(jù)質(zhì)量保證程序到有完善的程序并能跟蹤數(shù)據(jù)質(zhì)量趨勢(shì)，從無(wú)中央存儲(chǔ)庫(kù)到有中央存儲(chǔ)庫(kù)并能靈活管理數(shù)據(jù)。 子領(lǐng)域 2.2：基礎(chǔ)設(shè)施 定義機(jī)構(gòu)擁有開發(fā)和使用AI系統(tǒng)所需的必要軟件和硬件基礎(chǔ)設(shè)施。 主題與目標(biāo)計(jì)算基礎(chǔ)設(shè)施、數(shù)據(jù)存儲(chǔ)基礎(chǔ)設(shè)施、測(cè)試基礎(chǔ)設(shè)施、基礎(chǔ)設(shè)施可訪問(wèn)性。 輸出：產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)專門的AI基礎(chǔ)設(shè)施到有完善的基礎(chǔ)設(shè)施并能持續(xù)更新，從無(wú)測(cè)試環(huán)境到有 AI 特定的測(cè)試床和沙盒。 子領(lǐng)域 2.3：采購(gòu) 定義AI系統(tǒng)的采購(gòu)是系統(tǒng)化的。 主題與目標(biāo)采購(gòu)流程。 輸出：政策、計(jì)劃和指南。 成熟度階段表現(xiàn)從無(wú)統(tǒng)一的采購(gòu)指導(dǎo)到有標(biāo)準(zhǔn)的采購(gòu)語(yǔ)言和策略，從無(wú)協(xié)調(diào)的采購(gòu)到與跨機(jī)構(gòu)和行業(yè)合作伙伴協(xié)作制定采購(gòu)最佳實(shí)踐。 子領(lǐng)域 2.4：勞動(dòng)力和專業(yè)知識(shí) 定義機(jī)構(gòu)能夠招聘、保留和發(fā)展具有AI專業(yè)知識(shí)的人員，并培養(yǎng)具備AI素養(yǎng)的勞動(dòng)力。 主題與目標(biāo)技能和勞動(dòng)力規(guī)劃、招聘和保留、培養(yǎng)新興人才、增強(qiáng)AI素養(yǎng)。 輸出：政策、計(jì)劃和指南；人員和組織；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú) AI 勞動(dòng)力規(guī)劃到有完善的技能框架和勞動(dòng)力規(guī)劃，從無(wú)激勵(lì)措施到有多種激勵(lì)措施吸引和保留AI專業(yè)人才，從無(wú)AI培訓(xùn)到有持續(xù)更新的培訓(xùn)計(jì)劃并能提升員工AI素養(yǎng)。?

（三）領(lǐng)域 3：產(chǎn)出具有影響力 子領(lǐng)域 3.1：性能 定義機(jī)構(gòu)測(cè)試、監(jiān)控和優(yōu)化其AI系統(tǒng)的性能。 主題與目標(biāo)性能指標(biāo)和指標(biāo)、測(cè)試、監(jiān)控、反饋和優(yōu)化。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)明確的性能指標(biāo)到有全面的指標(biāo)并能定期審查，從無(wú)系統(tǒng)的測(cè)試方法到有嚴(yán)格的測(cè)試方案并能根據(jù)技術(shù)和用例更新，從無(wú)監(jiān)控到有完善的監(jiān)控機(jī)制并能及時(shí)采取糾正措施。 子領(lǐng)域 3.2：用例 定義機(jī)構(gòu)能夠識(shí)別并將AI系統(tǒng)應(yīng)用于有益的用例。 主題與目標(biāo)用例識(shí)別、用例評(píng)估、促進(jìn)該領(lǐng)域的AI進(jìn)步。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)協(xié)調(diào)的用例識(shí)別到有完善的政策和框架并能優(yōu)先考慮用例，從無(wú)系統(tǒng)的用例評(píng)估到有多樣化的評(píng)估標(biāo)準(zhǔn)和方法，從無(wú)促進(jìn)AI進(jìn)步的舉措到有積極的投資和支持舉措并能定期重新評(píng)估。?

（四）領(lǐng)域 4：產(chǎn)品和結(jié)果值得信賴 子領(lǐng)域 4.1：代表性 定義受影響的利益相關(guān)者能夠參與AI系統(tǒng)的開發(fā)，不同能力和背景的個(gè)人能夠使用AI系統(tǒng)。 主題與目標(biāo)與外部利益相關(guān)者的參與、代表利益相關(guān)者的內(nèi)部辦公室的參與、用戶體驗(yàn)。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú) meaningful 的外部參與到有定期的外部咨詢并能影響系統(tǒng)設(shè)計(jì)，從內(nèi)部辦公室不參與到有明確的參與和影響，從無(wú)用戶體驗(yàn)考慮到有完善的設(shè)計(jì)和實(shí)現(xiàn)原則并能滿足不同用戶需求。 子領(lǐng)域 4.2：透明度 定義AI系統(tǒng)的開發(fā)和使用有詳細(xì)記錄，AI系統(tǒng)的操作和結(jié)果易于理解。 主題與目標(biāo)AI系統(tǒng)的描述性文檔、AI內(nèi)容的識(shí)別、透明系統(tǒng)的開發(fā)、數(shù)據(jù)透明度、AI 系統(tǒng)性能的溝通、第三方系統(tǒng)。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)系統(tǒng)的文檔到有全面的文檔并能公開訪問(wèn)，從無(wú)AI內(nèi)容標(biāo)識(shí)到有一致的標(biāo)識(shí)政策，從 “黑箱” 模型到有可追溯和透明的系統(tǒng)，從無(wú)數(shù)據(jù)透明度到有詳細(xì)的元數(shù)據(jù)和數(shù)據(jù)來(lái)源跟蹤。 子領(lǐng)域 4.3：無(wú)偏見 定義AI 系統(tǒng)的設(shè)計(jì)和管理方式可減少偏見結(jié)果的發(fā)生。 主題與目標(biāo)偏見和歧視的表征、評(píng)估偏見的指標(biāo)、偏見結(jié)果的監(jiān)控、無(wú)偏見的訓(xùn)練數(shù)據(jù)。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)偏見表征到有明確的政策和實(shí)踐識(shí)別潛在負(fù)面影響和受保護(hù)屬性，從無(wú)統(tǒng)一的偏見評(píng)估指標(biāo)到有一致的框架和標(biāo)準(zhǔn)，從無(wú)偏見監(jiān)控到有定期的監(jiān)控和反饋機(jī)制，從無(wú)訓(xùn)練數(shù)據(jù)測(cè)試到有完善的測(cè)試程序并能根據(jù)評(píng)估結(jié)果改進(jìn)模型。?

（五）領(lǐng)域 5：產(chǎn)品安全可靠 子領(lǐng)域 5.1：網(wǎng)絡(luò)安全和隱私 定義機(jī)構(gòu)擁有政策、工具和程序，以主動(dòng)保護(hù)其 AI 系統(tǒng)和數(shù)據(jù)，并應(yīng)對(duì)網(wǎng)絡(luò)攻擊。 主題與目標(biāo)漏洞緩解、安全和安全影響評(píng)估、網(wǎng)絡(luò)響應(yīng)、數(shù)據(jù)安全和隱私。 輸出：政策、計(jì)劃和指南；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú)漏洞審查到有定期的漏洞審查和最佳實(shí)踐開發(fā)，從無(wú)安全影響評(píng)估到有標(biāo)準(zhǔn)的評(píng)估流程并能考慮級(jí)聯(lián)效應(yīng)，從無(wú)網(wǎng)絡(luò)響應(yīng)計(jì)劃到有完善的響應(yīng)計(jì)劃和自動(dòng)化防御工具，從無(wú)數(shù)據(jù)安全和隱私保護(hù)到有嚴(yán)格的訪問(wèn)控制和隱私增強(qiáng)技術(shù)。 子領(lǐng)域 5.2：風(fēng)險(xiǎn)管理 定義機(jī)構(gòu)系統(tǒng)地識(shí)別風(fēng)險(xiǎn)，建立風(fēng)險(xiǎn)容忍度水平，并相應(yīng)地管理風(fēng)險(xiǎn)。 主題與目標(biāo)風(fēng)險(xiǎn)管理方法、風(fēng)險(xiǎn)容忍度、系統(tǒng)風(fēng)險(xiǎn)評(píng)估。 輸出：政策、計(jì)劃和指南；人員和組織；產(chǎn)品和流程。 成熟度階段表現(xiàn)從無(wú) AI 特定的風(fēng)險(xiǎn)管理框架到有完善的框架并能集成到企業(yè)風(fēng)險(xiǎn)管理中，從無(wú)風(fēng)險(xiǎn)容忍度定義到有明確的容忍度和優(yōu)先級(jí)并能定期審查，從無(wú)系統(tǒng)風(fēng)險(xiǎn)評(píng)估到有全面的風(fēng)險(xiǎn)評(píng)估和文檔并能持續(xù)更新。?

（一）模型的價(jià)值與意義

該智庫(kù)政府機(jī)構(gòu)AI成熟度模型為美國(guó)各級(jí)政府機(jī)構(gòu)提供了一個(gè)全面、系統(tǒng)的框架，幫助其評(píng)估 AI 能力成熟度、規(guī)劃發(fā)展路徑并確定工作優(yōu)先級(jí)。該模型涵蓋了 AI 應(yīng)用的各個(gè)方面，從治理和資源到產(chǎn)出、信任和安全，為機(jī)構(gòu)提供了清晰的指導(dǎo)。

（二）模型的應(yīng)用前景

隨著AI技術(shù)在政府領(lǐng)域的不斷深入應(yīng)用，該模型將在幫助機(jī)構(gòu)應(yīng)對(duì)挑戰(zhàn)、抓住機(jī)遇方面發(fā)揮重要作用。機(jī)構(gòu)可以利用該模型進(jìn)行自我評(píng)估，識(shí)別能力差距，制定針對(duì)性的改進(jìn)計(jì)劃，從而提高AI應(yīng)用的效率、效果和安全性。

（三）未來(lái)建議

該智庫(kù)建議，美國(guó)政府機(jī)構(gòu)應(yīng)持續(xù)關(guān)注AI技術(shù)的發(fā)展趨勢(shì)，結(jié)合自身使命和目標(biāo)，靈活運(yùn)用該模型。同時(shí)，應(yīng)加強(qiáng)跨機(jī)構(gòu)合作，分享最佳實(shí)踐，共同推動(dòng)政府 AI 能力的提升。此外，還應(yīng)不斷完善模型本身，以適應(yīng) AI 技術(shù)和應(yīng)用場(chǎng)景的不斷變化。

來(lái)源：占知智庫(kù)