介紹

這是人工智能（AI）驅(qū)動(dòng)的自動(dòng)化和自動(dòng)機(jī)器的時(shí)代。自我改進(jìn)，自我復(fù)制，自主智能機(jī)器日益普及和迅速擴(kuò)大的潛力刺激了網(wǎng)絡(luò)空間，地球空間和空間（CGS）中人類生態(tài)系統(tǒng)的大規(guī)模自動(dòng)化轉(zhuǎn)變。從各國(guó)看，越來(lái)越多的趨勢(shì)是越來(lái)越多地將復(fù)雜的決策過(guò)程委托給這些快速發(fā)展的人工智能系統(tǒng)。從給予假釋到診斷疾病，大學(xué)錄取到求職面試，管理交易到授予學(xué)分，自動(dòng)駕駛車輛到自主武器，快速發(fā)展的人工智能系統(tǒng)越來(lái)越多地被各國(guó)的個(gè)人和實(shí)體采用：政府，行業(yè)，組織和學(xué)術(shù)界（NGIOA）。

個(gè)人和集體，這些不斷發(fā)展的人工智能系統(tǒng)的承諾和危險(xiǎn)正在引起對(duì)人類未來(lái)的準(zhǔn)確性，公平性，透明度，信任，道德，隱私和安全的嚴(yán)重關(guān)注 - 促使人們對(duì)人工智能設(shè)計(jì)，開(kāi)發(fā)和部署。

雖然對(duì)任何顛覆性技術(shù)，技術(shù)轉(zhuǎn)型及其相關(guān)變化的恐懼導(dǎo)致政府要求以負(fù)責(zé)任的方式管理新技術(shù)并不是什么新鮮事，但調(diào)節(jié)人工智能等技術(shù)是一種完全不同的挑戰(zhàn)。這是因?yàn)殡m然人工智能可以透明，變革，民主化和易于分配，但它也觸及全球經(jīng)濟(jì)的每個(gè)部門(mén)，甚至可以將整個(gè)人類未來(lái)的安全置于危險(xiǎn)之中。毫無(wú)疑問(wèn)，人工智能有可能被濫用，或者它可以以不可預(yù)測(cè)和有害的方式對(duì)待人類 - 以至于整個(gè)人類文明都可能處于危險(xiǎn)之中。

雖然有一些 - 急需 - 專注于道德，隱私和道德在這場(chǎng)辯論中的作用，但同樣重要的安全往往被完全忽視。這給我們帶來(lái)了一個(gè)重要問(wèn)題：?道德和隱私?準(zhǔn)則是否足以?規(guī)范人工智能？我們不僅需要讓AI透明，負(fù)責(zé)和公平，還需要關(guān)注其安全風(fēng)險(xiǎn)。

安全風(fēng)險(xiǎn)

從各國(guó)看，安全風(fēng)險(xiǎn)在人工智能監(jiān)管辯論中基本上被忽略了。需要了解的是，任何AI系統(tǒng)：無(wú)論是機(jī)器人，在單臺(tái)計(jì)算機(jī)上運(yùn)行的程序，在聯(lián)網(wǎng)計(jì)算機(jī)上運(yùn)行的程序，還是承載AI的任何其他組件，都會(huì)帶來(lái)安全風(fēng)險(xiǎn)。

那么，這些安全風(fēng)險(xiǎn)和漏洞是什么？它從最初的設(shè)計(jì)和開(kāi)發(fā)開(kāi)始。如果初始設(shè)計(jì)和開(kāi)發(fā)允許或鼓勵(lì)A(yù)I根據(jù)其暴露和學(xué)習(xí)改變其目標(biāo)，那么這些改變可能會(huì)根據(jù)初始設(shè)計(jì)的要求而發(fā)生。現(xiàn)在，人工智能有一天會(huì)自我改進(jìn)，也會(huì)開(kāi)始改變自己的代碼，并且在某些時(shí)候，它也可能會(huì)改變硬件，并且可以自我復(fù)制。因此，當(dāng)我們?cè)u(píng)估所有這些可能的情況時(shí)，在某些時(shí)候，人類可能會(huì)失去對(duì)代碼或代碼中嵌入的任何指令的控制。這給我們帶來(lái)了一個(gè)重要問(wèn)題：?當(dāng)人類可能失去對(duì)其開(kāi)發(fā)和部署周期的控制時(shí)，我們將如何管理AI？

在我們?cè)u(píng)估多年來(lái)源于破壞性和危險(xiǎn)技術(shù)的安全風(fēng)險(xiǎn)時(shí)，每種技術(shù)都需要大量的基礎(chǔ)設(shè)施投資。這使得監(jiān)管程序變得相當(dāng)簡(jiǎn)單和容易：只需跟進(jìn)大量投資，就可以了解誰(shuí)在構(gòu)建什么。然而，信息時(shí)代和人工智能等技術(shù)從根本上動(dòng)搖了監(jiān)管原則和控制的基礎(chǔ)。這主要是因?yàn)榇_定人工智能安全風(fēng)險(xiǎn)的人員，地點(diǎn)和內(nèi)容是不可能的，因?yàn)槿魏稳硕伎梢酝ㄟ^(guò)合理的當(dāng)前個(gè)人計(jì)算機(jī)（甚至是智能手機(jī)或任何智能設(shè)備）和互聯(lián)網(wǎng)連接，現(xiàn)在可以為人工的發(fā)展做出貢獻(xiàn)。情報(bào)項(xiàng)目/倡議。此外，

此外，如果出現(xiàn)任何問(wèn)題，可能參與任何人工智能系統(tǒng)組件的設(shè)計(jì)，開(kāi)發(fā)和部署的各國(guó)個(gè)人和實(shí)體的數(shù)量龐大，將難以確定整個(gè)系統(tǒng)的責(zé)任和問(wèn)責(zé)制。

現(xiàn)在，隨著許多人工智能開(kāi)發(fā)項(xiàng)目的開(kāi)源以及開(kāi)源機(jī)器學(xué)習(xí)庫(kù)數(shù)量的增加，任何地方的任何人都可以對(duì)這些庫(kù)或代碼進(jìn)行任何修改 - 而且沒(méi)有辦法知道誰(shuí)做出了這些改變，及時(shí)對(duì)其產(chǎn)生的安全影響。因此，問(wèn)題是當(dāng)個(gè)人和實(shí)體參與任何來(lái)自世界任何地方的AI協(xié)作項(xiàng)目時(shí)，如何從監(jiān)管角度識(shí)別和主動(dòng)管理安全風(fēng)險(xiǎn)？

人們普遍認(rèn)為，為了開(kāi)發(fā)能夠?qū)θ祟愒斐缮嫱{的人工智能系統(tǒng)，它需要更大的計(jì)算能力，并且易于跟蹤。然而，隨著神經(jīng)形態(tài)芯片的發(fā)展，計(jì)算能力很快將成為一個(gè)非問(wèn)題 - 消除了大量使用計(jì)算能力的跟蹤能力。

另一個(gè)問(wèn)題是誰(shuí)在評(píng)估安全風(fēng)險(xiǎn)？因?yàn)闊o(wú)論人工智能的設(shè)計(jì)，開(kāi)發(fā)或部署階段如何，研究人員/設(shè)計(jì)人員/開(kāi)發(fā)人員是否具備進(jìn)行廣泛安全風(fēng)險(xiǎn)評(píng)估所需的專業(yè)知識(shí)？這給我們帶來(lái)了一個(gè)重要問(wèn)題：?評(píng)估算法或任何AI系統(tǒng)的安全風(fēng)險(xiǎn)需要什么樣的專業(yè)知識(shí)？有人有資格純粹基于他們?cè)谟?jì)算機(jī)科學(xué)，網(wǎng)絡(luò)安全或硬件方面的背景來(lái)評(píng)估這些安全風(fēng)險(xiǎn) - 或者我們需要具有完全不同技能的人嗎？