智能數據治理平臺

睿治作為國內功能最全的數據治理產品之一，入選IDC企業數據治理實施部署指南。同時，在IDC發布的《中國數據治理市場份額》報告中，連續四年蟬聯數據治理解決方案市場份額第一。

在線免費試用 DEMO體驗視頻介紹

睿治智能數據治理平臺

IDC蟬聯數據治理解決方案市場第一

可信AI技術和應用進展白皮書（2023）

時間：2023-07-14來源：千千萬萬的喜歡瀏覽數：278次

大模型在技術、產業和社會等多方面引發新問題，可信需求更加凸顯。

近日，華院計算與中國信息通信研究院聯合發布了國內首份《認知智能技術和應用研究報告2023》（下稱“報告”），報告圍繞當前認知智能發展環境、技術鏈路、典型應用場景及未來發展方向等維度，進行了觀點分享與技術產業分析。

人工智能的飛速進步和應用帶來了前所未有的機遇和挑戰，也將可信人工智能推向產業發展的前臺。2021年，中國信通院《可信人工智能白皮書》首次系統提煉出業內較為統一的可信AI特征要素在安全魯棒、隱私保護、公平性、可解釋的大框架下，可信AI正在金融、保險、制造、醫療等領域加速落地。伴隨人工智能技術底座不斷夯實和大模型、AIGC 等的爆發式增長，人工智能邁出了走向通用人工智能的關鍵一步，2023年4月中共中央政治局會議強調“重視通用人工智能發展，營造創新生態，重視防范風險”，可信AI成為新階段平衡創新與風險的重要技術手段。

本報告基于統一的可信AI認知維度，梳理總結可信AI技術和應用發展現狀，提煉面向新階段大模型和AIGC引發的新需求，形成以技術為保障的可信 AI評估體系和工具。

主要觀點如下

一是歸納了可信AI發展變遷的產業技術背景，即近期算法、算力、數據基礎不斷夯實，人工智能固有技術風險持續放大，可信AI技術成為AI領域關鍵底層能力,各國也正在圍繞生成式人工智能監管、人工智能倫理等推動治理。

二是梳理了現階段可信AI四大技術方向發展情況。可信 AI 已在行業領域落實成具體產品和實踐案例，總體上正從創新整合解決方案階段邁向形成可信系統機制的階段，完整的實踐鏈路、健全的標準和系統機制將逐步落地。

三是概括了面向大模型和AIGC的可信AI探索，即大模型時代下可能面臨的安全可信挑戰，主要包括大模型的生成式攻擊和防御、大模型自身的安全風險和隱患、大模型的可解釋性和公平性問題等三大類。

四是構建了以技術為保障的可信AI評估體系，面向產業發展需求，構建了包括隱私保護檢測、可解釋性檢測、公平性檢測和魯棒性檢測的可信 AI檢測指標體系，并提出了具體的評估內容、指標和方式，并可進一步賦能大模型與 AIGC發展。

具體內容如下