商湯科技發佈AI治理白皮書：踐行「負責任且可評估」的人工智能

上海2022年9月5日 /美通社/ -- 在2022 WAIC世界人工智能大會「亞洲科技倫理治理與可持續發展論壇」上，商湯科技正式發佈《「平衡發展」的人工智能治理白皮書——商湯人工智能倫理與治理年度報告（2022年）》，深入探討並分享了商湯在推動AI治理落地進程中的洞察、思考、目標與實踐。商湯科技智能產業研究院院長田丰受邀出席並就白皮書的重點內容作解讀。

人工智能治理的「分層目標」

白皮書指出，當前人工智能治理已經進入了以技術驗證為主的落地實踐階段。今年以來，新加坡、歐盟、美國、中國等國家的監管機構和第三方機構紛紛發佈AI治理測試工具箱、技術監管沙箱，推進AI治理的落地實施。

作為全球領先的人工智能軟件公司，商湯始終高度重視人工智能治理，去年正式提出了「平衡發展」的人工智能倫理觀，同時明確了「以人為本、技術可控、可持續發展」的倫理原則。隨著人工智能治理進入落地實踐階段，商湯此次進一步提出了發展「負責任且可評估」的人工智能，並將其作為商湯開展人工智能治理的願景目標，打造倫理治理閉環。

人工智能治理進入落地實踐階段，負責任且需可評估

從發展歷程看，人工智能治理至今已經經歷了以原則討論為主的1.0階段，以政策討論為主的2.0階段。進入2022年，隨著全球人工智能治理進程的持續推進，以及可信、負責任人工智能等相關理念的持續滲透，有關驗證人工智能治理如何落地實施的倡議日益增多。人工智能治理開始進入以技術驗證為主的3.0階段，即落地實踐階段。

而目前，人工智能治理的落地實踐仍面臨許多挑戰，各行各業需要重點處理「理念與行動」、「政策與實踐」、「技術與用戶」三組關係，即將人工智能倫理的共同原則付諸實施；將政策要求轉化為技術和業務團隊可執行的實踐標準；處理好技術與用戶間的關係，推動用戶對AI治理的認知，最終才能深入推進人工智能治理。

為有效地推進人工智能治理，商湯科技基於對全球人工智能治理訴求的分析，結合自身對技術和市場的理解，在白皮書中提出「人工智能治理應當是一個價值牽引、技術先行、多方參與、分層推進的動態進程」，為人工智能治理的落地實踐建立了有效路徑。

從治理效果看，人工智能治理的實現由低至高，可分為可用、可靠、可控、可信四個層次。其中，「可用」是指人工智能系統在功能、性能層面應當能夠滿足應用場景需求；「可靠」是指人工智能系統在安全性、魯棒性層面應當能夠滿足部署環境和可持續運營要求；「可控」是指人工智能系統在功能層面應當能夠充分保護人類的自主意志和權利、保障人類對系統的控制權；「可信」是指人工智能系統的設計和應用應當符合人類的價值理念和倫理道德。

因此，人工智能治理體系建構的目標，就是發展負責任的人工智能，需要做到有跡可循、有據可查。基於「平衡發展」的倫理觀，「以人為本、技術可控、可持續發展」的倫理原則，商湯此次於行業首次提出發展「負責任且可評估」的人工智能，並將其作為開展人工智能治理的願景目標。

構建覆蓋全生命週期的治理體系，打造AI治理閉環

作為業界最先組建人工智能倫理與治理委員會，並將倫理治理工作當作公司戰略級方向的科技創新企業之一，商湯自2020年1月統籌推進人工智能倫理治理工作體系建設以來，已在內部開展大量治理創新實踐，並形成了一整套可評估的人工智能治理落地方案，將倫理原則嵌入到產品設計、開發、部署的全生命週期，初步形成了人工智能治理閉環。

在數據風險方面，商湯將個人信息保護融入產品研發全生命週期，設立「數據安全與個人信息保護委員會」，實施個人信息保護評估審查，確保產品遵循默認符合個人信息保護的設計要求。

在算法風險方面，商湯作為領先的人工智能企業，主動承擔算法開發者的主體責任，針對商業化算法場景，開展基於真實場景下的算法驗證與評測，實現 AI 技術的真正可信與可控。

在應用風險方面，商湯持續完善人工智能倫理治理體系，建立覆蓋設計、開發、部署全生命週期的產品倫理風險審查流程；緊隨全球人工智能行業發展變化，建立「全球AI倫理風險庫」；定期組織員工進行人工智能倫理培訓，持續完善內部倫理傳播體系，不斷提升員工倫理素養。

「負責任且可評估的人工智能」的核心要求及商湯AI治理閉環

為保障人工智能治理體系的有效落實、推動形成倫理治理「人人有責」的企業文化，商湯還建立了倫理風險目標管理機制、倫理風險事件處置機制和倫理治理質量控制機制。此外，為推動發展「負責任且可評估」的人工智能，商湯還在內部開發了一系列覆蓋數據治理、算法測評、模型體檢、倫理審查的流程工具和技術平台。

隨著人工智能逐漸深入產業應用，AI的發展與治理之間的關係正如汽車的「發動機」和「方向盤」一樣，相輔相成、缺一不可。在本次論壇上，商湯科技智能產業研究院科技政策與倫理研究主任宮超還受邀出席《擁抱科技倫理治理體系，賦能可持續發展之路》圓桌討論，結合商湯在AI治理方面的實踐成果，與行業嘉賓深入探討了商湯的AI治理主張。他強調，商湯將持續推動發展負責任且可評估的人工智能，為AI治理實踐不斷貢獻完善、可行的落地方案。

關於商湯

商湯科技於2014年成立於香港。作為人工智能軟件公司，商湯集團以「 堅持原創，讓 AI 引領人類進步」為使命，「以人工智能實現物理世界和數字世界的連接，促進社會生產力可持續發展，並為人們帶來更好的虛實結合生活體驗」為願景，旨在持續引領人工智能前沿研究，持續打造更具拓展性、更普惠的人工智能軟件平台，推動經濟、社會和人類的發展，並持續吸引及培養頂尖人才，共同塑造未來。

商湯集團擁有深厚的學術積累，並長期投入於原創技術研究，不斷增強行業領先的全棧式人工智能能力，涵蓋感知智能、決策智能、智能內容生成和智能內容增強等關鍵技術領域，同時包含 AI 芯片、AI 傳感器及 AI 算力基礎設施在內的關鍵能力。此外，商湯前瞻性打造新型人工智能基礎設施—— SenseCore 商湯 AI 大裝置，打通算力、算法和平台，大幅降低人工智能生產要素價格，實現高效率、低成本、規模化的 AI 創新和落地，進而打通商業價值閉環，解決長尾應用問題，推動人工智能進入工業化發展階段。 

商湯集團業務涵蓋智慧商業、智慧城市、智慧生活、智能汽車四大板塊，相關產品與解決方案深受客戶與合作夥伴讚許。 

商湯集團倡導「發展」的人工智能倫理觀，並積極參與有關數據安全、隱私保護、人工智能倫理道德和可持續人工智能的行業、國家及國際標準的制訂，與多個國內及多邊機構就人工智能的可持續及倫理發展開展了密切合作。公司編制的《AI可持續發展道德準則》被《聯合國人工智能戰略資源指南》選錄，並於2021年6月發表，是亞洲唯一獲此殊榮的人工智能公司。

目前，商湯（股票代碼：0020.HK）已於香港交易所主板掛牌上市。商湯集團現已在香港、上海、北京、深圳、成都、杭州、南平、青島、三亞、西安、台北、澳門、京都、東京、新加坡、利雅德、阿布扎比、杜拜、吉隆坡、首爾等地設立辦公室。另外，商湯科技在泰國、印度尼西亞、菲律賓等國家均有業務。更多訊息，請訪問商湯科技網站、LinkedIn、Twitter、Facebook和YouTube專頁。