上海市經(jīng)濟和信息化委員會軟件和信息服務業(yè)處處長裘薇在會上透露，計劃明確政府和公共企事業(yè)單位在網(wǎng)絡安全上的投入比例不低于10%。
現(xiàn)階段的人工智能，更像是一個無法歸納和理解的“黑盒”，只能匹配預設的模型并根據(jù)輸入導出結果。這也引發(fā)了人們對人工智能安全的顧慮。
7月9日，2021世界人工智能大會安全高端對話在上海舉行，此次安全高端對話以“數(shù)智轉(zhuǎn)型 安全先行”為主題。
上海市經(jīng)濟和信息化委員會軟件和信息服務業(yè)處處長裘薇在會上透露，正和網(wǎng)信辦協(xié)商，在今年發(fā)布的網(wǎng)絡安全“十四五”規(guī)劃以及即將發(fā)布的網(wǎng)絡安全產(chǎn)業(yè)的行動計劃當中，進一步明確政府和公共企事業(yè)單位在網(wǎng)絡安全上的投入比例不低于10%。
挑戰(zhàn)：AI也可能引發(fā)系統(tǒng)性風險
盡管我國已經(jīng)躋身于世界人工智能的第一方陣，但是人工智能發(fā)展與安全方面，依然面臨嚴峻的風險。
全國政協(xié)社會和法制委員會副主任、公安部原副部長陳智敏指出，數(shù)字信息的過度采集和非法使用，可能侵犯公民的權利和隱私；算法的偏好可能加劇社會的偏見或歧視，威脅公平正義，數(shù)據(jù)非法跨境流通可能危害國家主權和國家安全，等等。
個人信息被竊取、盜賣，則可能引發(fā)更嚴重的刑事犯罪。他舉了一組數(shù)據(jù)，當前我國電信詐騙案件處在高發(fā)期，每年平均上升30%，有的地方已經(jīng)占了整個刑事案件的一半以上，超過傳統(tǒng)的盜竊案件。
“機器深度學習難以理解人性的道德，無人駕駛汽車緊急避險等智能決策可能威脅特定的人群生命。”他說。
上海市委網(wǎng)信辦總工程師楊海軍也指出，傳統(tǒng)以系統(tǒng)為中心正轉(zhuǎn)向以數(shù)據(jù)為中心的安全思路，也同時面臨著安全與業(yè)務相分離的局面。
“事實上人工智能應用當中帶來了很多風險，包括自身的算力、算法帶來的脆弱性，也包括人工智能在應用中的魯棒性、可解釋性、公平性問題。這些新技術在和原有業(yè)務相結合時，可能會給原業(yè)務或者系統(tǒng)帶來巨大的系統(tǒng)性風險?！睏詈＼娬f。
數(shù)字的新業(yè)態(tài)、新場景、新規(guī)則涌現(xiàn)，也為網(wǎng)絡安全的產(chǎn)業(yè)形態(tài)帶來了新的變革。裘薇談到，平臺方、應用方等不同的主體網(wǎng)絡安全的職責將被重新定義，例如隨著“系統(tǒng)上云”，“系統(tǒng)誰建設誰負責”的局面發(fā)生了改變，安全責任是平臺方還是系統(tǒng)建設方，其邊界怎么劃分等等，都需要對權責重新定義。
應對：上海“揭榜掛帥”激發(fā)企業(yè)攻關
裘薇透露，上海正在編制市網(wǎng)絡安全創(chuàng)新高地“三年行動計劃”，希望通過做強供給，創(chuàng)新應用和生態(tài)載體建設等多要素進行融合發(fā)力，為城市數(shù)字化轉(zhuǎn)型能夠構建堅實的安全產(chǎn)業(yè)底座。
一是圍繞做強供給。一方面突破關鍵技術以及基礎攻關，在下一代通信、數(shù)據(jù)、智能治理等前沿技術的領域，如可信計算、零信任等新型架構以及云計算、人工智能等融合技術加強研發(fā)創(chuàng)新。
二是聚焦應用技術的創(chuàng)新，進一步做強上海優(yōu)勢密碼產(chǎn)業(yè)的同時，強化隱私計算和數(shù)據(jù)安全的研發(fā)布局。
“原來網(wǎng)絡安全企業(yè)更多是提供網(wǎng)絡安全產(chǎn)品，現(xiàn)在隨著整個數(shù)字化全面提升，網(wǎng)絡安全可能覆蓋到整個企業(yè)的全生命周期，所以更需要它提供整體化網(wǎng)絡安全解決方案?！濒棉闭f，單打獨斗的網(wǎng)絡安全服務模式已經(jīng)難以滿足需求，上海正在考慮推動網(wǎng)絡安全的企業(yè)集成化服務。
甚至還考慮到加強網(wǎng)絡安全的保險創(chuàng)新能力。最近，上海已會同相關企業(yè)對網(wǎng)絡安全保險機制，以及和證監(jiān)會、銀保監(jiān)會等共同研究，希望培育新的網(wǎng)絡服務推廣模式。
上海正從關鍵技術突破，服務模式創(chuàng)新等方面著手，打造網(wǎng)絡安全產(chǎn)業(yè)創(chuàng)新的生態(tài)環(huán)境建設，扶植一批網(wǎng)絡安全人才與企業(yè)。
裘薇介紹，今年開始，上海推出年度網(wǎng)絡安全創(chuàng)新攻關目錄，征集在數(shù)據(jù)安全、人工智能安全、車聯(lián)網(wǎng)安全等新興領域當中，各類網(wǎng)絡安全創(chuàng)新應用成果，并通過應用場景的開放和揭榜掛帥等方式，解決行業(yè)中存在的痛點。
例如，在人工智能安全方面，主要考慮與合規(guī)行業(yè)數(shù)據(jù)的訓練集、隱私計算、數(shù)字技術產(chǎn)品來構建安全的基石，以關注度高的智能網(wǎng)聯(lián)汽車等一些關鍵場景推進智能網(wǎng)絡安全的防護體系。以金融、醫(yī)療等一些領域的智能產(chǎn)品服務的安全評估等級來引導廠商強化技術的保障能力。
“未來3年，上海力爭推動100個應用場景的開放，組織安全方面的企業(yè)揭榜掛帥，形成創(chuàng)新性、示范性網(wǎng)絡安全的最佳實踐的解決方案?！濒棉闭f。
