5月18日，2024第十二屆西湖論劍·數(shù)字安全大會（以下簡稱“數(shù)字安全大會”）在杭州舉辦。數(shù)字安全大會至今已舉辦12年，也伴隨著杭州城市數(shù)字化發(fā)展和數(shù)字技術(shù)變革迭代更新。
杭州把數(shù)字經(jīng)濟作為鮮明標識，也正在實施數(shù)字經(jīng)濟創(chuàng)新提質(zhì)“一號發(fā)展工程”，爭創(chuàng)國家人工智能創(chuàng)新高地。網(wǎng)絡(luò)安全、數(shù)據(jù)安全是城市發(fā)展不可或缺的重要保障，如何在創(chuàng)新與安全之間尋求平衡？
在今年的數(shù)字安全大會上，21世紀經(jīng)濟報道記者觀察到，人工智能成為重要的討論話題及背景，數(shù)據(jù)安全、數(shù)據(jù)要素發(fā)展的技術(shù)、社會實踐也引發(fā)新思考。
在當下的數(shù)字化時代，人工智能的迅猛發(fā)展不僅為各行各業(yè)帶來了巨大的創(chuàng)新與便利，也引發(fā)了一系列前所未有的安全挑戰(zhàn)。隨著AI技術(shù)的廣泛應(yīng)用，數(shù)據(jù)泄露、深度偽造等新型安全風(fēng)險日益凸顯。
中國工程院院士鄔江興在接受21世紀經(jīng)濟報道記者采訪時表示，目前學(xué)界對人工智能的數(shù)學(xué)、物理性質(zhì)仍然不能作出解釋，這是它基本原理上的缺陷，因此人工智能一定會存在風(fēng)險，最好的方式是用多個系統(tǒng)進行交叉驗證，“例如國內(nèi)現(xiàn)在‘百模大戰(zhàn)’，使用者可以用多個大模型進行交叉檢驗。”
在鄔江興的演講中，他也提出傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性日益凸顯，急需數(shù)字生態(tài)系統(tǒng)底層驅(qū)動范式轉(zhuǎn)型，以內(nèi)生安全賦能的網(wǎng)絡(luò)彈性設(shè)計，能從根本上跳出經(jīng)典網(wǎng)絡(luò)安全理論與方法無法應(yīng)對的不確定安全問題威脅。
應(yīng)對數(shù)據(jù)安全不確定性
數(shù)據(jù)安全與網(wǎng)絡(luò)安全密不可分。隨著人工智能技術(shù)的快速發(fā)展，尤其是大模型和生成式AI的興起，數(shù)據(jù)安全問題日益凸顯。同時，人工智能的廣泛應(yīng)用也帶來了新的安全挑戰(zhàn)，如思維漏洞的利用和惡意攻擊等。
當下的網(wǎng)絡(luò)安全威脅正在從信息擴大到數(shù)據(jù)加物理域、認知域。在數(shù)字經(jīng)濟時代，社會的數(shù)字化轉(zhuǎn)型也面臨著極大的系統(tǒng)性風(fēng)險。
鄔江興認為當下網(wǎng)絡(luò)安全問題是多重的，“我將它稱之為廣義的功能安全問題，特點是物理失效的隨機性、軟件失效的不確定性、網(wǎng)絡(luò)攻擊的人為性以及受制于執(zhí)行環(huán)境的缺位，包括AI的內(nèi)生安全個性問題，出現(xiàn)了交織問題。”
中國工程院院士吳世忠在演講中也表示，在人工智能時代，安全問題呈現(xiàn)出了前所未有的復(fù)雜性。它不僅涵蓋了傳統(tǒng)的Security安全，即信息安全，還包含了Safety安全，即系統(tǒng)運行的穩(wěn)定性和可靠性以及倫理安全，即技術(shù)應(yīng)用必須符合道德倫理標準，這三者交織融合，形成了全新的安全圖景。
2022年以來，歐美國家較早地出臺多項戰(zhàn)略、法案和法規(guī)，推動網(wǎng)絡(luò)安全、數(shù)據(jù)安全責(zé)任“左移”，也就是將網(wǎng)絡(luò)安全問題前置處理，認為數(shù)字產(chǎn)品的制造者、數(shù)字應(yīng)用的開發(fā)者應(yīng)當承擔更大的安全責(zé)任。
例如，2023年12月，歐盟就《網(wǎng)絡(luò)彈性法案》在技術(shù)和政治層面達成一致，該法案一旦生效，屆時進入歐盟市場的數(shù)字產(chǎn)品須確認滿足歐盟網(wǎng)絡(luò)安全標準。
隨著中國企業(yè)的全球化發(fā)展，跨境數(shù)據(jù)流動以及數(shù)字產(chǎn)品的網(wǎng)絡(luò)安全標準問題成為必答題。
鄔江興認為，人類社會正在進入以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟時代，需要建立一種可防御且富有彈性和韌性的數(shù)字生態(tài)系統(tǒng)，使其更容易形成內(nèi)在防御能力，能讓攻擊方付出比防御方更高的代價，實現(xiàn)防御優(yōu)勢的轉(zhuǎn)變，從而能始終挫敗數(shù)字生態(tài)系統(tǒng)面臨的種種威脅，筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。
具體來說，需將數(shù)字產(chǎn)品安全置于產(chǎn)品全生命周期，從一開始就考慮產(chǎn)品的安全，要安全地設(shè)計，“從附加安全到設(shè)計安全，將網(wǎng)絡(luò)安全融入到數(shù)字產(chǎn)品的設(shè)計與制造中。”鄔江興說。
吳世忠也表示，構(gòu)建一個安全、堅韌、可信的人工智能發(fā)展生態(tài)至關(guān)重要，“這要求我們必須在推動技術(shù)發(fā)展的同時，充分考慮到安全保障，實現(xiàn)發(fā)展與安全的統(tǒng)籌兼顧。”
教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任委員、杭州市人工智能協(xié)會副理事長 、俄羅斯國家工程院外籍院士胡瑞敏在接受記者采訪時表示，在平衡人工智能與安全方面，數(shù)字經(jīng)濟發(fā)展離不開數(shù)據(jù)要素的安全流通，“現(xiàn)在新的隱私保護技術(shù)發(fā)展得非?？欤绾卧谛碌募夹g(shù)支持下在數(shù)據(jù)要素流通中構(gòu)建一套安全運行的機制，這個非常重要。”
浙江大學(xué)計算機科學(xué)與技術(shù)學(xué)院副教授金小剛在接受記者提問時表示，人工智能最大的特點是交互能力的提升，把原來積累的一些數(shù)據(jù)和能力通過交互釋放出來，但技術(shù)在使用之前并不能預(yù)知哪些壞的因素會被釋放出來，“首先技術(shù)的設(shè)計者要有良知，其次技術(shù)運用過程中要時刻警惕，政府、社會要有一些良好的機制來保證糾偏。”
底線之上強化創(chuàng)新思維
不少與會專家在接受21世紀經(jīng)濟報道記者采訪時都提出，創(chuàng)新和監(jiān)管要齊頭并進，數(shù)字經(jīng)濟發(fā)展在安全基礎(chǔ)上一定要創(chuàng)新，尤其要抓住人工智能發(fā)展機遇。
吳世忠認為，從數(shù)據(jù)孕育新動能的意義來講，由算力、模型、數(shù)據(jù)、應(yīng)用共同成就的人工智能是真正的新質(zhì)生產(chǎn)力。
國家行政學(xué)院電子政務(wù)專家委員會原副主任、全國數(shù)字經(jīng)濟聯(lián)盟學(xué)術(shù)委員汪玉凱在主題演講中也提出，數(shù)字經(jīng)濟在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義。數(shù)字經(jīng)濟有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個領(lǐng)域。
汪玉凱認為，新質(zhì)生產(chǎn)力發(fā)展的重要目標就是要擺脫傳統(tǒng)的經(jīng)濟增長方式，不是淘汰傳統(tǒng)的生產(chǎn)方式，而是要使它高端化、智能化、綠色化，“全球的數(shù)智化浪潮、新質(zhì)生產(chǎn)力的發(fā)展目標以及高質(zhì)量發(fā)展的戰(zhàn)略定位，這三大因素將是中國數(shù)字經(jīng)濟實現(xiàn)新發(fā)展的黃金期。”
針對網(wǎng)絡(luò)安全和數(shù)據(jù)安全問題，汪玉凱提出一些解決思路，一是完善數(shù)據(jù)安全的相關(guān)法律，把數(shù)據(jù)安全全部納入法制框架下，二是提升核心數(shù)字技術(shù)能力和網(wǎng)絡(luò)安全監(jiān)管能力，為數(shù)字經(jīng)濟保駕護航，三是特別要關(guān)注跨境數(shù)據(jù)流通交易中的數(shù)據(jù)安全，包括個人數(shù)據(jù)大量被泄露。
“尤其還應(yīng)特別關(guān)注數(shù)據(jù)和信息保護，才能讓數(shù)字經(jīng)濟真正騰飛成為推動社會進步的新質(zhì)生產(chǎn)力。”汪玉凱說。
此外，不少參會嘉賓還提及數(shù)字經(jīng)濟發(fā)展中市場的作用。數(shù)字經(jīng)濟發(fā)展最主要的主體是企業(yè)，而民營企業(yè)在數(shù)字經(jīng)濟發(fā)展中又扮演關(guān)鍵角色。
“我認為未來在數(shù)字經(jīng)濟發(fā)展中仍然要打好民營經(jīng)濟這張牌，國有、民營企業(yè)一起上，要給民營企業(yè)創(chuàng)造更多的空間，提供更多助力政策。”汪玉凱說。
安恒信息董事長范淵在演講中明確表示，當供得出、流得動、用得好的數(shù)據(jù)，遇上人工智能大模型與智能體，傳統(tǒng)安全天花板已經(jīng)消失，安全底座和工作協(xié)同關(guān)系也在被重塑。
“我們也在思考人工智能安全大模型究竟給這個行業(yè)帶來什么？整個跨代的理解能力、邏輯推演能力、泛化能力正在對這個行業(yè)帶來巨變。”范淵表示。
去年8月，財政部對外發(fā)布《企業(yè)數(shù)據(jù)資源相關(guān)會計處理暫行規(guī)定》，明確數(shù)據(jù)資源的確認范圍和會計處理適用準則等，將于2024年1月1日起施行。
在數(shù)字安全大會上，《企業(yè)數(shù)據(jù)資源入表實踐白皮書》正式發(fā)布，該白皮書由杭州安恒信息技術(shù)股份有限公司、杭州數(shù)據(jù)交易所有限公司、中國軟件評測中心(工業(yè)和信息化部軟件與集成電路促進中心)等單位參與編制而成。
安恒信息CTO劉博在接受記者采訪時表示，數(shù)據(jù)資產(chǎn)入表是一個開始，未來將為數(shù)據(jù)要素流通服務(wù)，也將進一步開展數(shù)據(jù)交易，用數(shù)據(jù)賦能醫(yī)療、教育、商業(yè)等各行各業(yè)，也就是新質(zhì)生產(chǎn)力。
在劉博看來，當前數(shù)據(jù)資源盤點階段倒逼企業(yè)梳理自身數(shù)據(jù)管理的盲區(qū)，把數(shù)據(jù)安全問題做好，在數(shù)據(jù)要素流動方面企業(yè)也需要把安全作為一個前提，用好隱私計算、加密技術(shù)，“在數(shù)據(jù)資產(chǎn)入表過程中，數(shù)據(jù)安全不再只是保護的角色，而是把價值釋放到最大。”