鄔賀銓 中國工程院院士、中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會主任
生成式人工智能是引領新一代科技革命和產(chǎn)業(yè)革命的核心驅(qū)動力，是加快培育和發(fā)展新質(zhì)生產(chǎn)力的重要引擎，為經(jīng)濟高質(zhì)量發(fā)展注入新動能。與此同時，人工智能技術也帶來了各類難以預知的風險和挑戰(zhàn)。在2024年國家網(wǎng)絡安全宣傳周舉辦期間，“大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室”宣告成立，將進一步牽線搭橋，搭建粵港澳三地網(wǎng)絡安全產(chǎn)業(yè)的交流與合作平臺，推動“政產(chǎn)學研用”深度融合。
文/廣州日報全媒體記者張姝泓
圖/廣州日報全媒體記者莫偉濃、楊耀燁、吳子良
9月11日上午，在2024年國家網(wǎng)絡安全宣傳周“粵港澳大灣區(qū)安全技術創(chuàng)新”座談會上，由廣東省委網(wǎng)信辦和國家互聯(lián)網(wǎng)應急中心廣東分中心聯(lián)合發(fā)起的大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室宣布成立。
該實驗室由廣東省委網(wǎng)信辦和國家互聯(lián)網(wǎng)應急中心廣東分中心聯(lián)合發(fā)起，華為公司、騰訊公司、中山大學、廣州市委網(wǎng)信辦、深圳市委網(wǎng)信辦、東莞市委網(wǎng)信辦以及深圳河套發(fā)展署參與聯(lián)合建設。
會上，國家互聯(lián)網(wǎng)應急中心廣東分中心黨委書記、主任（兼廣東省委網(wǎng)信辦副主任）應鴻暉介紹，聯(lián)合實驗室將建設六方面的能力：建設一套本地化生成式人工智能安全測評系統(tǒng)；形成一套屬地生成式人工智能安全發(fā)展標準；訓練一套大模型安全智能評測引擎；運行一套“平臺自動化+專家團隊復核”運營方式；研究一套“安全可信+量化評級”的服務行業(yè)框架；探索一套“共建共享+雙向賦能”的支撐監(jiān)管新模式。
“以人為本，智能向善”
據(jù)介紹，聯(lián)合實驗室由國家互聯(lián)網(wǎng)應急中心廣東分中心牽頭實體化運行，屬地網(wǎng)信等相關部門大力支持，充分發(fā)揮華為公司、騰訊公司在人工智能方面的核心引擎和輻射帶頭作用以及中山大學在安全可信、量化評級方面的深厚科研積累，由各方投入優(yōu)勢資源，選派骨干，組成專家團隊，共同建設廣東省生成式人工智能安全發(fā)展評估體系，加快制定廣東省生成式人工智能安全發(fā)展標準，共同研究形成可量化的服務行業(yè)評級框架，共同促進人工智能“以人為本，智能向善”。
座談會上，“粵網(wǎng)安公益行”啟動?；顒硬扇【€上線下相結(jié)合的形式，為相關政府單位、企事業(yè)單位乃至全社會提供網(wǎng)絡安全評估、培訓等全方位支持與幫助。第一批公益服務項目包括網(wǎng)絡安全與數(shù)據(jù)保護專題培訓、網(wǎng)絡安全成熟度測評、工業(yè)企業(yè)網(wǎng)絡安全評估，以及勒索風險排查、威脅檢測及響應、7×24小時安全托管等服務。內(nèi)地企業(yè)可通過“線上+線下”的方式參與，港澳單位可以線上參與?；顒臃綄槠髽I(yè)提供量身定制的安全服務方案，攜手社會各界共筑網(wǎng)絡安全屏障。
六大技術創(chuàng)新 構(gòu)筑網(wǎng)安防線
1.數(shù)據(jù)跨境流動安全治理服務平臺
2.深信服大模型賦能的下一代流量檢測響應
3.競遠安全工業(yè)企業(yè)智能化安全服務平臺
4.百度大模型內(nèi)容安全平臺
5.超融合安全服務平臺
6.多維應用安全防護系統(tǒng)
數(shù)字時代，網(wǎng)絡安全問題日益凸顯?；浉郯拇鬄硡^(qū)在數(shù)字經(jīng)濟創(chuàng)新發(fā)展上走在前列，也肩負著構(gòu)建網(wǎng)絡安全新防線的使命。
大會現(xiàn)場集中發(fā)布了六大網(wǎng)絡安全技術創(chuàng)新成果，包括數(shù)據(jù)跨境流動安全治理服務平臺、深信服大模型賦能的下一代流量檢測響應等，全面展現(xiàn)大灣區(qū)網(wǎng)安技術創(chuàng)新實力。
其中，由國家互聯(lián)網(wǎng)應急中心廣東分中心探索建設的“數(shù)據(jù)跨境流動安全治理服務平臺”，為促進大灣區(qū)企業(yè)安全、便利、合規(guī)開展數(shù)據(jù)出境業(yè)務，提供了智能的合規(guī)指引、專業(yè)的保障措施和一站式的服務解決方案，為數(shù)據(jù)跨境流動安全治理貢獻“廣東實踐”。
深信服科技發(fā)布重塑流量檢測響應新標準的大模型賦能的下一代流量檢測響應產(chǎn)品，基于大模型技術實現(xiàn)虛擬“安全專家”能力，像人一樣直接理解攻擊，極大提升攻擊檢測精準率，改善過去“高檢出必然高誤報”的痛點；“競遠安全工業(yè)企業(yè)智能化安全服務平臺”使用AI驅(qū)動的云邊協(xié)同技術，面向工業(yè)企業(yè)提供安全檢測評估、安全運維、供應鏈安全管理等智能化安全服務，此次發(fā)布為全國首發(fā)。
眾多創(chuàng)新成果的面世，將助力大灣區(qū)乃至全國提升網(wǎng)絡安全防護能力，為數(shù)字經(jīng)濟發(fā)展提供更有力的安全保障。
“大咖”論道
服務“數(shù)據(jù)跨境流動”
南沙可建設“數(shù)據(jù)保護區(qū)”
圍繞網(wǎng)絡安全、數(shù)據(jù)安全、人工智能和工業(yè)安全等領域，座談會還邀請中國工程院院士、中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會主任鄔賀銓，香港網(wǎng)絡安全事故協(xié)調(diào)中心主管李子圖、澳門特別行政區(qū)政府司法警察局電腦法證處處長鐘錦良等專家，以及來自華為、騰訊、百度等公司的網(wǎng)絡安全行業(yè)領軍人物，共同探討大灣區(qū)網(wǎng)絡安全前沿技術與創(chuàng)新發(fā)展。
其中，鄔賀銓以“AI時代的數(shù)據(jù)安全”為題作主題報告。他提出，人工智能自身有不安全性和“幻覺”，更可能被濫用，因此要用各種辦法提高AI的可行性，并從數(shù)字水印、數(shù)據(jù)采集、數(shù)據(jù)保護等維度展開分析。
在數(shù)據(jù)采集方面，鄔賀銓指出，目前中國基本語料數(shù)據(jù)仍不夠，現(xiàn)在很多人工智能的訓練，當原始數(shù)據(jù)不夠時，會應用AI生成的數(shù)據(jù)。他以自動駕駛舉例稱，自動駕駛需要上百億公里的路測數(shù)據(jù)，相當于百輛汽車連續(xù)跑100年。出于成本考慮，業(yè)內(nèi)一般會使用人工智能的方法，在基底訓練數(shù)據(jù)上基于大模型自動進行長尾場景的自我訓練。“完全靠AI生成的數(shù)據(jù)會逐漸變形、出錯，乃至產(chǎn)生‘幻覺’。反復迭代使用AI生成的數(shù)據(jù)，相當于‘近親繁殖’，最后就失去了效果，所以我們要重視數(shù)據(jù)的原生性?！彼f。
在人工智能時代，面對AI換臉等帶來的風險，數(shù)字水印也重新被提起。鄔賀銓表示，圖像加上數(shù)字水印后，一般人看不出來，但是可以用特定的辦法提取水印。數(shù)字水印可以實現(xiàn)版權保護，識別AI換臉、換身等，實現(xiàn)深度防偽。
在2024年國家網(wǎng)絡安全宣傳周期間，“數(shù)據(jù)跨境流動”成為關注焦點。鄔賀銓在發(fā)言中特別建議設立“數(shù)據(jù)保護區(qū)”。此外，在推動數(shù)據(jù)跨境流動的過程中，個人敏感信息要進行申報，并且采取脫敏技術。
為何要建立“數(shù)據(jù)保護區(qū)”？鄔賀銓解釋道，按照數(shù)據(jù)跨境流動的規(guī)律，即便在境內(nèi)加工境外數(shù)據(jù)，也不允許插入境內(nèi)的個人信息和重要數(shù)據(jù)；另一方面，境外數(shù)據(jù)放到境內(nèi)來加工，外方也擔心其數(shù)據(jù)在加工過程中被泄露。
“‘數(shù)據(jù)保護區(qū)’和境內(nèi)公眾是物理隔離的，有境內(nèi)、境外物理關防，像一般的貨物保稅區(qū)一樣。雖然這個數(shù)據(jù)保護區(qū)相當于境外數(shù)據(jù)的一個飛地，但是仍然受到省級網(wǎng)信部門的監(jiān)管?！编w賀銓說，當前設立“數(shù)據(jù)保護區(qū)”的條件已經(jīng)較為成熟——中國通信基礎設施先進，寬帶滲透率高，IT人才勇于攻關。
“南沙就很適合作為承接境外數(shù)據(jù)的清洗標注基地?！彼f。
(編輯： 廣州網(wǎng) 龍煜)
