大灣區生成式人工智能安全發展聯合實驗室9月11日成立 六大網安技術創新成果發布　　生成式人工智能是引領新一代科技革命和產業革命的核心驅動力，是加快培育和發展新質生產力的重要引擎，為經濟高質量發展注入新動能。與此同時，人工智能技術也帶來了各類難以預知的風險和挑戰。在2024年國家網絡安全宣傳周舉辦期間，“大灣區生成式人工智能安全發展聯合實驗室”宣告成立，將進一步牽線搭橋，搭建粵港澳三地網絡安全產業的交流與合作平臺，推動“政產學研用”深度融合?！　?月11日上午，在2024年國家網絡安全宣傳周“粵港澳大灣區安全技術創新”座談會上，由廣東省委網信辦和國家互聯網應急中心廣東分中心聯合發起的大灣區生成式人工智能安全發展聯合實驗室宣布成立?！　≡搶嶒炇矣蓮V東省委網信辦和國家互聯網應急中心廣東分中心聯合發起，華為公司、騰訊公司、中山大學、廣州市委網信辦、深圳市委網信辦、東莞市委網信辦以及深圳河套發展署參與聯合建設。　　會上，國家互聯網應急中心廣東分中心黨委書記、主任（兼廣東省委網信辦副主任）應鴻暉介紹，聯合實驗室將建設六方面的能力：建設一套本地化生成式人工智能安全測評系統；形成一套屬地生成式人工智能安全發展標準；訓練一套大模型安全智能評測引擎；運行一套“平臺自動化+專家團隊復核”運營方式；研究一套“安全可信+量化評級”的服務行業框架；探索一套“共建共享+雙向賦能”的支撐監管新模式?！　　耙匀藶楸?，智能向善”　　據介紹，聯合實驗室由國家互聯網應急中心廣東分中心牽頭實體化運行，屬地網信等相關部門大力支持，充分發揮華為公司、騰訊公司在人工智能方面的核心引擎和輻射帶頭作用以及中山大學在安全可信、量化評級方面的深厚科研積累，由各方投入優勢資源，選派骨干，組成專家團隊，共同建設廣東省生成式人工智能安全發展評估體系，加快制定廣東省生成式人工智能安全發展標準，共同研究形成可量化的服務行業評級框架，共同促進人工智能“以人為本，智能向善”?！　∽剷希盎浘W安公益行”啟動?；顒硬扇【€上線下相結合的形式，為相關政府單位、企事業單位乃至全社會提供網絡安全評估、培訓等全方位支持與幫助。第一批公益服務項目包括網絡安全與數據保護專題培訓、網絡安全成熟度測評、工業企業網絡安全評估，以及勒索風險排查、威脅檢測及響應、7×24小時安全托管等服務。內地企業可通過“線上+線下”的方式參與，港澳單位可以線上參與。活動方將為企業提供量身定制的安全服務方案，攜手社會各界共筑網絡安全屏障?！　×蠹夹g創新 構筑網安防線　　1.數據跨境流動安全治理服務平臺　　2.深信服大模型賦能的下一代流量檢測響應　　3.競遠安全工業企業智能化安全服務平臺　　4.百度大模型內容安全平臺　　5.超融合安全服務平臺　　6.多維應用安全防護系統　　數字時代，網絡安全問題日益凸顯。粵港澳大灣區在數字經濟創新發展上走在前列，也肩負著構建網絡安全新防線的使命?！　〈髸F場集中發布了六大網絡安全技術創新成果，包括數據跨境流動安全治理服務平臺、深信服大模型賦能的下一代流量檢測響應等，全面展現大灣區網安技術創新實力?！　∑渲校蓢一ヂ摼W應急中心廣東分中心探索建設的“數據跨境流動安全治理服務平臺”，為促進大灣區企業安全、便利、合規開展數據出境業務，提供了智能的合規指引、專業的保障措施和一站式的服務解決方案，為數據跨境流動安全治理貢獻“廣東實踐”。　　深信服科技發布重塑流量檢測響應新標準的大模型賦能的下一代流量檢測響應產品，基于大模型技術實現虛擬“安全專家”能力，像人一樣直接理解攻擊，極大提升攻擊檢測精準率，改善過去“高檢出必然高誤報”的痛點；“競遠安全工業企業智能化安全服務平臺”使用AI驅動的云邊協同技術，面向工業企業提供安全檢測評估、安全運維、供應鏈安全管理等智能化安全服務，此次發布為全國首發?！　”姸鄤撔鲁晒拿媸?，將助力大灣區乃至全國提升網絡安全防護能力，為數字經濟發展提供更有力的安全保障?！　　按罂А闭摰馈　》铡皵祿缇沉鲃印薄　∧仙晨山ㄔO“數據保護區”　　圍繞網絡安全、數據安全、人工智能和工業安全等領域，座談會還邀請中國工程院院士、中國互聯網協會專家咨詢委員會主任鄔賀銓，香港網絡安全事故協調中心主管李子圖、澳門特別行政區政府司法警察局電腦法證處處長鐘錦良等專家，以及來自華為、騰訊、百度等公司的網絡安全行業領軍人物，共同探討大灣區網絡安全前沿技術與創新發展。　　其中，鄔賀銓以“AI時代的數據安全”為題作主題報告。他提出，人工智能自身有不安全性和“幻覺”，更可能被濫用，因此要用各種辦法提高AI的可行性，并從數字水印、數據采集、數據保護等維度展開分析?！　≡跀祿杉矫?，鄔賀銓指出，目前中國基本語料數據仍不夠，現在很多人工智能的訓練，當原始數據不夠時，會應用AI生成的數據。他以自動駕駛舉例稱，自動駕駛需要上百億公里的路測數據，相當于百輛汽車連續跑100年。出于成本考慮，業內一般會使用人工智能的方法，在基底訓練數據上基于大模型自動進行長尾場景的自我訓練?！巴耆緼I生成的數據會逐漸變形、出錯，乃至產生‘幻覺’。反復迭代使用AI生成的數據，相當于‘近親繁殖’，最后就失去了效果，所以我們要重視數據的原生性?！彼f?！　≡谌斯ぶ悄軙r代，面對AI換臉等帶來的風險，數字水印也重新被提起。鄔賀銓表示，圖像加上數字水印后，一般人看不出來，但是可以用特定的辦法提取水印。數字水印可以實現版權保護，識別AI換臉、換身等，實現深度防偽。　　在2024年國家網絡安全宣傳周期間，“數據跨境流動”成為關注焦點。鄔賀銓在發言中特別建議設立“數據保護區”。此外，在推動數據跨境流動的過程中，個人敏感信息要進行申報，并且采取脫敏技術?！　楹我ⅰ皵祿Ｗo區”？鄔賀銓解釋道，按照數據跨境流動的規律，即便在境內加工境外數據，也不允許插入境內的個人信息和重要數據；另一方面，境外數據放到境內來加工，外方也擔心其數據在加工過程中被泄露?！　　啊當祿Ｗo區’和境內公眾是物理隔離的，有境內、境外物理關防，像一般的貨物保稅區一樣。雖然這個數據保護區相當于境外數據的一個飛地，但是仍然受到省級網信部門的監管?！编w賀銓說，當前設立“數據保護區”的條件已經較為成熟——中國通信基礎設施先進，寬帶滲透率高，IT人才勇于攻關?！　　澳仙尘秃苓m合作為承接境外數據的清洗標注基地。”他說。