7月31日,，ISC.AI 2024數(shù)字安全峰會在北京召開,。峰會以“打造安全大模型,，引領安全行業(yè)革命”為主題,，呼吁行業(yè)以大模型重塑安全體系，守護數(shù)字經(jīng)濟穩(wěn)健發(fā)展,。大會匯聚了多位院士專家,，以及360、華為,、微軟等國內(nèi)外企業(yè)領袖,，深入剖析人工智能技術發(fā)展帶來的安全挑戰(zhàn)與解決方案，共同探索安全大模型驅動數(shù)字安全發(fā)展新路徑,。
人工智能安全問題不容忽視 亟需產(chǎn)研攜手共探新解法
人工智能技術的廣泛應用正推動著各行各業(yè)轉型升級,，同時為安全行業(yè)的發(fā)展注入了強勁動力。中國工程院院士吳世忠在主題演講中,，從生成式人工智能安全研究的總體態(tài)勢和技術熱點角度進行了深入分析,。他表示,，由AI技術帶來的新型安全問題已成為現(xiàn)實，安全行業(yè)將迅速邁進AI驅動的新時代,。然而,，大模型安全研究可以說剛剛開始。無論是安全研究還是安全產(chǎn)業(yè),，都必須緊跟科技進步和應用創(chuàng)新,，才能服務好發(fā)展，保障好發(fā)展,。
“當前,，AI應用系統(tǒng)安全責任與風險嚴重失衡”，中國工程院院士,、國家數(shù)字交換系統(tǒng)工程技術研究中心（NDSC）主任鄔江興在主題演講中強調了當前AI系統(tǒng)面臨的窘境,。他提出，基于內(nèi)生安全架構可發(fā)現(xiàn)或糾正AI應用系統(tǒng)安全問題,，AI應用系統(tǒng)中必須包含必要多樣性和相對正確公理的內(nèi)生安全構造,，在不可信的過程中找到相對可信的結果。智能時代需要選擇正確的技術路徑,，實現(xiàn)更安全的AI應用系統(tǒng)。
尋找“明星場景” 加速安全大模型實踐應用
隨著人工智能技術的飛速發(fā)展,，所有行業(yè)和產(chǎn)品都在被重塑,，安全行業(yè)同樣面臨著一場革命。360集團創(chuàng)始人,、ISC大會主席周鴻祎在《打造安全大模型,，引領安全行業(yè)革命》的主題演講中指出，用AI重塑安全的本質是讓安全做到“自動駕駛”,，360首推安全大模型,，對購買360標準產(chǎn)品的用戶免費提供大模型標準能力，實現(xiàn)大模型普惠和安全行業(yè)新質生產(chǎn)力變革,。
作為兼具數(shù)字安全能力和AI技術雙重優(yōu)勢的廠商,，360基于深厚的全棧大模型底層技術、世界上規(guī)模最大的安全知識庫,、亞洲最大的高級安全專家團隊和多領域全覆蓋強實戰(zhàn)的安全場景能力,，打造了國內(nèi)首個安全大模型“360安全大模型”，并在終端,、安全運營,、安全服務等諸多業(yè)務場景落地實踐。目前360全線安全產(chǎn)品已集成安全大模型能力,，并對所有購買360標準產(chǎn)品的用戶免費提供大模型標準能力,。
當前,，人工智能跨越式發(fā)展，技術創(chuàng)新加速迭代,，業(yè)界主流模型從千億稠密到萬億稀疏,，并逐步走向百萬級超長序列和多模態(tài)。華為副總裁,，ISP與互聯(lián)網(wǎng)系統(tǒng)部總裁岳坤在演講中表示,，如何在智能時代的早期保證相應的服務能力和服務水平，將是首批的智能應用面臨的核心挑戰(zhàn)之一,。他強調,，提升安全水平是保障智能化服務能力和服務水平的關鍵，而原生是人工智能時代最大的安全,。華為今年發(fā)布了昇騰原生計劃,，將投入專項資金，以技術+商業(yè)驅動生態(tài)繁榮,，為客戶打造更加匹配場景需求的方案,，加速AI模型的應用。
平衡AI治理與賦能 共話“安全+AI”融合發(fā)展新路徑
隨著生成式人工智能驅動AI發(fā)展進入新階段,，AI治理隨之也變成了一個突出問題,。先進計算與關鍵軟件（信創(chuàng)）海河實驗室主任、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克在演講中指出,，AI治理應遵循有利發(fā)展,、為人服務和基于倫理三點原則，要清楚認識到技術自身的不足,，以及人對于AI技術的惡用,、濫用、誤用等風險,。他強調,，防止AI“作惡”要建立明確的倫理標準、提高透明度和問責制,、完善法律法規(guī),、內(nèi)置安全機制等。此外,，要堅持開放創(chuàng)新,，在信創(chuàng)基礎上發(fā)展安全可控的AI生態(tài)。
隨后,，在由IDC中國副總裁鐘振山主持的“安全大模型引領數(shù)字安全新升級”圓桌對話上,，來自產(chǎn)業(yè)界各方的代表發(fā)表了各自的觀點。
一直以來,，ISC致力于搭建“政產(chǎn)學研用”的國際交流平臺,。ISC.AI 2024數(shù)字安全峰會上,，來自國內(nèi)外的專家學者和企業(yè)精英共同探討了安全與大模型技術融合的前沿議題，不僅為數(shù)字安全創(chuàng)新發(fā)展提供了寶貴的啟示,，更推動了數(shù)字安全技術的跨越式發(fā)展,，引領我們邁向一個更加智能、安全,、和諧的數(shù)字新時代,。