人工智能（AI）等前沿科技飛速發(fā)展，大模型越來越多地被使用在千行百業(yè)的不同場景之中。作為互聯(lián)網(wǎng)生態(tài)的基礎(chǔ)性支撐，互聯(lián)網(wǎng)安全需要面對新挑戰(zhàn)、解決新場景、滿足新需求。在第十二屆互聯(lián)網(wǎng)安全大會（ISC.AI 2024）上，多位行業(yè)專家表示，“安全+AI”的新生態(tài)成為了驅(qū)動產(chǎn)業(yè)發(fā)展的關(guān)鍵動力。
● 本報(bào)記者 王婧涵
AI科技“碰撞”多元場景
在第十二屆互聯(lián)網(wǎng)安全大會的現(xiàn)場，跳舞機(jī)器人、艾灸機(jī)器人、自動化妝機(jī)和各類AR游戲、智能辦公助手、汽車智能座艙都吸引了大量參觀者，無處不在的AI技術(shù)昭示著一個新時(shí)代的到來。
展廳中，正在計(jì)算機(jī)專業(yè)就讀研究生的郭同學(xué)向記者表示，他目前的研究方向和這兩年爆火的大模型密切相關(guān)，當(dāng)前越來越多的AI大模型技術(shù)被應(yīng)用到了工業(yè)生產(chǎn)、醫(yī)療服務(wù)、日常辦公、藝術(shù)創(chuàng)作等方方面面，未來也可能會更多深入民眾的工作生活，成為日常不可或缺的一部分。
隨著AI的使用場景愈發(fā)豐富，互聯(lián)網(wǎng)安全作為互聯(lián)網(wǎng)生態(tài)的基礎(chǔ)性支撐，在使用范圍和用戶需求上都有了新的變化。多位專家和行業(yè)人士表示，“安全+AI”的新生態(tài)帶來新場景，成為驅(qū)動互聯(lián)網(wǎng)安全產(chǎn)業(yè)發(fā)展的關(guān)鍵動力。
“安全+自動駕駛”就是其中極富代表性的“新生態(tài)”之一。
山石網(wǎng)科副總裁賈宇告訴記者，自動駕駛過程中感知系統(tǒng)、分析系統(tǒng)、決策系統(tǒng)協(xié)作運(yùn)行，都需要智能網(wǎng)聯(lián)技術(shù)的加持。如果未來主駕位無人的自動駕駛汽車進(jìn)入商業(yè)化推廣階段，出于對人身安全的保護(hù)，無人駕駛汽車的信息安全就會變得非常重要。他提到，在駕駛場景下，安全監(jiān)管需要同時(shí)滿足高性能和低延遲兩項(xiàng)要求，以平衡網(wǎng)絡(luò)安全和物理安全。因?yàn)檐浖舆t如果過高，車輛行駛中事故發(fā)生的概率也將提升。
360集團(tuán)創(chuàng)始人周鴻祎則表示，隨著汽車行業(yè)智能化的發(fā)展，汽車在出廠前不僅需要進(jìn)行物理世界的碰撞試驗(yàn)，同樣要在數(shù)字世界里要經(jīng)過“數(shù)字碰撞”，以保證沒有明顯的數(shù)字安全漏洞。除去車身安全，車廠安全也需要被重點(diǎn)關(guān)注。周鴻祎表示，攻擊車廠的難度比攻擊車身低很多，因?yàn)檐噺S網(wǎng)絡(luò)與普通辦公網(wǎng)絡(luò)差異不大，更容易出現(xiàn)漏洞。而如果車輛接入車聯(lián)網(wǎng)，車廠被“攔截”一樣會帶來嚴(yán)重后果。
應(yīng)對新挑戰(zhàn)
當(dāng)前，以生成式人工智能為代表的新一代數(shù)字技術(shù)逐漸成為引領(lǐng)科技創(chuàng)新、提高新質(zhì)生產(chǎn)力的關(guān)鍵力量，同時(shí)也帶來了社會倫理以及數(shù)據(jù)隱私泄露等挑戰(zhàn)。
公安部原副部長、國家網(wǎng)信辦原副主任陳智敏表示，確保數(shù)據(jù)安全是人工智能安全的基本保障，而構(gòu)建與新質(zhì)生產(chǎn)力相適應(yīng)的新型生產(chǎn)關(guān)系則是保障其可持續(xù)發(fā)展的當(dāng)務(wù)之急。應(yīng)健全關(guān)鍵核心技術(shù)攻關(guān)的體制機(jī)制，將政府、市場、社會有機(jī)地結(jié)合起來，健全要素參與、收入分配機(jī)制，激發(fā)各類經(jīng)營主體的創(chuàng)造活力。深化教育、科技、人才體制機(jī)制創(chuàng)新，暢通三者的良性循環(huán)。
賈宇表示，AI技術(shù)的發(fā)展對網(wǎng)絡(luò)安全行業(yè)帶來了巨大沖擊。新技術(shù)帶來新使用場景的同時(shí)，安全問題也自然隨之而來。例如，AI大模型從學(xué)習(xí)到輸出的過程中會需要和輸出海量數(shù)據(jù)，如何保證這些數(shù)據(jù)不會被污染，污染了以后如何處理，都是網(wǎng)絡(luò)安全行業(yè)需要考慮的問題。
中國工程院院士吳世忠從生成式人工智能安全研究的總體態(tài)勢和技術(shù)熱點(diǎn)角度對行業(yè)當(dāng)前發(fā)展趨勢進(jìn)行了分析。他表示，AI技術(shù)帶來的新型安全問題已成為現(xiàn)實(shí)，安全行業(yè)將迅速邁進(jìn)AI驅(qū)動的新時(shí)代。然而，目前對大模型安全的研究才剛剛開始，相較于技術(shù)發(fā)展，安全研究明顯滯后。
推動協(xié)同共治
中國科學(xué)院院士、清華大學(xué)計(jì)算機(jī)系教授張鈸提到，由于當(dāng)前計(jì)算機(jī)LLM基礎(chǔ)模型的局限性，AI和人工智能生成的語言與人類語言本身只是行為上的相似，內(nèi)在機(jī)制完全不同，因此雖然大模型擁有強(qiáng)大的語言生成、對話、遷移能力，但必然會出現(xiàn)“幻覺”——也就是質(zhì)量上的不可控和內(nèi)容上的不可信。因此在人工智能技術(shù)發(fā)展的同時(shí)，構(gòu)建可解釋的AI理論與方法極為重要。這也需要政府、企業(yè)等各方參與者能夠保持開放的態(tài)度協(xié)同共進(jìn)，在技術(shù)發(fā)展的過程中關(guān)注AI大模型和人工智能相關(guān)倫理規(guī)則，形成社會和全球范圍內(nèi)的共識。
陳智敏提到，在AI時(shí)代更應(yīng)堅(jiān)持科學(xué)向善的原則，這是人工智能發(fā)展過程中面對潛在威脅必須堅(jiān)持的道德倫理底線。針對個人信息被竊取盜賣引發(fā)犯罪、危害社會公共安全等問題，要建立健全數(shù)據(jù)確權(quán)、數(shù)據(jù)安全保障、算力安全審查等制度，為人工智能發(fā)展形成正確的價(jià)值導(dǎo)向和穩(wěn)定的社會預(yù)期提供有力的保障。
世界互聯(lián)網(wǎng)大會秘書長任賢良表示，人工智能迎來發(fā)展與治理協(xié)同共進(jìn)的新階段，在人工智能時(shí)代，確保網(wǎng)絡(luò)安全不僅是保障互聯(lián)網(wǎng)作為全國各行業(yè)紐帶的核心要素，更是實(shí)現(xiàn)人工智能為社會帶來福祉的基礎(chǔ)前提。應(yīng)該倡導(dǎo)遵守網(wǎng)絡(luò)空間國際規(guī)則，將防控網(wǎng)絡(luò)安全風(fēng)險(xiǎn)放在人工智能發(fā)展與治理的重要位置。此外，廣大數(shù)字安全企業(yè)應(yīng)以技術(shù)為本，深入研究人工智能等重點(diǎn)領(lǐng)域，構(gòu)建跨領(lǐng)域、多層次的數(shù)字安全技術(shù)產(chǎn)品和服務(wù)創(chuàng)新體系，同時(shí)注重開放合作，推動協(xié)同共治。
更多資訊或合作歡迎關(guān)注中國經(jīng)濟(jì)網(wǎng)官方微信（名稱：中國經(jīng)濟(jì)網(wǎng)，id：ourcecn）
