中新網(wǎng)深圳10月17日電(記者 左雨晴) 人臉識(shí)別數(shù)據(jù)遭泄露，自己的面部數(shù)據(jù)被非法用于AI換臉牟利；與AI虛擬伴侶聊天，私密對(duì)話、圖片視頻和交易記錄卻被暴露在公共網(wǎng)絡(luò)……

　　近年來，人工智能(AI)迅猛發(fā)展，在文字處理、數(shù)據(jù)分析、個(gè)性化服務(wù)等領(lǐng)域展現(xiàn)出卓越能力，AI Agent(智能體)應(yīng)用需求迅速增長(zhǎng)，極大便利和豐富人們生活。然而，AI的爆發(fā)式增長(zhǎng)離不開海量用戶數(shù)據(jù)的支持，這也讓用戶面臨更高的隱私泄露風(fēng)險(xiǎn)。

　　今年5月，國家網(wǎng)絡(luò)安全通報(bào)中心公布的35款存在違法違規(guī)收集使用個(gè)人信息情況的移動(dòng)應(yīng)用中，多款應(yīng)用涉及AI大模型。同月，該中心發(fā)布警告稱，AI繪圖工具ComfyUI存在多個(gè)高危漏洞，已有境外黑客組織利用ComfyUI漏洞對(duì)我國網(wǎng)絡(luò)資產(chǎn)實(shí)施網(wǎng)絡(luò)攻擊，伺機(jī)竊取重要敏感數(shù)據(jù)。

　　發(fā)展人工智能應(yīng)如何在合理利用數(shù)據(jù)的同時(shí)，確保數(shù)據(jù)的應(yīng)用合法、透明和安全，從而保障用戶的隱私安全？

　　10月15日，在2025 OPPO開發(fā)者大會(huì)——AI安全與隱私分論壇上，中國信息通信研究院泰爾終端實(shí)驗(yàn)室信息安全部副主任傅山表示，保護(hù)數(shù)據(jù)隱私安全需要智能終端、APP企業(yè)和用戶三方共同努力，建好“協(xié)作橋”。

　　對(duì)于端側(cè)，西安交通大學(xué)教授藺琛皓表示，AI技術(shù)發(fā)展讓對(duì)數(shù)據(jù)庫的攻擊變得更加多元化，這讓從端側(cè)進(jìn)行輕量化、全面化的防御變得更為困難。因此，企業(yè)在構(gòu)建數(shù)據(jù)安全防護(hù)體系時(shí)，需要從硬件、系統(tǒng)、開發(fā)框架、數(shù)據(jù)、模型等多個(gè)方面入手，甚至還需要采取交互式防御手段，才能保證整個(gè)鏈路式的數(shù)據(jù)安全。

　　OPPO、華中科技大學(xué)、螞蟻金服、火山引擎、阿里云、復(fù)旦大學(xué)、西安交通大學(xué)、南京郵電大學(xué)15日聯(lián)合發(fā)布的《移動(dòng)Agent安全技術(shù)白皮書》預(yù)測(cè)，移動(dòng)Agent安全架構(gòu)將經(jīng)歷從“外掛式”防護(hù)到“內(nèi)生式”安全的根本性轉(zhuǎn)變，通過硬件重構(gòu)、系統(tǒng)重構(gòu)和協(xié)議重構(gòu)，構(gòu)建更加安全、可靠的基礎(chǔ)技術(shù)底座。其中，端云協(xié)同的機(jī)密計(jì)算環(huán)境將成為移動(dòng)Agent安全的核心支撐，下一代移動(dòng)平臺(tái)或?qū)⒄溪?dú)立AI安全引擎，實(shí)現(xiàn)模型參數(shù)和用戶數(shù)據(jù)的“內(nèi)存加密-計(jì)算隔離-密鑰輪換”全流程保護(hù)。

　　白皮書指出，盡管移動(dòng)Agent安全技術(shù)前景廣闊，但仍面臨加密計(jì)算帶來的算力開銷可能影響用戶體驗(yàn)、多樣化的硬件平臺(tái)和操作系統(tǒng)導(dǎo)致安全方案難以標(biāo)準(zhǔn)化、自主決策能力可能引發(fā)不可預(yù)知的安全事件三大核心挑戰(zhàn)，Agent安全技術(shù)需要破現(xiàn)有封閉格局，通過標(biāo)準(zhǔn)共建、算力端云協(xié)同、安全中間件構(gòu)建為產(chǎn)學(xué)研用一體化形成開放協(xié)同的全網(wǎng)生態(tài)。

　　在監(jiān)管層面，近年來對(duì)個(gè)人信息保護(hù)的監(jiān)管不斷加強(qiáng)，相關(guān)部門通過專項(xiàng)整治、常態(tài)化檢查等方式，推動(dòng)企業(yè)的數(shù)據(jù)收集向最小、必要、透明、可控的方向加速轉(zhuǎn)變。然而，由于AI技術(shù)革新和落地的速度較快，因此監(jiān)管標(biāo)準(zhǔn)和政策的制定往往具有滯后性。

　　對(duì)此，藺琛皓表示，應(yīng)盡快擬定初步的標(biāo)準(zhǔn)及相關(guān)規(guī)定，并跟隨AI技術(shù)的迭代不斷修訂。

　　傅山也認(rèn)為，從標(biāo)準(zhǔn)制定角度看，由于AI變化發(fā)展迅速，且具有千人千面的特性，因此難以用單一標(biāo)準(zhǔn)管理所有場(chǎng)景。建議采用隱私分級(jí)的方式進(jìn)行逐級(jí)遞增的管理和規(guī)范。“為了更好落實(shí)標(biāo)準(zhǔn)并保障合規(guī)性，需要對(duì)AI使用的數(shù)據(jù)進(jìn)行分級(jí)處理，以便更好地適應(yīng)政策要求并創(chuàng)造更多的創(chuàng)新空間。”

　　傅山強(qiáng)調(diào)，用戶在嘗試新功能、新應(yīng)用時(shí)應(yīng)仔細(xì)審查權(quán)限請(qǐng)求，謹(jǐn)慎授予訪問通訊錄、位置信息、相冊(cè)、麥克風(fēng)等敏感數(shù)據(jù)權(quán)限，并經(jīng)常性檢查敏感數(shù)據(jù)的使用情況。“只有三方共同實(shí)現(xiàn)事前預(yù)防、事中把控、事后檢查，才能更好實(shí)現(xiàn)AI功能的安全使用。”(完)