AI技術(shù)浪潮下的安全挑戰(zhàn),高效與安全如何同存?
一夜爆紅、遙遙領(lǐng)先、深度思考、MOSS在世!這些詞匯都不足以形容DeepSeek的熱度。2025年1月以來,國產(chǎn)人工智能大模型DeepSeek憑借其開源特性和深度思考服務(wù),迅速占領(lǐng)市場(chǎng),用戶量激增,導(dǎo)致DeepSeek服務(wù)器時(shí)長宕機(jī),相信大家都見到過“服務(wù)器繁忙,請(qǐng)稍后再試”這一熟悉的場(chǎng)景。
然而,其爆火背后卻成為網(wǎng)絡(luò)犯罪分子的新目標(biāo)。近日國家計(jì)算機(jī)病毒應(yīng)急處理中心近期捕獲的仿冒DeepSeek安卓客戶端木馬病毒,通過誘導(dǎo)用戶安裝“更新包”竊取銀行信息、攔截短信,甚至阻止卸載,直接威脅用戶財(cái)產(chǎn)與隱私。
▲誘導(dǎo)用戶權(quán)限的假冒”DeepSeek“(圖片源自網(wǎng)絡(luò))
類似案例并非孤例:AI生成的虛假視頻被用于詐騙、偽造新聞擾亂社會(huì)秩序等事件頻發(fā),例如四川網(wǎng)警查處的10起AI編造謠言案件中,不法分子利用“AI千文”“翠綠筆墨”等工具批量生成虛假信息,造成惡劣社會(huì)影響。
這些事件揭示了一個(gè)核心矛盾:AI技術(shù)提升效率的同時(shí),其濫用風(fēng)險(xiǎn)正以前所未有的速度侵蝕數(shù)字信任。
-01- 效率與安全的天平:AI時(shí)代的雙重需求
效率驅(qū)動(dòng)的AI應(yīng)用場(chǎng)景
▲圖片源自網(wǎng)絡(luò)
然而,這種效率導(dǎo)向的擴(kuò)張往往伴隨安全投入的滯后。例如,Wiz安全團(tuán)隊(duì)發(fā)現(xiàn)DeepSeek的數(shù)據(jù)庫曾因配置錯(cuò)誤暴露用戶聊天記錄與密鑰,一個(gè)屬于DeepSeek的可公開訪問的ClickHouse數(shù)據(jù)庫,它暴露了高度敏感的信息,包括用戶的聊天記錄、密鑰和敏感的內(nèi)部信息,以及超過一百萬行的日志流,并允許完全控制數(shù)據(jù)庫操作。此案例凸顯了技術(shù)迭代中安全管理的重要性。
安全漏洞的巨大代價(jià)
據(jù)報(bào)道,仿冒DeepSeek的木馬程序通過偽裝官方圖標(biāo)、混入搜索引擎推薦頁等方式傳播,普通用戶難以辨別。網(wǎng)絡(luò)安全專家指出,此類病毒一旦安裝,可在后臺(tái)快速竊取銀行賬戶信息,且無法卸載,用戶只能通過重置設(shè)備或?qū)I(yè)修復(fù)解決。更嚴(yán)峻的是,攻擊者可能將惡意代碼與真實(shí)功能捆綁,使仿冒程序更具迷惑性。
專家表示,攻擊者利用技術(shù)以極低的成本讓仿冒DeepSeek程序出現(xiàn)在搜索引擎推薦頁中,每天都能監(jiān)測(cè)到大量帶有DeepSeek字樣的仿冒網(wǎng)址,極具迷惑性,普通用戶稍不注意很容易中招。此外,仿冒病毒也會(huì)混入一些小眾應(yīng)用市場(chǎng)。
-02- 新的發(fā)展前景與挑戰(zhàn)
作為數(shù)字經(jīng)濟(jì)的重要組成部分,AI技術(shù)的發(fā)展前景毋庸置疑,但多年來,AI也一直被視為一把“雙刃劍”。如對(duì)于大數(shù)據(jù)與算力的強(qiáng)依賴將限制其快速發(fā)展,超預(yù)期的新應(yīng)用新模式正引發(fā)市場(chǎng)擔(dān)憂,以及可能帶來的網(wǎng)絡(luò)安全、合規(guī)、知識(shí)產(chǎn)權(quán)等風(fēng)險(xiǎn)也將給數(shù)字治理帶來新的挑戰(zhàn)。
網(wǎng)絡(luò)攻擊
人工智能可用來自動(dòng)鎖定目標(biāo),也可自動(dòng)識(shí)別圖像驗(yàn)證碼進(jìn)而通過系統(tǒng)的審核認(rèn)證,而一旦AI智能讓驗(yàn)證防護(hù)的手段失效,則可能導(dǎo)致系統(tǒng)數(shù)據(jù)泄露和遭受網(wǎng)絡(luò)攻擊。
網(wǎng)絡(luò)釣魚
利用ChatGPT等AI技術(shù)生成的釣魚郵件不會(huì)有任何拼寫錯(cuò)誤或奇怪的格式,而這些通常是區(qū)分釣魚與合法郵件的關(guān)鍵。攻擊者可以借助AI創(chuàng)造多種釣魚郵件,使其可能成為強(qiáng)大的網(wǎng)絡(luò)釣魚工具,尤其對(duì)英語不流利的攻擊者特別有用。
數(shù)據(jù)投毒
“投毒”是指在人工AI智能訓(xùn)練數(shù)據(jù)中加入偽裝數(shù)據(jù)、惡意樣本等,可導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。主要有兩種攻擊方式:一種是采用模型偏斜方式,攻擊訓(xùn)練數(shù)據(jù)樣本。另一種則采用反饋誤導(dǎo)方式,攻擊人工智能的學(xué)習(xí)模型本身。隱私泄露
相對(duì)于互聯(lián)網(wǎng)對(duì)上網(wǎng)習(xí)慣、消費(fèi)記錄等信息的采集,人工智能應(yīng)用采集的信息包括了人臉、指紋、聲紋、虹膜、心跳、基因等,具有很強(qiáng)的個(gè)人屬性,一旦泄露或者濫用將產(chǎn)生嚴(yán)重后果。
網(wǎng)絡(luò)安全是當(dāng)今全球企業(yè)面臨的戰(zhàn)略挑戰(zhàn),在AI快速發(fā)展和全行業(yè)數(shù)字化的當(dāng)下,網(wǎng)絡(luò)攻擊面也在不斷擴(kuò)大。在人工智能技術(shù)應(yīng)用層面,企業(yè)需要考慮的主要風(fēng)險(xiǎn)包括隱私、對(duì)抗性網(wǎng)絡(luò)安全和第三方風(fēng)險(xiǎn)。
-03- SSL證書,構(gòu)建可信數(shù)字身份基石
作為依法設(shè)立的電子認(rèn)證服務(wù)機(jī)構(gòu)與數(shù)字信任云服務(wù)商,天威誠信長期為企業(yè)提供全球可信的全類型SSL證書。以DeepSeek仿冒事件為例,SSL證書可從以下層面提供防護(hù):
驗(yàn)證官方身份,阻斷仿冒入口
仿冒程序常通過虛假網(wǎng)站或非官方鏈接傳播。SSL證書通過HTTPS協(xié)議與綠色鎖標(biāo)識(shí),確保用戶訪問的是經(jīng)CA機(jī)構(gòu)嚴(yán)格驗(yàn)證的DeepSeek官方網(wǎng)站而非釣魚頁面(www.deepseek.com)。例如,DeepSeek官方多次聲明僅通過官網(wǎng)與應(yīng)用商店分發(fā)正版程序,SSL證書正是這一聲明的技術(shù)背書 。
加密數(shù)據(jù)傳輸,防止中間人攻擊
木馬病毒常通過劫持通信竊取敏感信息。SSL證書采用TLS加密協(xié)議,確保用戶與服務(wù)器間的數(shù)據(jù)傳輸(如賬號(hào)密碼、驗(yàn)證碼)全程加密,即使被截獲也無法解密。例如,仿冒DeepSeek病毒依賴獲取短信驗(yàn)證碼實(shí)施詐騙,而SSL加密可有效阻斷此類攻擊鏈。
提升企業(yè)安全治理能力
針對(duì)自托管AI模型的數(shù)據(jù)泄露風(fēng)險(xiǎn)(如Wiz報(bào)告中提到的DeepLeak數(shù)據(jù)庫暴露),企業(yè)可通過部署SSL證書保護(hù)API接口與內(nèi)部通信,防止敏感數(shù)據(jù)在傳輸過程中被竊取。同時(shí),擴(kuò)展驗(yàn)證型證書(EV SSL)可展示企業(yè)實(shí)名信息,增強(qiáng)用戶對(duì)AI服務(wù)提供方的信任。
網(wǎng)絡(luò)安全是當(dāng)今全球企業(yè)面臨的戰(zhàn)略挑戰(zhàn),在AI快速發(fā)展和全行業(yè)數(shù)字化的當(dāng)下,網(wǎng)絡(luò)攻擊面也在不斷擴(kuò)大。在人工智能技術(shù)應(yīng)用層面,企業(yè)需要考慮的主要風(fēng)險(xiǎn)包括隱私、對(duì)抗性網(wǎng)絡(luò)安全和第三方風(fēng)險(xiǎn)。
▼
*本文中部分圖片均來源于網(wǎng)絡(luò),如涉及版權(quán)問題可聯(lián)系刪除。
最新發(fā)布
- 數(shù)智鏈接世界 天威誠信邀您共赴2025CIFTIS北京服貿(mào)會(huì)
- 以價(jià)值為導(dǎo)向 | 天威誠信入榜《中國數(shù)字安全價(jià)值圖譜》
- 天威參會(huì) | TCOSCA標(biāo)準(zhǔn)編制討論暨半年工作會(huì)議在京順利召開
- 連續(xù)上榜 | 天威誠信五度入選《中國網(wǎng)絡(luò)安全市場(chǎng)全景圖》
- 天威誠信獲頒工信部2024網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例牌匾
- 直播回放 | DigiCert:Web PKI、PQC 與企業(yè)數(shù)字信任新標(biāo)準(zhǔn)研討會(huì)
- 政務(wù)數(shù)據(jù)共享?xiàng)l例今日施行!國密SSL賦能數(shù)字建設(shè)劃重點(diǎn)
- 數(shù)字信任護(hù)航未來 | 天威誠信亮相2025中國互聯(lián)網(wǎng)大會(huì)
- 天威誠信獲頒新版電子政務(wù)電子認(rèn)證服務(wù)資質(zhì)證書,用數(shù)字信任筑基政務(wù)數(shù)字化新征程
- 天威誠信亮相2025浪潮數(shù)字企業(yè)創(chuàng)新論壇西安站,共話數(shù)字信任新基建
相關(guān)推薦
- 數(shù)智鏈接世界 天威誠信邀您共赴2025CIFTIS北京服貿(mào)會(huì)
- 以價(jià)值為導(dǎo)向 | 天威誠信入榜《中國數(shù)字安全價(jià)值圖譜》
- 天威參會(huì) | TCOSCA標(biāo)準(zhǔn)編制討論暨半年工作會(huì)議在京順利召開
- 連續(xù)上榜 | 天威誠信五度入選《中國網(wǎng)絡(luò)安全市場(chǎng)全景圖》
- 天威誠信獲頒工信部2024網(wǎng)絡(luò)安全技術(shù)應(yīng)用典型案例牌匾
- 直播回放 | DigiCert:Web PKI、PQC 與企業(yè)數(shù)字信任新標(biāo)準(zhǔn)研討會(huì)
- 政務(wù)數(shù)據(jù)共享?xiàng)l例今日施行!國密SSL賦能數(shù)字建設(shè)劃重點(diǎn)
- 數(shù)字信任護(hù)航未來 | 天威誠信亮相2025中國互聯(lián)網(wǎng)大會(huì)
- 天威誠信獲頒新版電子政務(wù)電子認(rèn)證服務(wù)資質(zhì)證書,用數(shù)字信任筑基政務(wù)數(shù)字化新征程
- 天威誠信亮相2025浪潮數(shù)字企業(yè)創(chuàng)新論壇西安站,共話數(shù)字信任新基建