AI技術(shù)浪潮下的安全挑戰(zhàn),高效與安全如何同存?
一夜爆紅、遙遙領(lǐng)先、深度思考、MOSS在世!這些詞匯都不足以形容DeepSeek的熱度。2025年1月以來,國(guó)產(chǎn)人工智能大模型DeepSeek憑借其開源特性和深度思考服務(wù),迅速占領(lǐng)市場(chǎng),用戶量激增,導(dǎo)致DeepSeek服務(wù)器時(shí)長(zhǎng)宕機(jī),相信大家都見到過“服務(wù)器繁忙,請(qǐng)稍后再試”這一熟悉的場(chǎng)景。
然而,其爆火背后卻成為網(wǎng)絡(luò)犯罪分子的新目標(biāo)。近日國(guó)家計(jì)算機(jī)病毒應(yīng)急處理中心近期捕獲的仿冒DeepSeek安卓客戶端木馬病毒,通過誘導(dǎo)用戶安裝“更新包”竊取銀行信息、攔截短信,甚至阻止卸載,直接威脅用戶財(cái)產(chǎn)與隱私。
▲誘導(dǎo)用戶權(quán)限的假冒”DeepSeek“(圖片源自網(wǎng)絡(luò))
類似案例并非孤例:AI生成的虛假視頻被用于詐騙、偽造新聞擾亂社會(huì)秩序等事件頻發(fā),例如四川網(wǎng)警查處的10起AI編造謠言案件中,不法分子利用“AI千文”“翠綠筆墨”等工具批量生成虛假信息,造成惡劣社會(huì)影響。
這些事件揭示了一個(gè)核心矛盾:AI技術(shù)提升效率的同時(shí),其濫用風(fēng)險(xiǎn)正以前所未有的速度侵蝕數(shù)字信任。
-01- 效率與安全的天平:AI時(shí)代的雙重需求
效率驅(qū)動(dòng)的AI應(yīng)用場(chǎng)景
▲圖片源自網(wǎng)絡(luò)
然而,這種效率導(dǎo)向的擴(kuò)張往往伴隨安全投入的滯后。例如,Wiz安全團(tuán)隊(duì)發(fā)現(xiàn)DeepSeek的數(shù)據(jù)庫(kù)曾因配置錯(cuò)誤暴露用戶聊天記錄與密鑰,一個(gè)屬于DeepSeek的可公開訪問的ClickHouse數(shù)據(jù)庫(kù),它暴露了高度敏感的信息,包括用戶的聊天記錄、密鑰和敏感的內(nèi)部信息,以及超過一百萬(wàn)行的日志流,并允許完全控制數(shù)據(jù)庫(kù)操作。此案例凸顯了技術(shù)迭代中安全管理的重要性。
安全漏洞的巨大代價(jià)
據(jù)報(bào)道,仿冒DeepSeek的木馬程序通過偽裝官方圖標(biāo)、混入搜索引擎推薦頁(yè)等方式傳播,普通用戶難以辨別。網(wǎng)絡(luò)安全專家指出,此類病毒一旦安裝,可在后臺(tái)快速竊取銀行賬戶信息,且無(wú)法卸載,用戶只能通過重置設(shè)備或?qū)I(yè)修復(fù)解決。更嚴(yán)峻的是,攻擊者可能將惡意代碼與真實(shí)功能捆綁,使仿冒程序更具迷惑性。
專家表示,攻擊者利用技術(shù)以極低的成本讓仿冒DeepSeek程序出現(xiàn)在搜索引擎推薦頁(yè)中,每天都能監(jiān)測(cè)到大量帶有DeepSeek字樣的仿冒網(wǎng)址,極具迷惑性,普通用戶稍不注意很容易中招。此外,仿冒病毒也會(huì)混入一些小眾應(yīng)用市場(chǎng)。
-02- 新的發(fā)展前景與挑戰(zhàn)
作為數(shù)字經(jīng)濟(jì)的重要組成部分,AI技術(shù)的發(fā)展前景毋庸置疑,但多年來,AI也一直被視為一把“雙刃劍”。如對(duì)于大數(shù)據(jù)與算力的強(qiáng)依賴將限制其快速發(fā)展,超預(yù)期的新應(yīng)用新模式正引發(fā)市場(chǎng)擔(dān)憂,以及可能帶來的網(wǎng)絡(luò)安全、合規(guī)、知識(shí)產(chǎn)權(quán)等風(fēng)險(xiǎn)也將給數(shù)字治理帶來新的挑戰(zhàn)。
網(wǎng)絡(luò)攻擊
人工智能可用來自動(dòng)鎖定目標(biāo),也可自動(dòng)識(shí)別圖像驗(yàn)證碼進(jìn)而通過系統(tǒng)的審核認(rèn)證,而一旦AI智能讓驗(yàn)證防護(hù)的手段失效,則可能導(dǎo)致系統(tǒng)數(shù)據(jù)泄露和遭受網(wǎng)絡(luò)攻擊。
網(wǎng)絡(luò)釣魚
利用ChatGPT等AI技術(shù)生成的釣魚郵件不會(huì)有任何拼寫錯(cuò)誤或奇怪的格式,而這些通常是區(qū)分釣魚與合法郵件的關(guān)鍵。攻擊者可以借助AI創(chuàng)造多種釣魚郵件,使其可能成為強(qiáng)大的網(wǎng)絡(luò)釣魚工具,尤其對(duì)英語(yǔ)不流利的攻擊者特別有用。
數(shù)據(jù)投毒
“投毒”是指在人工AI智能訓(xùn)練數(shù)據(jù)中加入偽裝數(shù)據(jù)、惡意樣本等,可導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。主要有兩種攻擊方式:一種是采用模型偏斜方式,攻擊訓(xùn)練數(shù)據(jù)樣本。另一種則采用反饋誤導(dǎo)方式,攻擊人工智能的學(xué)習(xí)模型本身。隱私泄露
相對(duì)于互聯(lián)網(wǎng)對(duì)上網(wǎng)習(xí)慣、消費(fèi)記錄等信息的采集,人工智能應(yīng)用采集的信息包括了人臉、指紋、聲紋、虹膜、心跳、基因等,具有很強(qiáng)的個(gè)人屬性,一旦泄露或者濫用將產(chǎn)生嚴(yán)重后果。
網(wǎng)絡(luò)安全是當(dāng)今全球企業(yè)面臨的戰(zhàn)略挑戰(zhàn),在AI快速發(fā)展和全行業(yè)數(shù)字化的當(dāng)下,網(wǎng)絡(luò)攻擊面也在不斷擴(kuò)大。在人工智能技術(shù)應(yīng)用層面,企業(yè)需要考慮的主要風(fēng)險(xiǎn)包括隱私、對(duì)抗性網(wǎng)絡(luò)安全和第三方風(fēng)險(xiǎn)。
-03- SSL證書,構(gòu)建可信數(shù)字身份基石
作為依法設(shè)立的電子認(rèn)證服務(wù)機(jī)構(gòu)與數(shù)字信任云服務(wù)商,天威誠(chéng)信長(zhǎng)期為企業(yè)提供全球可信的全類型SSL證書。以DeepSeek仿冒事件為例,SSL證書可從以下層面提供防護(hù):
驗(yàn)證官方身份,阻斷仿冒入口
仿冒程序常通過虛假網(wǎng)站或非官方鏈接傳播。SSL證書通過HTTPS協(xié)議與綠色鎖標(biāo)識(shí),確保用戶訪問的是經(jīng)CA機(jī)構(gòu)嚴(yán)格驗(yàn)證的DeepSeek官方網(wǎng)站而非釣魚頁(yè)面(www.deepseek.com)。例如,DeepSeek官方多次聲明僅通過官網(wǎng)與應(yīng)用商店分發(fā)正版程序,SSL證書正是這一聲明的技術(shù)背書 。
加密數(shù)據(jù)傳輸,防止中間人攻擊
木馬病毒常通過劫持通信竊取敏感信息。SSL證書采用TLS加密協(xié)議,確保用戶與服務(wù)器間的數(shù)據(jù)傳輸(如賬號(hào)密碼、驗(yàn)證碼)全程加密,即使被截獲也無(wú)法解密。例如,仿冒DeepSeek病毒依賴獲取短信驗(yàn)證碼實(shí)施詐騙,而SSL加密可有效阻斷此類攻擊鏈。
提升企業(yè)安全治理能力
針對(duì)自托管AI模型的數(shù)據(jù)泄露風(fēng)險(xiǎn)(如Wiz報(bào)告中提到的DeepLeak數(shù)據(jù)庫(kù)暴露),企業(yè)可通過部署SSL證書保護(hù)API接口與內(nèi)部通信,防止敏感數(shù)據(jù)在傳輸過程中被竊取。同時(shí),擴(kuò)展驗(yàn)證型證書(EV SSL)可展示企業(yè)實(shí)名信息,增強(qiáng)用戶對(duì)AI服務(wù)提供方的信任。
網(wǎng)絡(luò)安全是當(dāng)今全球企業(yè)面臨的戰(zhàn)略挑戰(zhàn),在AI快速發(fā)展和全行業(yè)數(shù)字化的當(dāng)下,網(wǎng)絡(luò)攻擊面也在不斷擴(kuò)大。在人工智能技術(shù)應(yīng)用層面,企業(yè)需要考慮的主要風(fēng)險(xiǎn)包括隱私、對(duì)抗性網(wǎng)絡(luò)安全和第三方風(fēng)險(xiǎn)。
▼
*本文中部分圖片均來源于網(wǎng)絡(luò),如涉及版權(quán)問題可聯(lián)系刪除。
最新發(fā)布
- 賦能新質(zhì)生產(chǎn)力 | 天威誠(chéng)信邀您蒞臨2025上交會(huì)商用密碼展
- 天威誠(chéng)信出席DigiCert 2025信任峰會(huì)東京站,共話數(shù)字信任新未來
- 再獲認(rèn)可 | 天威誠(chéng)信入選《嘶吼2025網(wǎng)絡(luò)安全產(chǎn)業(yè)圖譜》兩大領(lǐng)域Top10
- 聚焦財(cái)務(wù)數(shù)字化 | 天威誠(chéng)信杭州信息安全沙龍會(huì)議圓滿收官
- 天威誠(chéng)信亮相2025數(shù)據(jù)產(chǎn)品博覽會(huì),助力數(shù)據(jù)要素價(jià)值釋放安全合規(guī)
- 再獲認(rèn)可!天威誠(chéng)信入選安全?!吨袊?guó)網(wǎng)絡(luò)安全行業(yè)全景圖(第十二版)》
- 國(guó)密賦能自主可控 | 公安部印發(fā)新令,直指關(guān)基安全
- 以密筑基 司掌未來 | 天威誠(chéng)信亮相2025浪潮數(shù)字企業(yè)創(chuàng)新大會(huì),展現(xiàn)密碼合規(guī)新力量
- 關(guān)稅風(fēng)暴下,企業(yè)如何用密碼打贏這場(chǎng)“安全戰(zhàn)”?
- 天威誠(chéng)信出席九恒星2025年度AI賦能資金管理新動(dòng)能培訓(xùn)會(huì),為企業(yè)管理注入可信基因
相關(guān)推薦
- 賦能新質(zhì)生產(chǎn)力 | 天威誠(chéng)信邀您蒞臨2025上交會(huì)商用密碼展
- 天威誠(chéng)信出席DigiCert 2025信任峰會(huì)東京站,共話數(shù)字信任新未來
- 再獲認(rèn)可 | 天威誠(chéng)信入選《嘶吼2025網(wǎng)絡(luò)安全產(chǎn)業(yè)圖譜》兩大領(lǐng)域Top10
- 聚焦財(cái)務(wù)數(shù)字化 | 天威誠(chéng)信杭州信息安全沙龍會(huì)議圓滿收官
- 天威誠(chéng)信亮相2025數(shù)據(jù)產(chǎn)品博覽會(huì),助力數(shù)據(jù)要素價(jià)值釋放安全合規(guī)
- 再獲認(rèn)可!天威誠(chéng)信入選安全?!吨袊?guó)網(wǎng)絡(luò)安全行業(yè)全景圖(第十二版)》
- 國(guó)密賦能自主可控 | 公安部印發(fā)新令,直指關(guān)基安全
- 以密筑基 司掌未來 | 天威誠(chéng)信亮相2025浪潮數(shù)字企業(yè)創(chuàng)新大會(huì),展現(xiàn)密碼合規(guī)新力量
- 關(guān)稅風(fēng)暴下,企業(yè)如何用密碼打贏這場(chǎng)“安全戰(zhàn)”?
- 天威誠(chéng)信出席九恒星2025年度AI賦能資金管理新動(dòng)能培訓(xùn)會(huì),為企業(yè)管理注入可信基因