AI技術(shù)浪潮下的安全挑戰(zhàn),高效與安全如何同存?
一夜爆紅、遙遙領(lǐng)先、深度思考、MOSS在世!這些詞匯都不足以形容DeepSeek的熱度。2025年1月以來,國產(chǎn)人工智能大模型DeepSeek憑借其開源特性和深度思考服務(wù),迅速占領(lǐng)市場,用戶量激增,導(dǎo)致DeepSeek服務(wù)器時長宕機,相信大家都見到過“服務(wù)器繁忙,請稍后再試”這一熟悉的場景。

然而,其爆火背后卻成為網(wǎng)絡(luò)犯罪分子的新目標。近日國家計算機病毒應(yīng)急處理中心近期捕獲的仿冒DeepSeek安卓客戶端木馬病毒,通過誘導(dǎo)用戶安裝“更新包”竊取銀行信息、攔截短信,甚至阻止卸載,直接威脅用戶財產(chǎn)與隱私。

▲誘導(dǎo)用戶權(quán)限的假冒”DeepSeek“(圖片源自網(wǎng)絡(luò))
類似案例并非孤例:AI生成的虛假視頻被用于詐騙、偽造新聞擾亂社會秩序等事件頻發(fā),例如四川網(wǎng)警查處的10起AI編造謠言案件中,不法分子利用“AI千文”“翠綠筆墨”等工具批量生成虛假信息,造成惡劣社會影響。
這些事件揭示了一個核心矛盾:AI技術(shù)提升效率的同時,其濫用風險正以前所未有的速度侵蝕數(shù)字信任。
-01- 效率與安全的天平:AI時代的雙重需求
效率驅(qū)動的AI應(yīng)用場景

▲圖片源自網(wǎng)絡(luò)
然而,這種效率導(dǎo)向的擴張往往伴隨安全投入的滯后。例如,Wiz安全團隊發(fā)現(xiàn)DeepSeek的數(shù)據(jù)庫曾因配置錯誤暴露用戶聊天記錄與密鑰,一個屬于DeepSeek的可公開訪問的ClickHouse數(shù)據(jù)庫,它暴露了高度敏感的信息,包括用戶的聊天記錄、密鑰和敏感的內(nèi)部信息,以及超過一百萬行的日志流,并允許完全控制數(shù)據(jù)庫操作。此案例凸顯了技術(shù)迭代中安全管理的重要性。
安全漏洞的巨大代價
據(jù)報道,仿冒DeepSeek的木馬程序通過偽裝官方圖標、混入搜索引擎推薦頁等方式傳播,普通用戶難以辨別。網(wǎng)絡(luò)安全專家指出,此類病毒一旦安裝,可在后臺快速竊取銀行賬戶信息,且無法卸載,用戶只能通過重置設(shè)備或?qū)I(yè)修復(fù)解決。更嚴峻的是,攻擊者可能將惡意代碼與真實功能捆綁,使仿冒程序更具迷惑性。
專家表示,攻擊者利用技術(shù)以極低的成本讓仿冒DeepSeek程序出現(xiàn)在搜索引擎推薦頁中,每天都能監(jiān)測到大量帶有DeepSeek字樣的仿冒網(wǎng)址,極具迷惑性,普通用戶稍不注意很容易中招。此外,仿冒病毒也會混入一些小眾應(yīng)用市場。
-02- 新的發(fā)展前景與挑戰(zhàn)
作為數(shù)字經(jīng)濟的重要組成部分,AI技術(shù)的發(fā)展前景毋庸置疑,但多年來,AI也一直被視為一把“雙刃劍”。如對于大數(shù)據(jù)與算力的強依賴將限制其快速發(fā)展,超預(yù)期的新應(yīng)用新模式正引發(fā)市場擔憂,以及可能帶來的網(wǎng)絡(luò)安全、合規(guī)、知識產(chǎn)權(quán)等風險也將給數(shù)字治理帶來新的挑戰(zhàn)。

網(wǎng)絡(luò)攻擊
人工智能可用來自動鎖定目標,也可自動識別圖像驗證碼進而通過系統(tǒng)的審核認證,而一旦AI智能讓驗證防護的手段失效,則可能導(dǎo)致系統(tǒng)數(shù)據(jù)泄露和遭受網(wǎng)絡(luò)攻擊。
網(wǎng)絡(luò)釣魚
利用ChatGPT等AI技術(shù)生成的釣魚郵件不會有任何拼寫錯誤或奇怪的格式,而這些通常是區(qū)分釣魚與合法郵件的關(guān)鍵。攻擊者可以借助AI創(chuàng)造多種釣魚郵件,使其可能成為強大的網(wǎng)絡(luò)釣魚工具,尤其對英語不流利的攻擊者特別有用。
數(shù)據(jù)投毒
“投毒”是指在人工AI智能訓練數(shù)據(jù)中加入偽裝數(shù)據(jù)、惡意樣本等,可導(dǎo)致訓練的算法模型決策出現(xiàn)偏差。主要有兩種攻擊方式:一種是采用模型偏斜方式,攻擊訓練數(shù)據(jù)樣本。另一種則采用反饋誤導(dǎo)方式,攻擊人工智能的學習模型本身。隱私泄露
相對于互聯(lián)網(wǎng)對上網(wǎng)習慣、消費記錄等信息的采集,人工智能應(yīng)用采集的信息包括了人臉、指紋、聲紋、虹膜、心跳、基因等,具有很強的個人屬性,一旦泄露或者濫用將產(chǎn)生嚴重后果。
網(wǎng)絡(luò)安全是當今全球企業(yè)面臨的戰(zhàn)略挑戰(zhàn),在AI快速發(fā)展和全行業(yè)數(shù)字化的當下,網(wǎng)絡(luò)攻擊面也在不斷擴大。在人工智能技術(shù)應(yīng)用層面,企業(yè)需要考慮的主要風險包括隱私、對抗性網(wǎng)絡(luò)安全和第三方風險。
-03- SSL證書,構(gòu)建可信數(shù)字身份基石
作為依法設(shè)立的電子認證服務(wù)機構(gòu)與數(shù)字信任云服務(wù)商,天威誠信長期為企業(yè)提供全球可信的全類型SSL證書。以DeepSeek仿冒事件為例,SSL證書可從以下層面提供防護:
驗證官方身份,阻斷仿冒入口
仿冒程序常通過虛假網(wǎng)站或非官方鏈接傳播。SSL證書通過HTTPS協(xié)議與綠色鎖標識,確保用戶訪問的是經(jīng)CA機構(gòu)嚴格驗證的DeepSeek官方網(wǎng)站而非釣魚頁面(www.deepseek.com)。例如,DeepSeek官方多次聲明僅通過官網(wǎng)與應(yīng)用商店分發(fā)正版程序,SSL證書正是這一聲明的技術(shù)背書 。
加密數(shù)據(jù)傳輸,防止中間人攻擊
木馬病毒常通過劫持通信竊取敏感信息。SSL證書采用TLS加密協(xié)議,確保用戶與服務(wù)器間的數(shù)據(jù)傳輸(如賬號密碼、驗證碼)全程加密,即使被截獲也無法解密。例如,仿冒DeepSeek病毒依賴獲取短信驗證碼實施詐騙,而SSL加密可有效阻斷此類攻擊鏈。
提升企業(yè)安全治理能力
針對自托管AI模型的數(shù)據(jù)泄露風險(如Wiz報告中提到的DeepLeak數(shù)據(jù)庫暴露),企業(yè)可通過部署SSL證書保護API接口與內(nèi)部通信,防止敏感數(shù)據(jù)在傳輸過程中被竊取。同時,擴展驗證型證書(EV SSL)可展示企業(yè)實名信息,增強用戶對AI服務(wù)提供方的信任。
網(wǎng)絡(luò)安全是當今全球企業(yè)面臨的戰(zhàn)略挑戰(zhàn),在AI快速發(fā)展和全行業(yè)數(shù)字化的當下,網(wǎng)絡(luò)攻擊面也在不斷擴大。在人工智能技術(shù)應(yīng)用層面,企業(yè)需要考慮的主要風險包括隱私、對抗性網(wǎng)絡(luò)安全和第三方風險。
▼
*本文中部分圖片均來源于網(wǎng)絡(luò),如涉及版權(quán)問題可聯(lián)系刪除。
最新發(fā)布
- 再獲殊榮 | 天威誠信榮登國家專精特新“小巨人”企業(yè)名單
- 《電子印章管理辦法》出臺,天威誠信以可靠電子簽章助推數(shù)字化轉(zhuǎn)型
- 中秋 | 月滿人團圓,信守萬家安
- 國慶 | 熱烈慶祝中華人民共和國成立76周年!
- 三度入選 | 天威誠信出席2025數(shù)字生態(tài)發(fā)展大會,榮獲優(yōu)秀企業(yè)表彰
- 2025網(wǎng)絡(luò)安全宣傳周科普向 | 以密為盾,筑牢安全防線
- 再獲認可 | 天威誠信入選《中國汽車網(wǎng)絡(luò)與數(shù)據(jù)安全行業(yè)全景圖》
- 天威誠信亮相2025服貿(mào)會,以密碼技術(shù)筑牢信任基石
- 數(shù)智鏈接世界 天威誠信邀您共赴2025CIFTIS北京服貿(mào)會
- 以價值為導(dǎo)向 | 天威誠信入榜《中國數(shù)字安全價值圖譜》
相關(guān)推薦
- 再獲殊榮 | 天威誠信榮登國家專精特新“小巨人”企業(yè)名單
- 《電子印章管理辦法》出臺,天威誠信以可靠電子簽章助推數(shù)字化轉(zhuǎn)型
- 中秋 | 月滿人團圓,信守萬家安
- 國慶 | 熱烈慶祝中華人民共和國成立76周年!
- 三度入選 | 天威誠信出席2025數(shù)字生態(tài)發(fā)展大會,榮獲優(yōu)秀企業(yè)表彰
- 2025網(wǎng)絡(luò)安全宣傳周科普向 | 以密為盾,筑牢安全防線
- 再獲認可 | 天威誠信入選《中國汽車網(wǎng)絡(luò)與數(shù)據(jù)安全行業(yè)全景圖》
- 天威誠信亮相2025服貿(mào)會,以密碼技術(shù)筑牢信任基石
- 數(shù)智鏈接世界 天威誠信邀您共赴2025CIFTIS北京服貿(mào)會
- 以價值為導(dǎo)向 | 天威誠信入榜《中國數(shù)字安全價值圖譜》












