2017年底，麻省理工學(xué)院（MIT）旗下知名科技媒體《技術(shù)評(píng)論》（MIT Technology Review）發(fā)布了對(duì)2018年網(wǎng)絡(luò)安全形勢(shì)的權(quán)威預(yù)測(cè)報(bào)告，其中特別強(qiáng)調(diào)了六大類型的網(wǎng)絡(luò)威脅將日益凸顯。值得注意的是，報(bào)告不僅關(guān)注了傳統(tǒng)的攻擊手段，更將目光投向了新興技術(shù)領(lǐng)域，明確指出人工智能（AI）基礎(chǔ)軟件的安全開發(fā)將成為影響未來網(wǎng)絡(luò)生態(tài)安全的關(guān)鍵一環(huán)。

報(bào)告所列舉的六大威脅類型，反映了網(wǎng)絡(luò)攻擊正在向更復(fù)雜、更隱蔽、破壞性更大的方向演進(jìn)：

1. 供應(yīng)鏈攻擊的規(guī)模化：攻擊者不再局限于直接攻擊最終目標(biāo)，而是轉(zhuǎn)而入侵軟件供應(yīng)商、開源庫或硬件制造環(huán)節(jié)，通過污染合法軟件更新或組件，實(shí)現(xiàn)“一點(diǎn)突破，全網(wǎng)受害”的效應(yīng)。2017年的NotPetya勒索軟件事件已敲響警鐘。
2. 物聯(lián)網(wǎng)（IoT）僵尸網(wǎng)絡(luò)的持續(xù)進(jìn)化：隨著聯(lián)網(wǎng)設(shè)備數(shù)量激增且安全性普遍薄弱，由攝像頭、路由器等設(shè)備組成的僵尸網(wǎng)絡(luò)將更加龐大和智能化，足以發(fā)動(dòng)前所未有的分布式拒絕服務(wù)（DDoS）攻擊，甚至成為其他攻擊的跳板。
3. 針對(duì)關(guān)鍵基礎(chǔ)設(shè)施的定向攻擊：能源、水利、交通、金融等國家關(guān)鍵信息基礎(chǔ)設(shè)施面臨更高精度的網(wǎng)絡(luò)攻擊威脅，攻擊可能兼具物理破壞與網(wǎng)絡(luò)癱瘓的雙重目的，地緣政治因素使其風(fēng)險(xiǎn)加劇。
4. 利用人工智能發(fā)起的自動(dòng)化攻擊：AI技術(shù)開始被攻擊者用于自動(dòng)化漏洞挖掘、生成高度逼真的釣魚內(nèi)容（如深度偽造語音、視頻）、或自適應(yīng)地繞過安全檢測(cè)系統(tǒng)，使攻擊速度與精準(zhǔn)度大幅提升。
5. 數(shù)據(jù)操縱與污染攻擊：攻擊目標(biāo)從簡(jiǎn)單的數(shù)據(jù)竊取或加密勒索，轉(zhuǎn)向更陰險(xiǎn)的數(shù)據(jù)篡改。通過污染訓(xùn)練數(shù)據(jù)（“數(shù)據(jù)投毒”）來破壞AI系統(tǒng)的決策，或悄悄修改財(cái)務(wù)、醫(yī)療、科研等關(guān)鍵數(shù)據(jù)，其長期破壞性可能遠(yuǎn)超數(shù)據(jù)泄露。
6. 云服務(wù)與混合環(huán)境的安全挑戰(zhàn)：企業(yè)大規(guī)模向云端和混合IT架構(gòu)遷移，配置錯(cuò)誤、權(quán)限管理復(fù)雜化以及跨環(huán)境的數(shù)據(jù)流動(dòng)，使得攻擊面急劇擴(kuò)大，傳統(tǒng)的邊界防御模型難以應(yīng)對(duì)。

在深入分析這些威脅時(shí)，《技術(shù)評(píng)論》報(bào)告特別點(diǎn)出了一個(gè)根本性的、且影響深遠(yuǎn)的議題：人工智能基礎(chǔ)軟件開發(fā)的安全隱患。這不僅是上述第四、第五類威脅的直接成因，也與其他威脅類型息息相關(guān)。

為何AI基礎(chǔ)軟件安全成為核心關(guān)切？

AI基礎(chǔ)軟件，包括主流的機(jī)器學(xué)習(xí)框架（如TensorFlow、PyTorch）、算法庫、開發(fā)工具鏈以及預(yù)訓(xùn)練模型，正成為數(shù)字經(jīng)濟(jì)的新“操作系統(tǒng)”。其開發(fā)過程普遍存在以下安全短板：

• 開發(fā)社區(qū)重功能、輕安全：AI開發(fā)社區(qū)文化以快速迭代、追求模型性能（如準(zhǔn)確率、速度）為主導(dǎo)，安全編碼實(shí)踐、漏洞管理流程往往被忽視。許多基礎(chǔ)庫由學(xué)術(shù)研究項(xiàng)目演化而來，并未經(jīng)過嚴(yán)格的企業(yè)級(jí)安全開發(fā)周期（如SDL）。
• 復(fù)雜依賴與“黑盒”特性：AI軟件棧依賴關(guān)系極其復(fù)雜，包含大量第三方開源組件。深度學(xué)習(xí)模型本身具有“黑盒”特性，其內(nèi)部決策邏輯難以解釋，這使得發(fā)現(xiàn)其中潛在的后門、偏見或被植入的惡意邏輯變得異常困難。
• 數(shù)據(jù)與模型的一體化風(fēng)險(xiǎn)：AI系統(tǒng)安全是數(shù)據(jù)安全、模型安全和代碼安全的綜合體。攻擊者可通過污染訓(xùn)練數(shù)據(jù)集（數(shù)據(jù)投毒），或在模型發(fā)布渠道植入惡意模型，從而在源頭埋下隱患。而當(dāng)前的安全工具和標(biāo)準(zhǔn)主要針對(duì)傳統(tǒng)軟件，缺乏對(duì)AI模型完整性和可信度的有效驗(yàn)證手段。
• 人才缺口與意識(shí)不足：兼具頂尖AI技術(shù)和深厚安全攻防知識(shí)的復(fù)合型人才極度稀缺。大多數(shù)AI開發(fā)者對(duì)潛在的安全威脅認(rèn)識(shí)不足，未能將安全思維融入模型設(shè)計(jì)、數(shù)據(jù)準(zhǔn)備和部署運(yùn)維的全過程。

應(yīng)對(duì)之道：構(gòu)建安全可信的AI開發(fā)生態(tài)

針對(duì)這一預(yù)測(cè)，《技術(shù)評(píng)論》也隱含地指出了應(yīng)對(duì)方向。要化解因AI基礎(chǔ)軟件引發(fā)的網(wǎng)絡(luò)威脅，需要業(yè)界協(xié)同努力：

1. 將安全前置到AI開發(fā)生命周期：借鑒DevSecOps理念，形成“AI SecOps”。在框架設(shè)計(jì)、算法選擇、數(shù)據(jù)收集清洗、模型訓(xùn)練、測(cè)試驗(yàn)證及部署上線的每一個(gè)環(huán)節(jié)，都需融入安全考量和自動(dòng)化安全檢查。
2. 推動(dòng)標(biāo)準(zhǔn)、工具與最佳實(shí)踐：亟需制定針對(duì)AI軟件的安全開發(fā)標(biāo)準(zhǔn)、模型健壯性測(cè)試基準(zhǔn)，并開發(fā)專用的安全工具，用于檢測(cè)數(shù)據(jù)投毒、對(duì)抗樣本、模型后門以及依賴組件的已知漏洞。
3. 加強(qiáng)開源生態(tài)治理：對(duì)關(guān)鍵的AI開源項(xiàng)目，建立更嚴(yán)格的安全審查和托管機(jī)制，鼓勵(lì)安全貢獻(xiàn)和漏洞獎(jiǎng)勵(lì)計(jì)劃，提升核心基礎(chǔ)設(shè)施的軟件物料清單（SBOM）透明度和可追溯性。
4. 投資于教育與研究：大力培養(yǎng)AI安全專業(yè)人才，同時(shí)支持基礎(chǔ)研究，探索可解釋AI（XAI）、聯(lián)邦學(xué)習(xí)、隱私計(jì)算等技術(shù)，從根本上增強(qiáng)AI系統(tǒng)的透明性、魯棒性和隱私保護(hù)能力。

---

麻省理工學(xué)院《技術(shù)評(píng)論》的這份預(yù)測(cè)，精準(zhǔn)地捕捉了網(wǎng)絡(luò)威脅與前沿技術(shù)深度融合的趨勢(shì)。它警示我們，在享受人工智能帶來的巨大紅利時(shí)，必須正視其基礎(chǔ)軟件層所潛藏的系統(tǒng)性風(fēng)險(xiǎn)。2018年及以后，網(wǎng)絡(luò)安全的戰(zhàn)場(chǎng)已不再局限于傳統(tǒng)的系統(tǒng)和應(yīng)用，更延伸至算法、數(shù)據(jù)和塑造智能世界的底層代碼之中。確保AI基礎(chǔ)軟件開發(fā)的安全與可信，不僅是技術(shù)挑戰(zhàn)，更是保障未來數(shù)字社會(huì)穩(wěn)健運(yùn)行的基石。