聯邦安全機構警告人工智慧生成的圖像將越來越多地用於網絡攻擊
美國國家安全局(NSA)和聯邦調查局(FBI)對“深度偽造”技術發出了威脅警報,該技術可能被用於幫助入侵軍事和其他敏感目標的計算機系統。
問題在於駭客可以用來劫持品牌、冒充組織領導人並獲取敏感數據的計算機生成的圖像,聯邦機構週二在一份網絡安全建議中說。雖然過去曾採用過這種策略,但人工智慧的進步使製作深度偽造圖像變得更容易、更便宜。
“操縱真實多媒體的工具和技術並非新穎,但網絡行為者使用這些技術的便捷性和規模是新的,” NSA數學家Candice Rockwell Gerstner在一份聲明中說。“組織及其員工需要學會識別深度偽造的手法和技術,並制定應對計劃,以便在遭到攻擊時減少影響。”
美國網絡安全和基礎設施安全局(CISA)也為週二的建議做出了貢獻。各機構警告說,深度偽造攻擊可能會給安全機構、五角大樓和國防承包商帶來挑戰。
各機構建議組織部署能夠檢測深度偽造並追踪多媒體文件的來源的技術。“除了破壞品牌和財務之外,合成媒體還可以通過散布關於政治、社會、軍事或經濟問題的虛假信息來引發公眾動盪,”該建議說。
隨著2024年美國大選的臨近以及共和黨國會議員推進對喬·拜登總統的彈劾調查,這些擔憂將變得更加重要。吹捧深度偽造的威脅也可能為質疑真實多媒體文件的有效性創造藉口。
在2020年選舉週期期間,聯邦調查局為社交媒體審查關於拜登家族所謂的影響力交易的爆炸性報告鋪平了道路,正如亨特·拜登(喬·拜登之子)在一家維修店遺棄的筆記本電腦上的文件所證明的那樣。Facebook創始人馬克·扎克伯格(Mark Zuckerberg)去年表示,他的平台限制了對拜登故事的分享,因為聯邦調查局警告該公司,執法部門預計選舉前會有大規模的俄羅斯“信息傾倒”。選舉消息傳出後,前美國情報官員本質上證實了這一理論,錯誤地聲稱它具有俄羅斯虛假信息的“特徵”。