AI 領域精選文章翻譯
by Bobby Holley

原文連結: The zero-days are numbered
自 2 月以來,Firefox 團隊一直日以繼夜地使用前沿 AI 模型,找出並修補瀏覽器裡潛藏的安全漏洞。我們先前曾寫過與 Anthropic 的合作,當時用 Opus 4.6 掃描 Firefox,最後替 Firefox 148 修掉了 22 個資安敏感的 bug。
在持續合作之下,Firefox 團隊這次又把早期版本的 Claude Mythos Preview 套到 Firefox 上。Firefox 150 這次發布時,包含了 271 個在初步評估中找出的漏洞修補。
隨著這類能力開始交到更多防守者手上,很多團隊大概都會有和我們當初一樣的感受,先是暈一下,再開始重新盤點。對一個已經硬化過的目標來說,2025 年時只要有一個這樣的 bug 就足以拉起紅色警報,更何況一次冒出這麼多,確實會讓人懷疑防線是不是還追得上。
但我們的經驗其實是樂觀的。只要團隊願意甩掉那股暈眩感,開始專心處理,終究會看到出口。你可能得把其他事情全部重新排序,拿出近乎偏執的專注去應付,但前方確實有光。我們非常自豪 Firefox 團隊挺過了這一關,其他團隊也做得到。我們的工作還沒結束,但已經轉過彎,開始看見一個不只是勉強跟上,而是真正有機會贏的未來。防守方終於有機會徹底勝出。
直到現在,整個產業其實大多還是在跟安全打平手。像 Firefox 這種面向網路的關鍵軟體,團隊都非常重視安全,天天都有人在想怎麼保護使用者。不過即便如此,大家私下也一直知道,把漏洞壓到零,過去根本不現實。比較務實的目標,是把攻擊成本拉到只有預算幾乎無上限的對手才玩得起,而燒掉這種高價資產,也會讓他們不想隨便拿來用。
這是因為到目前為止,安全攻防一直偏向攻擊方:攻擊面不是無限,但大到很難靠我們現有的工具完整防守。攻擊者只要找到鎧甲上的一個縫就夠了,這種不對稱本來就讓他們占便宜。
因此我們才會做縱深防禦,疊上多層彼此重疊的保護。可惜沒有一層是絕對無敵的。Firefox 會把每個網站放進獨立的程序沙箱裡,但攻擊者也會想辦法把 rendering code 裡的 bug,跟 sandbox 裡的 bug 串起來,最後逃到更高權限的環境。我們也在 Rust 上領先業界,但還是沒辦法把所有事情都停下來,重寫數十年的 C++ 程式碼,尤其 Rust 也只會緩解某些非常常見的漏洞類型。
我們一邊做縱深防禦工程,一邊也維持內部紅隊,專門追蹤最前線的自動化分析技術。直到不久前,這些技術大多是動態分析,像 fuzzing。fuzzing 在實務上確實很有收穫,但有些程式碼區塊就是比其他地方更難 fuzz,因此覆蓋率也不平均。
頂尖資安研究員之所以能找到 fuzzers 找不到的 bug,靠的多半是沿著原始碼一路推理。這方法有效,但非常耗時,而且卡在稀缺的人類專業。幾個月前,電腦還完全做不到這件事,現在卻已經做得非常好。我們多年來一直在拆解世界上最強資安研究員的成果,而 Mythos Preview 的能力幾乎同樣強。到目前為止,我們沒有看到任何一種類別或複雜度的漏洞,是人類找得到、這個模型卻完全找不到的。
短期內,這可能會讓人很怕,但長期來看,這其實是防守方的好消息。機器可發現與人類可發現漏洞之間的落差,原本是有利攻擊者的,因為他們可以集中幾個月昂貴的人力,只為了找出一個漏洞。把這個落差補起來,等於讓所有發現都變便宜,也削弱了攻擊者的長期優勢。
更讓人振奮的是,我們也還沒看到任何一種漏洞,是連頂尖人類研究員都不可能找出的。有些評論者預測,未來 AI 會發現超出我們既有理解的新型漏洞,但我們不這麼認為。像 Firefox 這樣的軟體,本來就以模組化方式設計,目的是讓人能推理它的正確性。它很複雜,但不是任意複雜。1
缺陷是有限的,而我們正進入一個終於有機會把它們全部找出來的世界。
1 風險在於,隨著更多 AI 參與開發流程,程式碼庫可能會開始超出人類的理解能力,讓 bug 複雜度跟著上升,甚至比發現能力更快。保持人類可理解性,是必須守住的關鍵特質,尤其是在瀏覽器和作業系統這類關鍵軟體裡。
這篇最有意思的地方,不是「AI 幫忙抓到很多 bug」這麼簡單,而是它把 AI 的角色從加速開發,直接推進到改變攻防成本結構。以前大家最常談的是 AI 會不會讓寫碼更快,Mozilla 這篇則是在講,AI 也許會先讓防守更便宜。
但這個結論有個前提,很重要:程式碼本身還得維持可理解、可分解、可推理。只要團隊開始把 AI 生成的複雜度一路疊上去,最後可能只是把更多 bug 交給另一批模型再挖一次。換句話說,AI 可以幫忙找洞,但它也可能同時把洞的形狀弄得更難看懂。
對現在在做 agent、browser automation 或大型系統的人來說,這篇很像一個提醒,安全不能等到 release 後再補。越早把 AI 納進 fuzzing、red team、code review 和依賴掃描,越能把「AI 讓開發更快」和「AI 讓系統更危險」這兩件事拉回平衡。