人們不渴望自動化

AI News · 2026-04-24

原文連結： The people do not yearn for automation

摘要

• Nilay Patel 認為，AI 的問題不是「不夠會行銷」，而是太像一種把世界硬塞進資料庫與流程的思維。
• 他把這種思維稱為 software brain：凡事都能拆成資料、規則與迴圈，然後交給軟體處理。
• 這種觀點對企業很有吸引力，因為很多商業流程本來就已經是資料流與自動化。
• 但對一般人來說，生活不是資料庫；不是每件事都想被量化、整合、預測與接管。
• AI 之所以惹人反感，不只是因為 slop、失真與資安風險，而是它常把人要求得更像機器。
• 這篇文章最有力的地方，在於它把「人們為什麼不喜歡 AI」從情緒問題，改寫成人性與系統設計的問題。
• 對做產品的人來說，真正該問的不是「怎麼讓人更愛 AI」，而是「怎麼別讓 AI 先把人逼走」。

· · ·

今天在 Decoder 裡，我想講一個最近一直在腦中打轉的想法。這段時間我們一直在報導 AI、也在節目裡聊它，而我把這種思維叫做 software brain。它是一種看世界的方法：把一切都塞進演算法、資料庫與迴圈裡，也就是塞進軟體裡。

software brain 很強。它幾乎塑造了現代世界。Marc Andreessen 早在 2011 年就用那篇〈Why software is eating the world〉把這件事講得很清楚。只是 AI 把這種軟體式思維又加了速，也因此拉開了一道巨大的裂縫：科技圈對 AI 愈來愈興奮，但一般人對它卻愈來愈反感。

事實上，相關民調強到很難忽視。我甚至覺得可以直接說：很多人是討厭 AI 的，而且 Gen Z 尤其如此。NBC News 的民調顯示，AI 的好感度比 ICE 還差，只比伊朗戰爭和民主黨好一點點；但同一份民調裡，幾乎三分之二受訪者又表示自己上個月用過 ChatGPT 或 Copilot。Quinnipiac 也發現，超過一半美國人認為 AI 造成的壞處會多於好處，超過 80% 的人對這項技術非常擔心或有點擔心，真正感到興奮的只有 35%。

一份又一份民調都顯示，Gen Z 用 AI 最多，但對 AI 的觀感也最負面。最近的 Gallup 民調發現，只有 18% 的 Gen Z 對 AI 充滿希望，還比去年已經不太好的 27% 再掉了一截；同時，憤怒感還在上升，31% 的 Gen Z 受訪者說自己對 AI 感到憤怒，去年只有 22%。

我在 Decoder 上常常跟科技公司高層、政策人士對話。我可以直接告訴你，他們都知道 AI 不受歡迎，也都看得到這件事在現實世界裡怎麼發酵。像 Satya Nadella 就說過，科技業得替自己在 AI 上的投資爭取社會許可：

Satya Nadella：歸根究底，我所屬的這個產業，必須取得社會授權，才能消耗能源，因為我們真的在做對世界有益的事。

我想可以很安全地說，科技業與 AI 至今還沒拿到任何這種社會授權。兩黨政治人物都在反對資料中心擴建；支持資料中心的地方政客也開始落選。更令人沮喪的是，在當前美國日常政治暴力已經變得多麼普遍的提醒下，曾支持資料中心的政客甚至遭人向住家開槍。OpenAI 執行長 Sam Altman 的家也曾被丟燃燒瓶。

我得再說一次：這種暴力不可接受。如果真的想長期而有效地反對 AI，應該透過市場、透過網路注意力、透過投票，大聲表達立場，並參與民主的監管與政治程序。除此之外的做法只會被當成雜訊，還會讓循環繼續。這種漠視其實已經在發生了。

我也覺得很重要的是，政治人物與科技高層要讓人們覺得自己有力量，而不是絕望。那種無力感與虛無感，正是他們自己長年助長出來的；而暴力，就是這種無力與虛無的結果。當他們一邊到處喊著 AI 會消滅所有工作，這一點更該被認真面對。我不是誇張——Anthropic 的 Dario Amodei 就說過，他擔心 AI 會讓所有工作都消失：

Dario Amodei：像金融、顧問、科技等領域的入門白領工作——我擔心它們會先被輔助，但很快就會被 AI 系統取代。我們或許真的——未來很難預測——但我們或許真的會面臨一場嚴重的就業危機，因為這些初階白領工作的供給管道會開始收縮、乾涸。

看到這種話，我想到的就是科技業與一般人之間真正的裂縫，也就是 software brain 的極限。科技圈的人都知道一般人不喜歡 AI，但我覺得他們沒看懂為什麼。他們以為這是行銷問題。OpenAI 甚至剛花了 2 億美元投資 TBPN podcast，認為這樣可以讓人們更喜歡 AI。Sam Altman 也把話說得很直白：

Sam Altman：喔，他們是超強的行銷人，我很想要更好的行銷。有人最近跟我說，如果 AI 是一位政治候選人，它會是史上最不受歡迎的候選人。而考慮到 AI 能做到的那些驚人事情，我覺得一定有更好的方式來行銷 AI。

但我覺得，這件事其實已經很明白了，所以就直接說吧：AI 不是行銷問題。人們每天都在親自使用這些工具！ChatGPT 的每週活躍用戶已經到 9 億，還在往 10 億靠近；Google Search 裡有 AI Overviews，社群動態裡也充滿了大量 AI 亂七八糟的內容。

你沒辦法靠廣告，讓人對自己親身經歷的東西改觀。這是科技圈那些擁有 software brain 的人，與一般人真實生活之間的一道根本斷層。

那什麼是 software brain？我想到最簡單的定義是：把整個世界看成一串可以用結構化程式語言控制的資料庫。這種看法確實很有力量。太多人的生活本來就經過資料庫，而許多重要公司也正是靠著維護這些資料庫、再提供存取而建立起來的。

Zillow 是房屋資料庫。Uber 是車與乘客資料庫。YouTube 是影片資料庫。The Verge 的網站是故事資料庫。這樣一路講下去都講不完。當你開始把世界想成一大堆資料庫時，只要你能控制資料，就會很容易覺得自己能控制一切。

但這不一定有效。舉個例子：Elon Musk 和 DOGE 進入政府後，第一件事就是接管一堆資料庫。結果他們很快撞上了一個不可否認的事實——資料庫不是現實，而 DOGE 最後以滑稽的失敗收場。software brain 是有極限的：政府不是軟體，人也不是電腦，更不會活在那種可以被整齊寫進資料庫的自動化迴圈裡。

任何真正在維運資料庫的人都知道這件事。總有一天，資料庫會開始跟現實脫節。到那個時候，我們通常不是去改世界，而是去改資料庫本身。但 AI 產業早就把這個道理忘得一乾二淨，因為 AI 依賴資料。畢竟，它不過就是軟體嘛。所以它真正要求的是：越來越多人要把自己的生活配合資料庫，而不是反過來。

再舉一個我經常想到的例子，尤其是在 AI 真正切進商業工具的時候。那就是 AI 即將取代律師和法律系統的說法。AI 產業很愛宣稱不再需要律師，結果已經把一堆人害得不輕。不過我也理解這種吸引力。我跟律師相處很多——我以前就是律師，我太太現在還是律師，我最好的朋友裡也有很多是律師。

我也整天都在工作上跟科技圈的人打交道。所以久而久之，我發現 software brain 與 lawyer brain 的重疊，其實非常深，深得很誘人。如果 software brain 的核心是：相信用程式碼那種結構化語言思考，就能在現實世界做出事情；那 lawyer brain 的核心就是：相信用法條、判例與法源那種結構化法律語言思考，也能讓事情真的發生，甚至讓你對社會擁有力量。

它們還有別的共通點。軟體開發與法律都高度依賴先例。美國有一整套判例法，我們一再拿它來解決爭議；工程師也一樣，一再使用既有函式庫來建構產品基礎。兩者的相似之處非常深：到了最後，律師與工程師都在用形式化、結構化的語言，試圖引導複雜系統往可預期、也可能可獲利的方向運作。

（順帶一提，這個想法我絕不是第一個提出來的人。Larry Lessig 在 2000 年就寫了《Code and Other Laws of Cyberspace》。到了今天，它還是一樣有用。）

這種法律與程式碼之間迷人的相似性，常常把人搞混。人們總是試圖把命令丟給整個社會，好像社會是一台會照做的電腦。大大小小都有這種例子——我最喜歡的是那些 Facebook 轉貼文，堅持說 Mark Zuckerberg 沒有權利發布你的照片。老實說，看到這些我都會想：如果法律真的是程式碼就好了，也許事情會更可預測，也許我們會覺得比較有控制感。

但法律終究不是程式碼，社會與法院也不是電腦。我必須常常提醒 Decoder 和 The Verge 的那群技術取向很強的聽眾：法律不是決定論。你根本不可能把一個案件的事實、法律文字本身拿來，就能非常有把握地預測判決結果。即使法律形式看起來像電腦，讓人誤以為它像程式一樣運作。

但到了最後，真正構成法律系統核心的，其實正是曖昧與模糊。也正是這種模糊，才造就了律師。說真的，這也是大家討厭律師的原因：因為永遠都可以替另一邊提出論點，永遠都可以從法律裡找出灰色地帶。這也是為什麼檢察官最後會去當辯護律師，而監管機構的人常常最後去大企業上班。

你可以很清楚地看見 software brain 與 lawyer brain 在這裡正面碰撞：這件看起來像電腦的東西，其實根本不像電腦。很多人甚至主張法律應該更像電腦，系統應該可驗證、可一致，而且只要在正確時間發出正確命令，就應該會導向客觀正確的結果。

幾個月前上 Decoder 的 Bridget McCormack——她曾任密西根州最高法院首席大法官——就在推廣一套完全自動化的 AI 仲裁系統。她跟我說的論點是，人們覺得傳統法律系統太不公平了，所以只要自動化系統能讓人覺得自己有被聽見，即使結果更糟，他們也可能接受。要是 AI 真有什麼能耐，大概就是能整天坐在那裡聽人說話。

我不確定這些話到底對不對、能不能落地，但我很確定 software brain 是什麼，而那整套想法就是純粹的 software brain：以為我們可以逼現實世界像電腦一樣運作，然後再讓 AI 下達那些電腦指令。

你在每一種產業裡都能看到同樣的事正在發生。你不會真的雇一家大型顧問公司進來，把業務研究透徹、讓它更有效率；你雇他們，是要他們做出能向董事會與股東合理化裁員的投影片。大型顧問公司很擅長這件事，而現在他們只是開始用 AI 來生成那些投影片而已。這種事現在已經在發生，裁員也已經開始。

任何看起來像「程式碼對資料庫」重複對話的商業流程，都有可能被拿下。這也是為什麼 Anthropic 一直如此執著於企業客戶；也是為什麼 OpenAI 現在轉向商業用途。把 AI 帶進商業確實有價值，因為現代商業本來就很軟體化：蒐集資料、分析資料、再一輪一輪地採取行動。企業也能控制自己的資料，並要求所有資料庫彼此協作。

在這個意義上，software brain 其實早就統治商業世界很久了。AI 只是讓更多人、更容易做出更多軟體而已——對每一種企業來說，都是把自己大塊大塊地自動化。它無所不在：廣告與行銷最前線的玩法，就是用 AI 來自動化。那已經不是創作，而是自動化。

但問題是：不是一切都是企業，不是一切都是迴圈！整個人類經驗不可能被裝進資料庫裡。這就是 software brain 的極限。也正因如此，人們才會討厭 AI。它把人扁平化了。

一般人根本不會把「寫程式」視為機會。我本人是那種超愛智慧家庭的人；家裡的燈、窗簾、空調有一大堆自動化。但像 Apple、Google、Amazon 這些大公司，十多年來都很難讓一般人真的在乎智慧家庭自動化，他們就是不在乎。

AI 不會改變這件事。大多數人並不會為自己生活中的每一件事都收集資料；就算有，也散落在很多不同系統裡——你的 email 在 Gmail，你的訊息在 iMessage，你的工作行程在 Outlook，你的運動紀錄在 Peloton。這些系統彼此不會說話，也許永遠都不會，因為根本沒有必要。要人把它們全部連起來，很多人只會覺得毛骨悚然。

連花時間想想自己的生活有多少被資料庫捕捉，都足以讓人不舒服。沒有人想被持續監控，尤其不是那種會讓科技公司更有權力的監控。但 AI 產業卻痴迷於把一切都塞進資料庫，好讓軟體看見。這也是為什麼現在每個會議系統裡都有 AI 記錄器。這也是為什麼 Canva 這種設計軟體，現在也接上企業 email 系統。我的朋友 Ezra Klein 最近去了一趟矽谷，他把那群正積極把自己扁平化成資料庫的人寫得很到位：

你可能會以為，矽谷那些手握大量資金的 AI 圈人士現在正站在世界頂端。但我發現他們其實特別沒安全感。他們覺得 AI 時代已經到了，而勝負會部分取決於採用速度。論點很簡單：一旦你開始讓一支 AI 助手與 coder 大軍替你工作，優勢就會隨時間複利增長，所以越早開始，將來就越能把對手遠遠甩開。於是，他們都在競賽，要把 AI 完整整合進自己的生活與公司裡。但這不只是使用 AI 而已；這代表他們要把自己做得讓 AI 看得懂。

你可以把一切都交給它：檔案、email、行事曆、訊息。它會在背景持續運作，建立對你偏好與模式的持久記憶，好讓它更好地替你行動。資安風險顯而易見，但還是有數百萬人願意使用它：你對 AI 開放的生活越多，AI 就越有價值。

我這些年看過很多科技產品，只能說一件事：當你要求人們去適應電腦，那就是失敗。電腦應該適應人。要人把自己變得更能被軟體理解——把自己變成一個資料庫——這根本是個注定失敗的想法。

這個要求大到，即使科技業沒有整天談 AI 會消滅工作、需要徹底重想社會契約、然後——哎呀——最新模型可能還會引發災難性的資安問題，甚至可能導致世界末日，我也想不出有什麼回報值得任何人付出這種代價。

這聽起來像好交易嗎？你真的能靠行銷把這件事說圓嗎？只有當你擁有 software brain，才會覺得這種事說得通——也就是你的操作框架是把一切扁平化成資料庫，再用結構化語言去控制它。那些花大錢去設一整群 AI 代理、再寫下成千上萬行程式碼的人，看世界的方式就是在找自動化機會、找可重複流程、找資料蒐集點，然後建軟體。對他們來說，AI 很棒，甚至有種會永遠改變我們與電腦關係的興奮感。

但對其他人來說，AI 只是個要求很多的內容垃圾怪獸。它是威脅。我不是說一般人不會用 Excel 或 Airtable 來規劃婚禮，也不是說 AI 未來不會對一般人有幫助。我想很多人都喜歡資料，也會追蹤自己生活的一些面向。我寫這篇的時候，身上還戴著 Whoop 手環。我只是想說，這些東西不是全部。不是我們生活中的每一件事都能被量測、被自動化、被最佳化，而且也不應該被這樣做。

所以，科技業一邊把 AI 以驚人的代價——能源、排放、製造產能、記憶體供應——推進到各個角落，一邊還困在 software brain 的狹窄框架裡，卻沒發現自己其實也在要求人們變得比較不像人。然後他們再坐在那裡疑惑，為什麼大家都討厭他們。

我不覺得換幾個髮型就能解決這件事。

有關這集的問題或留言，歡迎寄到 decoder@theverge.com。我們真的會看每一封信！

Decoder with Nilay Patel The Verge 的 podcast，談大問題與其他麻煩事。

訂閱 NOW！

關注這則故事的主題與作者，會在你的個人首頁與 email 更新中看到更多類似內容。

Nilay Patel

· · ·

延伸評論：AI 不是不夠強，是被人用錯了世界觀

這篇最厲害的地方，不在於它替 AI 辯護或開火，而是把問題往更深一層推：不是模型會不會做事，而是做事的人到底把世界想成什麼。當一個產業只會把人、流程、關係與責任全部壓成資料庫，AI 就很自然會變成一台更大、更快、也更不近人情的壓縮機。

這也解釋了為什麼企業端特別容易擁抱 AI：因為企業本來就愛看 KPI、流程圖、權限表與自動化。但在日常生活裡，人們要的是彈性、模糊、保留空白，而不是每個決定都能被 log、被追蹤、被優化。AI 一旦跨出工作流，開始要求人把生活交出去，反感就會很快出現。

真正值得記住的是這句反向命題：電腦應該適應人，不是人去適應電腦。當 AI 產品設計開始把「可被理解」等同於「可被接管」，它就已經離使用者很遠了。