讓我們先從 LLM 開始談起，我認為 Context Widows 的觀點很適合開始理解問題在哪裡。問題不在 LLM 或是廣泛的 AI 領域有用或是沒用，正如 Context Widows 一文自己所說跟我從其他地方看到的，正面的產出確實存在，像是

蛋白質折疊
材料科學
用壓縮映射模擬星系演變

而可質疑的問題也一直存在：幻覺、缺乏理解。更不用說直接的負面影響

氣候
佔用能源（包含在天災時電網供電給計算中心而不是醫院）
剽竊創意

Context Widows 真正要談的是，比起問 LLM 有沒有用，更恰當的問題是：LLM 能否有效地融入科學知識的創造、驗證和傳播過程中？

LLM 能否有效地融入科學知識的創造、驗證和傳播過程中？ [local-0]

由於一項技術的潛在用途並非其實際用途，而實際用途又取決於採用該技術的機構、機構試圖解決的問題以及機構用作衡量成功的既有指標。所以 Context Widows 認為探討 LLM 與科學的關係，等若詢問 LLM 出現之前，科學界已經運作著怎樣的體系？

我們知道當代科學界的主導是引用體系，隨著時間發展，引用體系已經改變它本要量測的對象；科學家會調整自己的行為以最佳化指標。Context Widows 也駁斥用古德哈特定律「當一個指標成為目標時，它就不再是一個好的指標」來解釋這件事，因為古德哈特定律只認為指標是問題，但 Context Widows 一文認為有問題的是需要指標才能運作的組織形式。

在這個背景下，LLM 雖然有其他的功用，卻只會加速學術界的固有邏輯：更多的發表。引用文中的話來說

LLM 並非經濟學家（一群熱衷於用貶低維度的方式來消除意義的人）所稱的科學激勵「結構」的創造者。相反，這項技術恰好出現在這樣的背景下，提供了一種更快的方式來生產系統所獎勵的成果。

而很明顯的，這不局限於學術界中，搜尋引擎的誕生改變了網路，SEO 變成很多網站在意的事，從而產生了內容農場這樣製造垃圾的存在。

到這裡我們先總結 Context Widows 的結論：

LLM 並非科學出版功能失調的始作俑者；它們繼承了這種功能失調，加劇並使其運行得更快。就像一種通常無害的病原體在免疫功能低下的患者體內肆虐一樣，它們指出了問題所在，但如果將它們視為問題的全部，那就大錯特錯了。人們或許會希望這種加速發展能加劇矛盾，讓系統如此迅速地產生大量劣質內容，最終讓問題變得無可辯駁。但是，正如我們現在應該都明白的那樣，系統可以無限期地處於功能失調狀態，而荒謬本身並不會自我糾正。這種加速發展究竟會導致崩潰、適應，還是只是延續現狀，並非技術本身的問題，也無法透過關於技術能力的爭論來解答。答案將由運行這個計畫六十年的機構來解答。

於是現在我們可以更進一步的詢問：LLM 能否有效的融入商業的創新、運作和責任之中？

LLM 能否有效的融入商業的創新、運作和責任之中？ [local-1]

同樣的，這使得我們去問：LLM 出現之前，商業運作著怎樣的體系？

在經濟學追尋公司的意義時，Milton Friedman 在 1970 年提出 The Social Responsibility of Business Is to Increase Its Profits，直譯大概就是「企業的社會責任是增加利潤」，這是當代企業的主流追求與試圖實踐的理想。這有什麼樣的後果？

Paul 有兩篇相關的 thread，很清晰的闡述了當代的企業環境

儘管我們大多數人都生活在現代企業地獄般的環境中，仍然無法理解大企業的運營究竟有多麼嚴重的破碎，以及它們在多大程度上依靠虛假、欺騙和胡言亂語來運作。

所以，為什麼公司部署 LLM 呢？Paul 讓我們從底線來看：XX 公司的新 AI 客服描述不存在的功能，或是叫人們去吃釘子或膠水。會怎樣嗎？嗯反正他們以前那些不幸的、缺乏訓練的、工資微薄、像泥土一樣被對待的客服人員（過去負責處理所有的客戶支援），實際上也沒有幫助人們。由於 XX 公司對吞吐量的要求如此之高，並且對問題關閉的激勵如此之大，以至於他們的客服人員帶領人們白費力氣，罵人或放棄回應。LLM 不會罵人，不會放棄回應，吞吐量極高。它在帶領人們白費力氣上「遠遠」比人類更有效率，而且有時候僅僅靠運氣，它實際上是對的！

從底線來看，部署 LLM 其實沒有那麼糟糕！所以現況其實是

商業活動為世界提供的實際價值如此之少，以至於用快速、自動化的廢話取代緩慢的人類廢話似乎是一場勝利。

所以對於採不採用 LLM，我們可以問的問題是：如果它是錯誤的，那麼重要嗎？Paul 以特斯拉為案例：特斯拉正在銷售這些「顯然」還沒有準備好迎接黃金時段的自毀汽車，它們會用事故後打不開的車門將人們困在裡面，然後將他們活活燒死。而且他們仍然在銷售大量這些東西。如果對他們來說這樣都無關緊要，那有多少虛假和危險的商業環境是可以被他們接受的？

LLM 是假的？又怎樣呢？商業也是如此。

更具體的說，LLM 會對管理層帶來什麼影響？對糟糕的組織領導人來說，讓擁有專業知識的下屬不去檢查他們的想法基本上就是成癮性藥物。那 LLM 豈不是就是不會拒絕他們任何「高妙」想法的完美下屬？這是一種強大的心理力量，促使我們快速地往採用 LLM 滑動，無關乎這是否有用。

所以同樣的，LLM 表現出的，是對既有商業實踐的加劇與加速，放大既有的功能失調。在 LLM 以前同樣有 08 年的次貸風暴，遵循一樣的系統運行規則而致。

監控資本主義提出現代商業的核心邏輯是：資本的來源是販售預測；最容易被預測的人群，是被監控甚或控制的人群。因此獲利的動力會驅動大規模的監視與控制。

按吳修銘的話來說，即使是 Google 最大的反對者也很難說監控資本主義談的是 Google 的主要目的。但這可以被視為一個特別黑暗的隱喻，指向現代商業實踐的最糟結果。而現實中最接近的，是中俄等專制政權已經學會怎麼用現代技術影響他國的政治。

《讀賣新聞》報導台灣政府正高度警戒中國透過操縱輿論介入選舉
法國國際廣播電台報導歐洲如何應對俄羅斯的政治宣傳和軍事威脅？

再次的，LLM 提供了加劇破壞社會討論的一種方式，即用無限量的劣質資訊破壞言論場域，但這是因為網路早已逐漸侵蝕了公眾對談的能力。參見 Are we too connected to social media? An explanatory research the problematic social media use in self-esteem, phubbing and procrastinating behaviour。

LLM 能否有效的融入人的成長、交流與生活中？ [local-2]

LLM 能否有效的融入人的成長、交流與生活中？這當然是一個複雜的問題：LLM 出現之前，現代人類是怎麼成長、交流與生活的？

現代的主流成長方式，是未成年人類放到學校；而成年人上網看一些什麼如何投資、如何成長的東西，比如人們會看教你如何閱讀的影片，但不會真的去閱讀。對了，老闆想要成長 — 我們就讓老闆「看見」成長。
現代的主流社交方式，是在稱之為社群媒體或是社交平台（像是 threads、IG、FB）的地方對幽谷大喊，由演算法控制人們看到什麼（你很好奇為什麼 meta 好像持有前述的所有平台？這是很好的好奇）
現代的主流過活方式，是必須上 8 小時以上的班，換取大概能過活的薪水，在剩餘的時間想辦法娛樂自己，我們勉強稱之為生活

LLM 會怎麼影響，要看 LLM 有哪些具體的施展位置。

在學校逐漸提高效率要求的情況下，你要怎麼譴責老師：用 LLM 生成題目、改答案、規劃教學？
在課業繁重的情況下，學生要怎麼不用 LLM 生成作業？尤其是成績如果能因此提高，而系統獎勵成績時？
人們要怎麼分辨出 LLM 生成的留言然後避免被影響？
人們要怎麼在生活壓力越來越大時不對 LLM 宣洩情感？至少它不會罵我們
人們要怎麼在不因為能對 LLM 下令而被權力損傷？

oh, I just realized: does this mean that AI gives everyone the chance of the brain damage humans get from too much power too long?

參見 Power changes how the brain responds to others。
要怎麼在搜尋引擎預設就提供 LLM 合成答案時去搜尋原始文章，確認內容？
要怎麼在繁重的工作壓力下保持生活？

上述的問題，有些出自商業邏輯，有些跟我們的社會運作有關，有些是因為人類的生理能力。再次的，LLM 加劇我們的問題，但不是唯一的原因。要讓 LLM 技術不對人類造成危害，就要在這些具體的案例中找出我們的解答。

注意到，這篇文章的目的不是號稱 LLM 全然的不好，或是商業多麽的灰暗；即使是最荒謬的公司中都有很多好人試著改善問題；學術界就算深受引用指標影響，也依然有大量有用的研究出產。最糟糕的莫過於直接跳過具體案例的討論，做出這個世界已經完全沒有救的結論。

這篇文章的目的是，從我有限的觀察與閱讀中，指出具體的商業、科技與政治問題，並且試著改善它們。如果問萬事揭曉：打破文明演進的神話，開啟自由曙光的全新人類史最重要的意義是什麼，我會說是 Graeber 指出人類具有想像並構造自己的政治的能力，遠超過當代人對自己的想像。或許我們可以試著打造一個世界，減少指標的需要、降低對效率的要求、更關心你我周遭的人、更注重環境對我們說的話，這不是什麼烏托邦，衝突不會簡單的消失，但我們需要真的開始對話跟行動，這一切才有出路。