今天，AI已經(jīng)不再是一項“隱藏在幕后”的技術(shù)，特別是生成式AI，它們以普通人工更容易感知到的方式參與到了很多工作當(dāng)中去。

從寫代碼到擬合同，從生成圖片到寫小說，AI們都能勝任，而且在一些領(lǐng)域的表現(xiàn)甚至比人類“新手”還要好?？雌饋恚祟愒僖膊挥米瞿切盎A(chǔ)又枯燥”的事情了。而且有了AI之后，我們似乎也可以把所有的精力都集中到更具創(chuàng)造力的事情上去了。

也有人對此表現(xiàn)出了擔(dān)憂，既然AI能完成的事情越來越多，人類是不是就越來越不重要了？其實，用機械設(shè)備以及計算機幫助人類操作和思考不是今天才有的想法。比如自動化設(shè)備早已進(jìn)入了工廠，很多復(fù)雜系統(tǒng)的調(diào)度規(guī)劃和操作也都是計算機完成的。

而在這些領(lǐng)域已經(jīng)發(fā)生的事情，或許能為今天的我們提供一些參考借鑒。

圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

自動化的反諷

早在1983年，英國認(rèn)知心理學(xué)家莉?！へ惗鞑祭锲妫↙isanneBainbridge）就在自動化控制領(lǐng)域的頂級期刊《自動化學(xué)》（Automatica）上發(fā)表了一篇文章，名為《自動化的反諷》（IroniesofAutomation）。

貝恩布里奇寫這篇文章的時候，并沒有像今天這樣功能強大的生成式AI，但在當(dāng)時自動化系統(tǒng)已經(jīng)開始出現(xiàn)了，這與今天的AI化有著一定程度的相似之處。

貝恩布里奇在當(dāng)時的文章里，就提到了自動化可能會帶來的問題，我們也順著貝恩布里奇的觀點來看一看。

首先，貝恩布里奇認(rèn)為，自動化這件事本身就很有諷刺意味。

“自動化”要做的事情，就是用機械、計算機等不需要人類參與的裝置系統(tǒng)替代人類，去執(zhí)行某些操作或者進(jìn)行規(guī)劃決策。但是，即便是高度自動化的系統(tǒng)，比如電力網(wǎng)絡(luò)、復(fù)雜的生產(chǎn)線，仍然需要人類投入大量的時間去監(jiān)督、調(diào)整、維護(hù)、改進(jìn)等。

自動化的經(jīng)典目標(biāo)是用自動設(shè)備和計算機替代人工控制、規(guī)劃和問題解決......本文指出，工程師對人因工程日益增長的關(guān)注反映了一種諷刺現(xiàn)象：控制系統(tǒng)越先進(jìn)，操作人員的貢獻(xiàn)可能就越關(guān)鍵。

而且，自動化的控制系統(tǒng)越先進(jìn)，人類在系統(tǒng)中發(fā)揮的作用可能更關(guān)鍵。

比如自動化系統(tǒng)的設(shè)計者在遇到無法自動化的任務(wù)時，會把這些任務(wù)留給人類來完成。而這些任務(wù)往往是復(fù)雜度高、難以形式化和規(guī)范化的。系統(tǒng)越先進(jìn)，留給人類處理的任務(wù)復(fù)雜度往往也越高，也就更依賴人類的能力。

試圖減少人類操作員的設(shè)計師，仍然會把不知道如何實現(xiàn)自動化的任務(wù)交給人類操作員去完成。

圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

另外，為了確保復(fù)雜的系統(tǒng)能夠順利運行，在它們出現(xiàn)異常狀況時能夠及時被發(fā)現(xiàn)、及時作出正確的干預(yù)，同樣也需要有專業(yè)技能過硬、經(jīng)驗豐富的人類提供保障。

所以，自動化本身是要讓機器來替代人類，但實際上，為了設(shè)計以及確保自動化系統(tǒng)的順利運行，又極度依賴人類的能力。這是貝恩布里奇認(rèn)為，自動化“反諷”的原因之一。

AI時代，人類的能力同樣關(guān)鍵

而在AI工具蓬勃發(fā)展的今天，情況也是類似。

當(dāng)我們使用AI去完成任務(wù)的時候，能夠熟練運用AI工具，并且確保它們生產(chǎn)出的內(nèi)容能夠穩(wěn)定運行，同樣對人類知識和經(jīng)驗有更高的要求。

比如，Fastly（一家美國先進(jìn)的云服務(wù)提供商）在2025年7月進(jìn)行了一項調(diào)查，對比了在IT領(lǐng)域，初級開發(fā)者（0~2年工作經(jīng)驗）和資深開發(fā)者（10年以上工作經(jīng)驗）使用AI寫代碼的情況。

結(jié)果發(fā)現(xiàn)，有30%的資深開發(fā)者使用AI編寫的代碼比例超過50%，而在初級開發(fā)者中，只有13%的人會用AI完成這么高比例的代碼。

這并不是因為初級開發(fā)者不知道這些AI開發(fā)工具。

而是AI編寫的代碼如果存在問題或者不那么完美適配（這個情況很常見），資深開發(fā)者有能力去進(jìn)行調(diào)整，而初級開發(fā)者可能無法快速識別出代碼中的問題、沒法高效率地進(jìn)行編輯調(diào)整，所以會適當(dāng)減少AI生成代碼的比例。

在筆者所在的寫作行業(yè)，同樣是生成式AI“橫行”的領(lǐng)域。而且AI寫出的內(nèi)容確實會比很多新手作者寫得更好。

但是在特定的領(lǐng)域，比如科普類文章撰寫上，AI生成的文章可能存在事實性錯誤，這樣的錯誤屬于硬傷，如果直接發(fā)布會對科普類內(nèi)容的公信力產(chǎn)生影響。

而對知識性內(nèi)容進(jìn)行核實和修改，還是依賴人類的知識和經(jīng)驗積累。

至少目前，AI還無法確保內(nèi)容的真實可靠，依然有可能出現(xiàn)“AI幻覺”（比如生成不存在的文獻(xiàn)資料、編造一些事件。點擊可回顧往期文章。）只要AI編造內(nèi)容的概率不是0，就意味著需要人工檢查每一條信源。

另外，AI寫出的文章結(jié)構(gòu)不一定那么完善，所以在使用AI之前，需要作者構(gòu)思好文章的整體結(jié)構(gòu)，每一部分的核心講述內(nèi)容，以及想表達(dá)的思想，這樣生成的文章才不至于那樣有“AI味”。而這些也都要在長期的寫作、修改過程中建立起來。

這些例子都印證了貝恩布里奇的觀點，即便是先進(jìn)的自動化系統(tǒng)，同樣依賴人類的能力。

人類能力“訓(xùn)練場”正在消失

可是，當(dāng)大量的自動化系統(tǒng)和計算機代替人類之后，人類實際動手操作的機會越來越少，這種實際操作機會的缺失，對知識和技能的積累來說是十分不利的。

貝恩布里奇的文章里就提到，當(dāng)時的人們已經(jīng)意識到了這一點，并且希望通過理論學(xué)習(xí)和培訓(xùn)的方式來解決這個問題，但她認(rèn)為理論學(xué)習(xí)和培訓(xùn)的作用有限，很多領(lǐng)域的知識需要在使用中才能真正被理解和掌握。

一方面，從長期記憶中高效提取知識取決于使用知識的頻率。另一方面，這類知識只能通過使用以及使用后的有效反饋，才能得到發(fā)展。如果人們僅僅在課堂上接受理論教學(xué)，而沒有適當(dāng)?shù)膶嵺`練習(xí)，他們可能很難理解這些知識......

這一點在AI時代也是相似的。

我們還是以前面提到的AI編程領(lǐng)域為例，對于剛剛?cè)胄械摹俺跫夐_發(fā)者”來說，他們似乎是趕上了“好時代”，相比于十年前，現(xiàn)在的AI編程工具功能強大，甚至可以直接通過自然語言對話生成還不錯的代碼。

看起來，現(xiàn)在的新人開發(fā)者們可以直接跳過“寫出爛代碼→出BUG→調(diào)試→理解底層邏輯→修正→更好的代碼”這個痛苦的過程。

但這個過程，恰恰對開發(fā)者的技能以及理解力的提升很有幫助。正是這樣的成長過程，讓一字一句敲代碼成長起來的資深開發(fā)者能更好地駕馭AI工具。

可是在當(dāng)下，留給初級開發(fā)者練習(xí)的機會正在減少。

圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

正如我們前面提到的，老板們希望用少數(shù)經(jīng)驗豐富的人類+AI工具，替代原本的人類大團(tuán)隊，這樣的設(shè)想確實有可能實現(xiàn)，或者說，已經(jīng)在實現(xiàn)中了。比如2025年8月，斯坦福大學(xué)研究者發(fā)表的一篇文章就提到，22到25歲“入門級”職位受到AI的沖擊影響更大。而在軟件開發(fā)領(lǐng)域影響尤其明顯，22到25歲的初級開發(fā)者工作機會比之前減少了約20%。

于是，初級開發(fā)者面臨著需要實踐操作來成長，卻又沒有實踐機會的尷尬局面。

所以，假如某個行業(yè)過度依賴AI，完全用它們來生產(chǎn)內(nèi)容，可能會對這個行業(yè)的初級從業(yè)者產(chǎn)生影響，讓越來越多的行業(yè)新人失去“訓(xùn)練場”，不利于這些從業(yè)者未來的能力、經(jīng)驗積累，進(jìn)而影響到整個行業(yè)的未來人才儲備。

AI真的能讓創(chuàng)造力更好地釋放？

當(dāng)然，我們并不是說自動化和AI化是不好的，自動化和AI化確實可以讓人們從機械重復(fù)的體力活動以及簡單瑣碎的智力活動上釋放出來。

比如，雖然AI編寫出來的程序需要人為調(diào)試，但AI確實能夠幫助資深程序員省去寫具體代碼以及在大量的代碼文庫中檢索特定片段的時間。

靠著自動化系統(tǒng)和AI工具，一些精英個體或者小團(tuán)體確實能把自己的能力發(fā)揮到極致，創(chuàng)造出更大的價值。

而且我們也不懷疑，自動化、AI化的轉(zhuǎn)型將會為社會帶來新的崗位，在未來解放出來的生產(chǎn)力可以投入到新的更有創(chuàng)造性的事情中去。

但在轉(zhuǎn)型發(fā)生的當(dāng)下，并不一定會有真正的創(chuàng)造力釋放。

圖庫版權(quán)圖片，轉(zhuǎn)載使用可能引發(fā)版權(quán)糾紛

還是借鑒貝恩布里奇的觀點，她認(rèn)為在自動化的影響下，人的工作可能不再是一個完整的閉環(huán)，而是去彌補自動化系統(tǒng)無法完成的一小部分任務(wù)，這些任務(wù)非常復(fù)雜但又很碎片化，并不能真的讓一個人的能力提升。

這意味著留給操作員的任務(wù)可能是隨意拼湊的，并且很少考慮到為他們提供一些幫助。

而且貝恩布里奇還發(fā)現(xiàn)，在自動化過程中，很多人從具體的操作者變成了監(jiān)督者，而人類本身算不上是優(yōu)秀的監(jiān)督者。

對于一個相對穩(wěn)定、很少發(fā)生故障的系統(tǒng)，人類很難對這樣的系統(tǒng)保持30分鐘以上的高度專注狀態(tài)。

所以人類在長時間監(jiān)督之后，容易懈怠，在這樣的狀態(tài)下，如果真的出現(xiàn)了緊急狀況，人類很難及時做出反應(yīng)。

另外，處于監(jiān)督者狀態(tài)的人類操作員因為沒有實際上手操作，會缺少對整個系統(tǒng)狀態(tài)的詳細(xì)認(rèn)知，不一定能在緊急情況下做出合理的決策。

這有點類似一輛L3級別的自動駕駛汽車。在大部分情況下，它能夠自主運行，理論上駕駛員也要時刻保持警惕，但在長時間的平穩(wěn)駕駛情況下，人類的警惕性會不自覺地降低。這時候如果自動駕駛汽車遭遇了無法處理的場面，會讓人類緊急接管。這時候的人類駕駛員很可能“不在狀態(tài)”，這時候要在短時間里處理自動駕駛汽車都無法應(yīng)對的復(fù)雜局面，很可能會出錯。

所以，當(dāng)公司開始向AI化轉(zhuǎn)型的過程中，如果僅僅是讓人類成為AI的監(jiān)督者，人類也很難發(fā)揮出更好的創(chuàng)造力。

不反對技術(shù)，不漠視人類

最后，我們也要再次說明，技術(shù)本身并無善惡。自動化與AI化的浪潮也不可阻擋，它們確實為我們帶來了前所未有的效率提升。

我們應(yīng)該警惕的是，在“AI化”轉(zhuǎn)型過程中對人本身的工具化和漠視。真正的“降本增效”，不應(yīng)該是簡單地用AI剔除初級員工，而是利用AI帶來的效率紅利，給人類留出更多的試錯和成長的空間。

一個健康社會在轉(zhuǎn)型的過程中，理應(yīng)承擔(dān)起對受影響者的職業(yè)過渡支持、對新人成長路徑的重新設(shè)計，以及對“人機協(xié)作”中人類角色的重新定義。

畢竟，無論是多么強大的智能系統(tǒng)，當(dāng)警報燈亮起的那一刻，我們能信任的只有經(jīng)驗豐富且具有社會責(zé)任感的人類。

參考文獻(xiàn)

Bainbridge,L.(1983).Ironiesofautomation.InAnalysis,designandevaluationofman–machinesystems(pp.129-135).Pergamon.

Brynjolfsson,E.,Chandar,B.,&Chen,R.(2025).Canariesinthecoalmine?sixfactsabouttherecentemploymenteffectsofartificialintelligence.DigitalEconomy.

策劃制作

作者丨科學(xué)邊角料 科普創(chuàng)作者

審核丨于旸 騰訊玄武實驗室負(fù)責(zé)人