D - 273
(原文:AI and the Self You Left Behind)

你認為,解決問題的歷程最具價值的是什麼呢?
答案是 — 解決問題「過程」中所經歷的認知負荷以及摩擦力,那是人發展與成長的關鍵,但是現在這個歷程卻悄悄的被AI取代,只為了那個精美的「結果」。
〔當善於思考的人逐漸失去自己的聲音〕
本篇文章提到了一個我從來沒有想過的角度和觀點,那就是受AI負面影響最深的,正式那一群善於思考的人:
I believe that this is the particular vulnerability of people who think well, because, for them, the substitution is most convincing. The AI output may most closely resemble what they would have produced, and that gap can be harder to see when it's very narrow. The person who struggles to write was never tempted to believe the machine's voice was their own. The person who thinks well is precisely the one most likely to mistake the echo for the original.
特別是那些善於思考的人反而是最脆弱的一群人,對他們來說,「替代」是最具說服力的。AI的輸出會非常接近這群人的產出,而之間極微小的差距幾乎難以察覺。那些身陷於寫作困難的人並不會相信機器的輸出就是自己的想法,反而那些善於思考的人就是最容易將「回聲」誤認成「原聲」的人們
AI的橫空出世造成了許許多多的恐懼,恐懼著「人類的被取代」,隨著AI的應用越來越普及,那個被取代的聲音逐漸形成了另外一種觀點,那就是「你可能不會被AI取代,而是會被『會使用AI的人』取代」,那些善於思考的人更善於導入AI進入自己的生活並從中獲益,工作、思考、產出,無不讓AI大量參與其中,但是,人腦並不是「穩定」的固定架構,腦袋的認知結構像是溪流,不斷的根據自己的行為與接收逐步的被調整與變動。
文章提到:
AI doesn't degrade cognition directly as a disease that targets a biological structure or function. It's my sense that AI reshapes the cost structure of thinking. And we, as rational humans, optimize accordingly. The hard paragraph to draft is no longer something you struggle with. It becomes something you route around.
作者表示AI並不會直接像疾病一樣直接降低人的認知能力,而是整個思考的成本與結構會直接被重塑,作為人類,有了AI的協助,我們不再會受困於「面對那些任務中起草時所面臨的困難、摩擦力與痛苦」,相反的,我們直接「繞過這些困境」並交給AI處理,但事實是,我們所繞過的部分卻同時也是我們最能從中獲益並且成長的部分,漸漸的我們追求的是AI的高品質產出,忽略了思考歷程才是使人有所獲得的關鍵,我們並不是成為了沒有辦法獨立思考的人,而是總是選擇最高效方法並漸漸「不再選擇獨立思考」的人!
〔陷阱!人的最優解〕
人會身限於其中那是因為,選擇AI的產出「總是」理性上來說是最優解,文章的這段讓我既震驚卻又能夠感同身受:
Something that was close becomes unfamiliar as your own voice starts to feel effortful. The AI voice feels curiously more like you, or perhaps the you that you aspire to be. It's a rational trade-off that fits nicely into this cost structure. That's precisely what makes it hard to resist and harder to reverse.
當「運用自己的聲音」來思考、寫作、產出越來越費力時,那個原本熟悉的自己就會漸漸的「疏遠」,反而,AI的聲音會更像我們自己的內在聲音,又或者,我們「渴望」擁有的聲音,大腦的原始追求本就是找尋「最低耗能」的解決方案,當AI的介入成為我們理性上的最優解,那麼,我們將逐漸的對於思考的耗能以及摩擦力的容忍度越來越低,因為AI解決了一切,而這個歷程,是無法輕易被察覺得。
現在我已經習慣在思考、學習、產出時都「問」AI、和AI「討論」,但生成式AI的底層概念依然是「機率」,真正重要以及有價值的依然是我在面對問題時那個痛苦的、身陷於沒有想法的摩擦過程,那是使我的腦袋越來越清晰、越來越成長的關鍵,倘若我過度在乎「輸出」,我自然會想要讓AI的介入能夠多就多,但我卻在過程中捨棄了從犯錯中成長的機會、思維訓練的過程以及人類還存有的價值 — 獨立思考,讀完這篇產出這段文字,我沒有全部丟給AI,請他給我建議,而是刻意反覆的閱讀、反覆的對自己的文字提出問題:
- 為什麼我這樣認為?
- 這個認為基於哪一段看到的文字?
- 實際上的意義與我的產出相同嗎?
那些AI正在取代但是最有價值的是:
It's the specific texture of your uncertainty, the way your thinking hesitates and then commits, the half-formed idea that becomes, through friction, yours. That process is recognizable and you know it when you're in it. You know it, too, as a kind of meeting or impact with the problem, and with yourself. And you notice when the meeting doesn't happen.
那不確定性的樣貌,是那些你思考時的遲疑以及之後的逐漸確定,也是那尚未成的點子經歷摩擦力後逐漸形成自己的想法,這些過程都是可辨認的,你會在過程與問題也與自己碰撞,同樣的,你也會注意到這個歷程沒有發生
對於習慣使用AI的我需要在這裡停下,我需要的是容忍不夠好的勇氣,並將焦點放在,在這個思考的過程中,我,獲得了什麼?
科學的發展不是漸進,而是典範轉移的「革命」,也許我們已經在所謂的奇異點之中了,這次的AI革命,改變了什麼,那些悄悄在發生的事情才是最需要覺察的事情,以免不知不覺,我以為我在使用時下最關鍵的工具,卻與自己身為人的價值,逐漸疏離了……



















