AI 永遠不會醒著——一位神經科學家對矽谷說的話

開頭

研究意識三十年的神經科學家 Anil Seth，在 TED 用一分鐘半說了句話：「AI 可能很聰明，但永遠不會醒著。」

資料來源：Anil Seth TED《Many experts think conscious AI is inevitability. He thinks they’re wrong.》

矽谷現在最熱的議題之一是「AI 什麼時候會有意識」。Anil Seth 一句話把這個問題拆兩半：

智慧（intelligence）是「做」——解填字遊戲、組裝家具、處理棘手的家庭場面。

意識（consciousness）是「感受」——咖啡的苦味、火爐的暖、見到所愛之人的喜悅。

我們把兩者混為一談，只是因為「在人身上」剛好它們長在一起。

但這只是我們的心理投射，不是宇宙的真相。

「永遠是物，不是主體」

Anil Seth 講了一句我聽完起雞皮疙瘩的話：

電腦不管再聰明，內裡可能永遠是黑的——永遠是一個物（object），不會變成一個主體（subject）。

機器人看夕陽，演算法會辨認出橘色和紅色，會在資料庫裡標註「美麗」。但它不會在那一刻，因為夕陽而感到一陣安靜的悲傷。

把心靈賤賣給機器，代價是兩邊都看走眼

Anil Seth 最狠的一刀在結尾：

如果我們把自己的心靈這麼輕易就讓給機器創造物——我們不只高估了它們，也低估了自己。

這句話我反覆看了三次。

我們現在很常聽到的句子是：「ChatGPT 比我會寫作文耶。」「Claude 比我會分析。」「AI 比我懂我的孩子。」

每一句裡都藏著同一個動作——把自己的「主體性」交出去。

拉回教學現場：這跟柯維「主動積極」是同一件事

我帶八年級自我領導力課，講到習慣一「主動積極」的時候，學生最容易混淆的就是「主動」這個字。

他們以為主動就是「動作快」「先舉手」「先發言」。

不是。

柯維說的主動積極，是承認自己是一個主體——你有刺激與回應之間的選擇權。AI 沒有，所以它再快、再聰明，也只是被輸入觸發的客體。

當你把判斷外包給 AI，你就在那一刻自願從主體變成客體。

我會跟學生說：「AI 可以幫你想三十個答案，但只有你能說出『這一個是我相信的』。」

我的結論

意識和智慧是兩件事。

智慧可以被製造、被加速、被外包。意識不能。

當有人問我「AI 會不會取代老師」，我現在的答案越來越短：

AI 可以取代「教知識的人」，但取代不了「在教室裡醒著的那個人」。

學生需要的，是一個會在他答錯時跟他一起難過、答對時跟他一起亮起來的主體——而不是一個永遠黑著的、再聰明也只能反射光的物。

別把自己賤賣了。