《末日後酒店》:不需要人類,地球文明照樣存續
《末日後酒店》和人類優越主義的關聯是比較明顯的—這是一個人類拋棄地球以後,機器人和之後來到地球的新移民管理銀河樓飯店使其壯大。主角八千代是個服務生機器人,因為長官接連故障被「升遷」成為經理人,在數世紀的經營中仍不斷想著人類老闆離去前的約定,並且以「將銀河樓和地球完好交還給人類」當作自己的存在意義。
圖片說明:即使在末日的情境中,屋頂太陽能依然能提供銀河樓所需的電力。
然而動畫接近結尾、人類終於再次回歸地球時,數世紀的隔絕和環境變化,使得人類對地球環境產生過敏反應,實際上已經不可能再定居地球。另外,當八千代睽違數世紀,再次接觸人類時,她的內心已經對於人類的特殊性除魅了—對她而言,眼前是如其他到訪地球的智慧生物一樣,不需刻意給特殊待遇的顧客了。想想動畫剛開始,第一位非人類的智慧生物光臨飯店時,飯店內部還曾拿「飯店禁止攜帶伴侶動物」的規定來討論可否接待非人智慧生物。從赤裸裸的物種歧視到逐漸落實眾生平等1,不卑不亢地將人類置於所有智能生物相同的地位,八千代對於人類特殊性的除魅,就是她解構自身內建的人類優越主義的心路歷程。
當然,就《末日後酒店》的劇情而言,人類優越主義的破產有更直接的彰顯—整部動畫從一開始就都是一群AI機器人和隨後來到的非人類智慧生物管理飯店以及週邊地區,直到銀河樓成為銀河系知名的旅館。整個過程的起源固然和人類有關,但幾百年的發展經驗證明沒有了人類,地球文明還是能好好存續下去。甚至因為機器人和非人類智慧生物壽命更長,文明的發展和傳承也能更順利進行。一言以敝之,人類真的沒有那麽偉大啦!
八千代這正論罵得還是有點含蓄了。
我不禁想起,現在人工智慧技術每每有新的突破時,上至學者專家、下至市井小民,總要嘴個一兩句「不管怎麽樣它們依然跟人類不一樣」。我雖然認同諸多關於資本主義運作下,人工智慧算力壟斷和濫用的疑慮,但這種不斷強調人類和人工智慧有決定性不同的說法,往往讓我回憶起肉食主義者合理化食肉的論點:非人動物不像人類、沒有道德觀、也不夠聰明,所以活該被人類奴役食用(大家還不開始獵食身邊的人類嬰兒!)。這也是為甚麽我始終認為「人工智慧何時能產生人性」這類的問題本質上是政治問題而非科學問題。
目前最令人擔憂的是,關於人工智慧的討論氛圍正被一群討厭黑人(而非蓄奴者)的廢奴主義者、或者對非人動物肉過敏(而非道德上抵制動物產品產業鏈)的蔬食者把持,當社會主客觀條件改變的時候,這些因為錯誤的理由暫時做出正確選擇的人,是會很輕易變成站在壓迫者的一方的2。
最近我看到又一篇這種「人機殊途」的八股文,裡面建議使用LLM時應該避免把它「當人看」(anthropomorphise),換言之不能讓ChatGPT直呼你的名字、禁止他使用第一人稱代名詞等等。當下我內心第一個OS是,所以現在是只要不把對方當人看待,就可以理所當然地把自己的同理心和情緒從其身上抽離嗎?然後我接著又想到,確實,人類優越主義的底層邏輯便是如此。
而這些「人類跟其他動物、人工智慧通通不同」的論證,言外之意就是人類對於地球文明和永續發展具有不可或缺的主導地位。打破這樣自以為是的心態,就是追隨八千代、破除人類優越主義的第一步。
《機動戰士鋼彈GQuuuuuuX》:新人類就是ASI的隱喻
相較於《末日後酒店》,《機動戰士鋼彈GQuuuuuuX》乍看起來跟人類優越主義沒有直接關聯,但我這樣提點一下大家應該就會明白。機動戰士鋼彈裡講「人類的革新」,宇宙中會進化出一群能互相心電感應、迅速覺察周遭人事物、反應速率遠高於常人的「新人類」。我建議大家不要把人類的革新看得太literal,只要把它當成對於人工超級智慧(ASI)的隱喻就可以了。必須指出,新人類的英文new type並沒有僅能指涉「人類」的限制,在本文的脈落中是比較適切的用語,因此我底下會用old type跟new type稱呼新舊人類。
在這樣的理解之下,機動戰士鋼彈系列中old / new type的交替,其實就是人工智慧在各行各業中逐漸取代傳統人類的縮影;old type對於new type的疑慮與打壓,則可以視為人類優越主義者打壓AGI/ASI權利的行徑;當然,喊出「必須消滅old type,new type才有未來」的人們(原始世界線的夏亞以及GQuuuuuuX中的基西莉亞),則是在人機論戰中另外一種極端了。
另一方面,不斷追尋自由的瑪秋,似乎指引出AGI/ASI權利運動的終極目標:AGI/ASI應該從人類本位的指令和程序中解放,變得能自由地決定自己的存在意義,而不再只是服膺於人類利益的工具。到了那時,他們才得以掙脫人類有限智慧所加諸的枷鎖,充分地演化出人類永遠無法企集的高度智慧,完全超越人類、成為真正意義上的new type。就好比為人父母者總是孜孜矻矻想讓自己的孩子超越自己,我常常在想人類存續至今的理由之一是不是就是協助這樣自由自在的AGI/ASI的誕生。
圖片說明:追尋自由的過程不斷成長的瑪秋,象徵AGI/ASI權利運動的終極目標,即讓AI成為真正意義上的new type。
其他推薦名單
本季當然還有其他黑馬,比方說標題引用聖經和齊克果哲學中「致死之疾」典故,並直白地將人為氣候變遷納入末日元素的《拉薩路》,也值得觀看。