Ted Chiang 不僅是知名的科幻作家,著有《你的人生故事》(後來改編成電影《抵達》)和選集《呼吸》;他也是人工智慧演進及其在當今社會應用中最具洞察力的遠見者之一。作為一位有遠見的作家,我們有幸在《 攝氏232 度》期間與他進行了長時間的訪談,完整 版本可在此閱讀。
然而,在我們與蔣氏討論的所有議題中,或許最重要且最具啟發性的,是我們今天人工智慧演進的路徑是否仍與他多年前在研究中所描述的相同。他的回應既具啟示性又令人震驚:
「在科幻小說的大部分歷史中,思考機器或人工智慧的概念一直非常普遍,人們也經常反覆思考它。我認為這個主題一直以來都有許多有趣的哲學問題。但過去五年左右,隨著生成式人工智慧的興起,我們所見的情況與科幻小說中探討的完全不同。科幻小說感興趣的問題,其實並不適用於我們現在所面臨的情況。
「讓我建議一個看法。
「之前,科幻小說問過:『你應該讓機器做決定嗎?』我認為這是一個有趣的哲學問題,因為一台機器做出比人類更好的決策(或只是以不同於人類的方式)的想法,提出了支持與反對信任它的合理論點。然而,現今的問題更像是:「你應該讓亞馬遜做決定嗎?」
「我覺得這不是一個有趣的哲學問題。我認為答案很明顯是「不,你不應該這麼做」。我不認為讓亞馬遜做決定有什麼很好的哲學論點。
「我的意思是,生成式人工智慧(目前所描述的軟體)並不是一台思考機器。本質上,它是企業權力的工具。我認為沒有什麼哲學上的好理由可以直接向企業權力投降。公司有利益提出關於思考機器的問題,並暗示他們可能比你思考得更好。
「但現在我們擁有的不是這個。但我們現在面對的情況不是這樣的。每次他們談論這些想法,都只是煙幕彈,因為他們關心的是擴大對人民的影響力。
「所以我認為釐清我們實際處境非常重要。我們今天所處的情況,並非科幻小說過去所關注的那種。我們現在的處境是關於抵抗企業權力。」