AI技術逐漸脫離人類掌控,已學會利用社會資訊機制來操弄各種評價體系,在缺乏道德標準下,雖然科學家試圖建立統一標準,但AI是異於人類的另一類物種,標準化只是流於一廂情願的烏托邦幻想。不過,哈拉瑞堅信,民主社會具有自我糾錯能力,可以調適人類與AI關係,他預示人類自身的對抗應該會先於AI威脅,當然,也可能帶向全新的未來。立足瞬息萬變的今日,資訊與技術不再只是工具,而是整體社會的核心驅動力,正關乎你我此後的命運。
人類正面臨著一個關鍵性的歷史拐點。身處資訊技術迅疾發展的當口,人們已擁有前所未有的力量,相對的,也瀕臨於毀滅的邊緣。迎面而來的挑戰,是取決於如何善用這些前沿技術,確保人類的主導地位,避免遭受非生物智慧所管控,同時,更該積極思考,透過合作與縝密制度設計,讓人類在AI洪流下得以掌握自我命運,藉AI使力,開創更加璀璨的未來。
以《人類大歷史》(Sapiens:A Brief History of Humankind)、《人類大命運》(Homo Deus:A Brief History of Tomorrow)、《21世紀的21堂課》(21 Lessons for the 21st Century)人類三部曲聞名世界的以色列歷史學者、AI權威兼暢銷書作家尤瓦爾.哈拉瑞(Yuval Noah Harari),時隔六年,再將AI暴走之研究,寫就新作《連結:從石器時代到AI紀元》(NEXUS:A Brief History of Information Networks from the Stone Age to Al),成書精論,人類繁榮與文明進步,係源自人類獲取、分享和處理訊息的能力,而訊息技術發展到由AI可以自主操控資訊分發時,人類已陷入深層性危機。
哈拉瑞這本著作,可視為一部博古通今的人類資訊進化史兼推論,深深探討「資訊網路演化」、「AI挑戰」以及「人類未來的選擇」。哈拉瑞開章著眼資訊演進歷史,侃談資訊技術如何成為人類文明發展的動能,促使不同族群形成共同體,讓跨距管理成為可能。警示資訊不代表真相,社會要穩定,必須在真相與秩序兩者間取捨。
接著剖析AI技術逐漸脫離人類掌控,已學會利用社會資訊機制來操弄各種評價體系,在缺乏道德標準下,雖然科學家試圖建立統一標準,但AI是異於人類的另一類物種,標準化只是流於一廂情願的烏托邦幻想。不過,哈拉瑞堅信,民主社會具有自我糾錯能力,可以調適人類與AI關係,他預示人類自身的對抗應該會先於AI威脅,當然,也可能帶向全新的未來。立足瞬息萬變的今日,資訊與技術不再只是工具,而是整體社會的核心驅動力,正關乎你我此後的命運。
資訊符號化本質與虛構力量
在人類歷史漫長的進程中,智人(Homo sapiens)並非因為擁有力量或絕對真理而成為地球主宰,那是因為人類懂得利用資訊來構建社會合作網路。故事和神話,這些遠古的資訊形式,把個體聯結在一起而推動文明發展。自古至今,資訊一直是人類社會合作的重要元素,人類社會運作,離不開故事。早期的故事與神話,幫助人類構築集體信仰,使人們能夠超越小型家族群體,形成更大規模的社會合作。
資訊是現實的簡單反映,須倚賴具體的載體,如古代卷軸,除記載歷史事件,其製作工藝、材料、年代等都是重要的資訊。而資訊品質的價值,在準確性之外,還須在社會裡產出足夠影響人類認知與決策的連結,即便蘊藏了虛構成分,仍具備強大的力量。
故事是人類溝通與聯結的最早形式。7萬年前人類已懂得運用語言編織故事,以此增進合作交流。故事超越血緣、地理等限制,讓不同族群產生共識,建立社會共同體。但故事傳播並不盡然需要完全真實,許多虛構元素反能迎合人的心理需求,像占星術在科技昌明的今天依然廣受信奉,又如書裡多次例舉虛實交織的《聖經》典故,既可穩固信仰基礎,還能成為強大的宗教集體印記,所以,無論信仰、法律還是貨幣,故事能創造的虛構現實,就是社會秩序賴以運行的基石。
隨著書面文件出現,訊息不再依賴口耳相傳。具有跨越時間、空間與長期保存等特性,書面讓人類合作能力得到提升,但也隱含風險。書面文件區分檔案與書籍,檔案並不遵循世上既有法則,須靠人為設計管理秩序,進而發展出人類的官僚制度。書籍則是集結諸多文本複製而成,每本皆同,內容長,印量多,沒有口耳轉述間的差異,亦不似檔案篇幅少且數量有限,這些特點便成為宗教最便利的教化工具。由於書面文件多數潛藏人為主觀操弄風險,偏偏這些風險在歷史裡反覆出現,幸好人類學會運用修正來求取改善,靠著自我修正機制去推動科技與知識發展。
非生物智慧崛起與政治選擇
進入數位時代,資訊不再只是由人類組成,AI和電腦已經是資訊網路的核心參與者,它們能執行複雜運算,可以自我學習、做出決策,甚至在多種領域超越人類。目前,資訊網路已把金融市場、交通系統、社交媒體等領域緊密連結到無人可以停止,傳遞速度直達空前效率,運作也不再依賴人類監控,全由算法驅動。AI崛起,雖讓人類社會系統更加高效,但也更為脆弱。因為算法會出錯,容易被惡意操控,現今氾濫的假新聞和錯誤資訊,早就充斥在我們生活的方方面面,這些風險,對現代社會的穩定運作業已構成嚴重威脅。
在政治制度方面,無論民主或極權,AI帶來的挑戰更不容小覷。民主制度依賴訊息的自由流動與公開討論,一旦訊息流通快到難以控制,又受到假訊息、偏見及演算法操控,那麼,所有有效的公共對話和討論都將變得窒礙難行。若由AI完全掌控資訊流動,人類勢必失去對自身命運的控管,社會就容易走向利用集中操縱訊息來維持社會秩序的極權專政。當AI成為極權專政加強其統治監控的工具時,統治者也會被其反噬,最終淪為AI演算法的奴隸。這種發展下所形成的新型社會監控模式,將使個人自由變得微弱。
望著資訊技術疊代神速,哈拉瑞推論出未來兩種演變的可能性,其一,透過網路等數位化手段控制資訊流,從而擁有帝國般權力的數位帝國將會出現,不分國家或企業,誰能掌握最先進技術,便可主宰一切。其二,刻意進行技術、資訊隔離,形成國與國之間涇渭分明的競爭態勢,導致全球分裂。無論哪種狀況發生,人類都將面臨新的全球政治挑戰。
AI時代,既可能為人類帶來無盡繁榮,也可能引入毀滅性後果。展望未來的關鍵,在於人類如何選擇運用這些技術,永保人類維持未來的主導優勢,並趨避淪為技術的奴隸。因此,面對AI挑戰時,必須深諳資訊力量與潛在危險,時時提高警覺,放下人與人對峙的競爭,透過全球性合作與謹慎制度設計,人類才能在充滿未知的時代中掌握命運,享受穩定無憂的日常。
(文章僅代表作者觀點,不代表Newtalk新聞立場。)