人工智慧AI)領域發展迅速,但近期有特斯拉執行長馬斯克Elon Musk)、蘋果共同創辦人沃茲尼克(Steve Wozniak)等超過千人參與一封聯署信,要求將大型 AI 實驗暫停六個月,讓產業有時間設定設計安全標準,降低 AI 帶來的潛在傷害。

據外媒報導,「公開信:暫停重大 AI 實驗」目前已經有 1,377 人參與連署,其中包含馬斯克、沃茲尼克、美國總統大選前參選人楊安澤、 Stability AI 執行長埃莫斯塔克(Emad Mostaque)、 Skype 聯合創始人塔林 (Jaan Tallinn)等科技巨頭大老、教育界學者連署。

這封公開信由 Future of Life Institute 發起,文章表示,最近幾個月各大 AI 實驗室已陷入「失控的競賽」,競相開發並部署更加強大的數位心智,卻沒人——包括創作者在內——能理解、預測或可信地掌控。

「我們必須捫心自問:我們是否應該讓機器作為宣傳不實資訊,且充斥我們的資訊管道?我們是否應該自動化所有的工作,包括取代已經令人滿意的工作?」

他們要求, AI 實驗室和獨立專家應該利用這個暫停時間,共同製定和實施一套共享的先進 AI 設計和開發安全協議,這些協議應該由獨立的外部專家嚴格審核和監督。

文章稱,只有當我們確信它們的影響是正面的,並且它們的風險是可控的時候,應該再繼續開發強大的人工智能系統。

「因此,我們呼籲所有 AI 實驗室立即暫停比 GPT-4 更強大的 AI 系統的實驗至少 6 個月。暫停應該要是公開的和可驗證的。如果不能迅速實施這種暫停,政府應介入並暫停。」

請願書呼籲放「 AI 暑假」,而不是毫無準備的、匆匆忙忙的進入秋天。讓產業有時間設定 AI 設計的安全標準,並且抵禦風險最高AI技術的潛在傷害。該組織表示其使命是「引導轉型式技術遠離極端而大規模的風險,邁向嘉惠生命」。

Future of Life Institute 發起連署,各大實驗室應暫停高階於 GPT-4 的 AI 系統。   圖:翻攝自Future of Life Institute 網頁

商、學界等千位大佬公開呼籲,暫停高階於 GPT-4 的 AI 系統。   圖 : 翻攝自OpenAI 網頁(資料照)