Duplex太像人類引道德爭議 Google:通話前會先告知是AI
新頭殼newtalk | 綜合報導
科技電競
Google 近日在開發者大會上公布最新 AI 技術 Google Duplex ,其擬人對話的技術已經讓人類無法分辨通話對象是機器人還是真人。
Google 近日在開發者大會上公布最新 AI 技術 Google Duplex ,其擬人對話的技術已經讓人類無法分辨通話對象是機器人還是真人。   圖:翻攝自shutterstock

Google 近日舉辦開發者大會 Google I/O ,與會中除了發布各項新更新以及新系統以外,最引人注意的就是名為 Google Duplex 的 AI 計畫,該人工智慧能夠替使用者打電話預約行程,並且藉由強大的語音能力以及對話能力,能夠讓接電話的另外一方無法發現溝通對象只是一個 AI,然而這項計畫也在公布後引起不少爭議,直至今(11)日稍早,Google 發言人也對此發表聲明,指出 Google  Duplex 將會口頭告知,確保通話另一方了解正在與 AI 對話。

根據外媒報導,Google 在其開發者大會上發布的 Google Duplex ,在現場公布示範錄音影片之後,引起眾人關注,並在後續的討論中逐漸孵出道德與社會的相關議題,而 Goole 發言人也在後續發表聲明表示:「我們了解並重視關於 Google Duplex 的討論,並且正如我們從一開始就說的那樣,技術的透明非常重要」

他們也指出:「在 I/O 大會上公布的 Duplex 只是一個初期的技術展示,而我們也正在設計內建的告知系統,不管 Duplex 的最終消費型態為何,我們都會確保它透過各種方式的讓對話另一端了解,他們正在與 AI 對話。」

 這些議題包含 Google 是否有義務告知對方他們正在與 AI 進行對話?如此模擬人類的技術是否會影響我們對於所見所聞的信任?或是這將成為一個科技權貴的新案例,了解狀況的人可以藉由機器人來排除不想要進行的機械式對話(像是預定餐廳,時間、人數、地點),而接電話的人則被迫不得不跟 AI 進行對話?

而對於這樣的新技術的產生,人們的擔心其實也不是沒來由的,其中巴斯大學研究人工智能倫理的喬安娜布瑞森副教授,就指出:「 從詐騙電話到自動騙局。想像一下,有人在電話中驚恐的告知附近有槍擊事件。你問他一些問題,而他的回答足以說服你,事情是真的,然而在掛斷電話候,你卻發現你的資訊內容是錯的,無法找到正確的槍擊地點。你會擔心嗎?」,他指出,光是告知對方是 AI 是沒用的,還需要訂立法律去約束才行。 

事實上,Goolge 此次展示 Duplex 的"初期"技術,之所以會令眾人驚豔,除了流暢的對話,以及超乎人類想像電腦可以做的答辯內容,例如一句字面上無任何意義,但從發音與表現態度來表達含意的「恩哼!」以外,另一大重點是全新的 AI 聲調系統。

該系統油 Google 長年致力研究 AI 的 DeepMind AI 所提供,藉由分析音調與自然語言的結合,創造出幾乎與人類無異的聲音,因此才能達成讓通話對象完全無法分辨真人還是 AI 的狀況。

不過也有人表示,若是一接電話,對方就說自己是 AI,相信很多人都會直接掛電話吧,而這也成了 Google 在面對 Duplex 這個嶄新議題中,一個奇妙並且需要平衡的關鍵點了。

 延伸閱讀:

 人或電腦傻傻分不清楚! Google AI能幫你打電話預約任何事 (影)

反其道而行!Google最新安卓系統幫助用戶減少用手機 

喜歡這篇文章嗎?歡迎按讚、分享、灌溉 ~


 

網友回應