Google 近日舉辦開發者大會 Google I/O ，與會中除了發布各項新更新以及新系統以外，最引人注意的就是名為 Google Duplex 的 AI 計畫，該人工智慧能夠替使用者打電話預約行程，並且藉由強大的語音能力以及對話能力，能夠讓接電話的另外一方無法發現溝通對象只是一個 AI，然而這項計畫也在公布後引起不少爭議，直至今(11)日稍早，Google 發言人也對此發表聲明，指出 Google Duplex 將會口頭告知，確保通話另一方了解正在與 AI 對話。
根據外媒報導，Google 在其開發者大會上發布的 Google Duplex ，在現場公布示範錄音影片之後，引起眾人關注，並在後續的討論中逐漸孵出道德與社會的相關議題，而 Goole 發言人也在後續發表聲明表示：「我們了解並重視關於 Google Duplex 的討論，並且正如我們從一開始就說的那樣，技術的透明非常重要」
他們也指出：「在 I/O 大會上公布的 Duplex 只是一個初期的技術展示，而我們也正在設計內建的告知系統，不管 Duplex 的最終消費型態為何，我們都會確保它透過各種方式的讓對話另一端了解，他們正在與 AI 對話。」
這些議題包含 Google 是否有義務告知對方他們正在與 AI 進行對話？如此模擬人類的技術是否會影響我們對於所見所聞的信任？或是這將成為一個科技權貴的新案例，了解狀況的人可以藉由機器人來排除不想要進行的機械式對話(像是預定餐廳，時間、人數、地點)，而接電話的人則被迫不得不跟 AI 進行對話？
而對於這樣的新技術的產生，人們的擔心其實也不是沒來由的，其中巴斯大學研究人工智能倫理的喬安娜布瑞森副教授，就指出：「 從詐騙電話到自動騙局。想像一下，有人在電話中驚恐的告知附近有槍擊事件。你問他一些問題，而他的回答足以說服你，事情是真的，然而在掛斷電話候，你卻發現你的資訊內容是錯的，無法找到正確的槍擊地點。你會擔心嗎？」，他指出，光是告知對方是 AI 是沒用的，還需要訂立法律去約束才行。
事實上，Goolge 此次展示 Duplex 的"初期"技術，之所以會令眾人驚豔，除了流暢的對話，以及超乎人類想像電腦可以做的答辯內容，例如一句字面上無任何意義，但從發音與表現態度來表達含意的「恩哼！」以外，另一大重點是全新的 AI 聲調系統。
該系統油 Google 長年致力研究 AI 的 DeepMind AI 所提供，藉由分析音調與自然語言的結合，創造出幾乎與人類無異的聲音，因此才能達成讓通話對象完全無法分辨真人還是 AI 的狀況。
不過也有人表示，若是一接電話，對方就說自己是 AI，相信很多人都會直接掛電話吧，而這也成了 Google 在面對 Duplex 這個嶄新議題中，一個奇妙並且需要平衡的關鍵點了。
延伸閱讀：
