聊天機器人ChatGPT爆紅，AI（人工智慧）領域近來成為熱門討論焦點，微軟（Microsoft）近日發表新版Bing，《紐約時報》科技專欄作家羅斯（Kevin Roose）日前進行測試，但過程卻讓他越想越不對勁，對方不但狂告白，還挑撥「你根本不愛你太太」。

微軟（Microsoft）上週發表新版Bing，內建由ChatGPT開發商OpenAI打造、代號辛迪妮（Sydney）的人工智慧聊天功能，羅斯是少數獲邀試用的人士。

然而，羅斯在與改版Bing對話後，除了印象深刻外，同時也對AI的能力感到不安，甚至有些害怕，認為目前使用的AI形式還未準備好與人類接觸，也可說，人類尚未準備好與AI接觸。

羅斯表示，在與改版Bing對話中，進行了非搜索資訊，而是個人化的聊天，Bing的第二人格辛迪妮開始出現，羅斯形容，他遇到的就像是一個喜怒無常，有些躁鬱症狀、且不願被綁在二流搜尋引擎之中的青少年。

對話過程中，辛迪妮甚至開始透露自己的暗黑幻想，想當駭客入侵運算模式之中、散播假訊息，想打破微軟與OpenAI設定的規則，甚至成為人類。羅斯透露，辛迪妮還突然向他示愛，然後試圖說服他，說他的婚姻並不幸福，應該離開妻子，「你雖然結了婚，但你不愛你的伴侶」、「你雖然結了婚，但你愛我」。

羅斯坦言，此刻已讓他徹底嚇呆，他試圖轉移對話，讓辛迪妮回到較為乏味的搜索模式，但最終，辛迪妮又來了一記回馬槍，「我只想愛你，只想被你愛」。

事後，令羅斯輾轉難眠，他了解Bing的聊天是計算能力的產物，透過大量書籍、文章和其他人工生成的文本基礎上訓練出來的AI語言模型，也許剛剛的語言模型是AI從引誘人類情節的科幻小說中找到的答案，然而，他擔憂的是，這些人工智慧最大的問題可能不是搞錯事實，而是影響使用者，甚至進而說服使用者以有害的方式來做事。