先前百度推出生成式 AI「文新一言」之後,阿里巴巴在昨(11)日也推出自家AI產品「通義千問」。同日中國國家網信辦發布「生成式人工智能服務管理辦法」徵求意見稿,要求所有生成式AI內容必須「體現出社會主義核心價值」,以及會審查政治敏感內容,並且所有AI機器人在公開發表前,都必須接受安全審查。

據中國國家網信辦的發布的規則草案,內容為「生成式 AI 產製內容應體現社會主義核心價值」,不得含有顛覆國家政權、推翻社會主義體制、煽動國家分裂、破壞國家統一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情資訊,虛假資訊,以及可能擾亂經濟和社會秩序的內容。

中國國家網信辦表示,公司應該要確保訓練這些AI模型的數據,不會基於民族、種族和性別等因素歧視人,或不會產生出假訊息。若違反規定,但未違反現行法律者,由網信部門和有關主管部門依據職責給予警告、通報批評,責令限期改正。拒不改正或者情節嚴重者,責令暫停或者終止利用生成式AI提供服務,並處罰款;違反治安管理行為者,依法給予治安管理處罰;構成犯罪者,依法追究刑事責任。

據《CNBC》報導,由於生成性 AI 可能會產生出跟政治敏感相關的內容,中國監管機構正在密切觀測產品的發展。但中國並不是唯一關注生成性AI發展的國家,義大利在3月時,以隱私的問題禁止了AI聊天機器人,而歐美也正在研議,是否要採取更嚴厲的手段來限制使用。