近期各個國家都有人都因為 AI 生成的圖片或影片受害，像是前陣子的韓國校園和演藝圈發生的 Deepfake 事件，美國藝人、烏克蘭網紅形象遭盜用事件等等的問題。大家都希望各國政府能夠盡快拿去法律來限制或對 AI 進行約束，不過到現在為止都還沒有任何一個國家對 AI 生成的內容有明確的法律規定。不過最近中國準備要開始制訂有關 AI 人工智慧生成內容的法規，推出《人工智能生成內容標示辦法（徵求意見稿）》，目前中國已經擬定了約 13 條的法規來對 AI 生成內容進行制約，同時也開放民眾提出反饋意見。根據公布內容，預計今年 2024 年就會開始實施《人工智能生成內容標示辦法》的法案。
中國將立法規範 AI 生成內容：《人工智慧生成內容標示法》預計今年實施
近來中國各種 AI 假帳號盛行，甚至有一位網友分享自己使用 AI 文字生成圖片所創作的圖片，不只沒有被官方抓到，反而中國社交平台小紅書還給他推流量，養了 1327 個小紅書帳號，直接把小紅書屠版。雖說後面有網友指出這位人士可能是為了要賣課程在吹噓，不過我們確實不得不承認現在 AI 技術越來越發達，有時真的很難看出圖片到底是否為 AI 生成，導致大家現在對於網路上的圖片都持半信半疑的態度。
為了杜絕這種不良的影響，中國國家互聯網信息辦公室於今日宣布為促進人工智慧健康發展、規範人工智慧生成內容標示，起草了《人工智能生成內容標示辦法（徵求意見稿）》，要求創作者使用 AI 創作文字、錄音、圖片、影片、虛擬場景等等內容時需要添加明顯標識。
若在生成內容中未添加明顯標識，也需要在生成合成內容的文件原數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或編碼、內容編號等等得製作要素信息。
中國國家互聯網信息辦公室表示任何人都不得惡意刪除、篡改、偽造、隱匿生成合成內容標識，不得通過不正當標識手段損害他人合法權益。違反《人工智慧生成內容標示辦法（徵求意見稿）》規定或未對生成合成內容進行標識而造成嚴重後果的將被處於處罰。
大家覺得這種強制性的條令真的就能夠限制 AI 創作者嗎，真的很夠減少假帳號或者 Deepfake 事件的發生嗎？台灣也發生過類似案件，那麼台灣是否也需要跟進這種法案呢？