美國長青饒舌歌手 Jay-Z 締造無數排行榜紀錄，其為 Rihanna 獻聲之〈Umbrella〉，以及 Alicia Keys 加入製作的〈Empire State of Mind〉更曾霸佔《告示牌》單曲排行榜首位超過 30 週。憑著一句「我來自帝國之州」紅遍大街小巷的 Jay-Z，4 月 24 日在 YouTube 竟出現一部影片，內容是 Jay-Z 用招牌聲線，朗誦莎士比亞「to be, or not to be」的經典段落。

粉絲大概未曾料到，風格相當鮮明的他會推出這種作品；事實上，就連 Jay-Z 本尊也無法預見此事，因為這部影片的音訊內容，完全是以假亂真的 AI 深度合成（deepfake）。很快地，這位歌手的法務團隊就要求 YouTube 下架影片。但根據《富比世》報導，一兩天後，影片就恢復上架，因為美國的著作權規定根本沒有「人聲」的範疇。利用 AI 合成的影片，到底該不該禁止？

電腦合成享有創作自由

《富比世》記者 Bill Hochberg 在文章中表示，Jay-Z 要求下架的行動實在管太多（protest too much）。同時，網路創作者 Andy Baio 訪問上傳 Jay-Z 影片的 YouTube 頻道擁有者時，該頻道擁有者也表示，YouTube 將這個影片暫時下架本身就是打臉自己，因為同集團的 Google 亦曾在別的法律訴訟中，表示 AI 深度學習利用著作物訓練出來的結果，應該被視為合理使用。

不僅如此，該頻道還向 Andy Baio 指出另一個矛盾。長期以來，模仿創作就是重要的藝術形式，那些模仿得惟妙惟肖的人，不但會受到藝術上的讚揚，也可因此獲利：「我真的不明白，為什麼使用 AI 模型模仿名人的聲音，跟自然地（極度準確地）模仿名人的聲音的人會受到差別待遇。」

政治議題的深度合成，是否有理由被禁止？

除了藝術創作之外，限制特定領域不得合成 deepfake 影片也有其他爭議。目前明文規定禁止 deepfake 的範疇，多半是政治影片。例如加州曾經通過法案，宣布散布深度合成政治人物的言行會被視為犯罪。如果合成內容是政治人物對於公共議題的表態，禁令自然不會引發太多爭議；不過，就算影片中的主角並非政治人物，內容也難以認定是公共議題，同樣可能產生出乎意料的政治效果。

美國東部時間 5 月 30 日下午 3 點多，NASA 與太空技術公司 SpaceX 合作，發射美國第一顆商業載人火箭，締造太空歷史。一週不到後，據俄國官方媒體 RT 報導，6 月 1 日就有人上傳 SpaceX 執行長 Elon Musk 歌唱蘇聯太空探索歌曲〈家邊草地〉的合成影片。

太空探索牽涉巨量預算，美國甚至成立太空部隊將此上升為國家安全議題。考量俄國是美國主要的政治與太空科技角力對象，以及長期的歷史糾葛，Musk 身為重要的太空任務合作夥伴，這部合成影片的政治意涵自然不在話下。不過，管制合成影片的內容是否侵犯言論自由？兩者間的界限該如何拿捏？面對新技術應用衍生的社會議題，我們似乎還很難定奪一個普遍適用的準則。

創作自由應該保障，但不代表允許自由遭到濫用

雖然我們應該盡可能保護創作，也不需要過度限制深度合成的技術使用，但深度合成終究是「創作」，也有相對應的「創作倫理」需要守護。目前模仿秀的演出者，之所以可以毫無罣礙地演出，也是因為觀眾了解這是模仿，才不會造成任何誤會。適當地標註影片是創作而非事實，既能避免法律爭議，也能避免造成當事人困擾。

而閱聽者與媒體記者，在接收、傳遞各種資訊時，也應該積極進行事實查核，確保資訊正確無誤。例如與政治人物的官方帳號互相比對，或是利用市面上的軟體技術，確認影片不是合成。訊息發布者可以使用數位簽章，將訊息進行特殊處理，幫助讀者分辨哪些是官方訊息、哪些不是。

政府與立法機關，則需要按照科技世界瞬息萬變的技術發展，設計出更加合適的法律架構，並且隨時調整。例如美國維吉尼亞州，就在去年宣布「報復式色情」（revenge porn）的法規，也包含深度合成的影片內容。

責任編輯：Mia
核稿編輯：Chris