人工智能是把“雙刃劍”，它在提升生產效能的同時，也可能帶來版權糾紛、深度偽造、數據風險等問題。近日，文生視頻人工智能模型Sora的出現，加劇了人們在這些方面的擔憂。中國出版集團有限公司黨組成員、中國出版傳媒股份有限公司副總經理于殿利表示：“Sora的風險和問題在于我們還不知道對它有多大的掌控力。如果確定可以掌控它，就不會有太大的風險，反之則風險比較大。因為人類的任何技術之開發與應用，都是以能夠掌控它為先決條件的?！?/span>

既防侵權也防被侵權

隨著人工智能生成內容的普及，相關著作權侵權問題變得越發突出。

近日，廣州互聯網法院就一起生成式AI服務侵犯他人著作權案作出生效判決，這是我國繼2023年11月北京互聯網法院對“AI文生圖”著作權侵權糾紛作出裁判后的又一例在人工智能領域的司法判決。另據公開報道，截至2024年2月24日，美國已發生了10余起與生成式AI相關的著作權侵權糾紛。

出版業作為內容產業，更要防范人工智能可能帶來的著作權侵權問題。浙江傳媒學院新聞與傳播學院融合出版系主任隗靜秋說：“ChatGPT、Sora等人工智能模型生成的內容可能涉及對數據庫中視頻素材的模仿，從而引發著作權侵權的風險，出版社需要確保使用這些模型生成的內容不會侵犯他人的知識產權?！?/span>

在防止人工智能生成內容侵犯他人版權的同時，出版單位也要防止自己的版權資產被盜用。北京印刷學院副院長陳丹說：“人工智能的發展離不開數據、算法、算力這三駕馬車。Sora的運作基礎在于廣泛的數據收集與深入的模型訓練。在此過程中，它可能會采納大量的有獨創性的視頻素材，對這些素材的使用可能牽涉到復雜的版權問題。2023年《紐約時報》起訴微軟和美國開放人工智能研究中心就是一個代表性事件。由于難以發現和維權，出版業的版權資產可能被盜用?！?/span>

多位出版人提到版權歸屬問題?！癝ora生成的視頻內容可能涉及知識產權問題，如何界定原創與抄襲將是一個亟待解決的問題?！敝袊鴤髅酱髮W融合出版與文化傳播國家新聞出版署重點實驗室主任鄭志亮表示。

上海教育出版社副社長劉芳則結合出版業進行分析：“人工智能素材的來源可能是難以查證的，生成的內容可能使用了他人的作品或素材，很難了解版權歸屬，這就帶來了潛在的版權糾紛和法律風險。對出版業來說，編輯可能無法辨別作者交付的稿件是完全由人工智能生成的還是人機協同完成的，這就帶來了人機協同的書稿或者視頻內容著作權如何界定的問題，對此，目前學術界和出版界尚未達成共識?！?/span>

如何解決版權界定問題？人民交通出版社總編輯陳志敏認為，隨著Sora等人工智能生成內容的普及，版權問題將變得更加突出，需要制定相應的法律法規來規范人工智能生成內容的版權歸屬和使用，以保護創作者的合法權益。

除了版權糾紛風險，出版人還提到了Sora可能帶來的其他各種風險。

首先是數據風險。數傳集團常務副總裁溫亞莉分析，應用Sora等人工智能技術時，出版業可能需要收集和處理用戶數據。如果這些數據未能得到妥善保護，可能會引發用戶隱私泄露和數據安全事件。

其次是意識形態風險。陳丹分析，由于用于Sora訓練的數據以西方為主，我國出版業在應用時，可能在文化、意識形態、審美趣味等方面受到不易察覺但長期的影響。

再次是深度偽造風險。隗靜秋說：“Sora能夠根據文本描述生成視頻，使得偽造視頻變得更加容易，可能被用于不當用途?！彪娮庸I出版社原總編輯劉九如則表示，出版機構對Sora生成內容的真偽有必要進行嚴格審查和核實。

南京大學出版研究院副院長、國家新聞出版署智慧出版與知識服務重點實驗室主任楊海平說：“人工智能的持續發酵將給我們的產業、生產和生活帶來并非悄無聲息的影響，現在的Sora尚未對外開放使用，還不太成熟，在內容邏輯性、細節處理等問題上依然存在不足，因此，出版人未來在應用過程中需要注意生成內容的內容安全、法律安全、倫理安全、傳播安全等?！?/span>

溫亞莉建議，出版業在應用人工智能技術時，需要充分考慮并制定相應的應對策略和措施，選擇與大的技術公司合作，以確保技術的合規應用，保護用戶權益，維護品牌形象和聲譽。

有的專家還提出人工智能或將帶來內容質量下降的問題。

“同質化”被出版營銷專家三石視為最大的問題。他說：“我最擔心的是出版業應用AIGC后因為對某大模型的過度依賴又出現新的‘同質化’現象，比如說大家紛紛運用Sora生成圖書的圖片和視頻，結果形成‘千人一面’的結果，讓出版內容失去靈魂?！?/span>

“劣幣驅逐良幣”是出版人的又一擔心。溫亞莉表示，雖然Sora等人工智能技術可以提高內容生產效率，但也可能導致內容質量下降。例如，如果人工智能生成的內容缺乏原創性、創新性或準確性，可能會損害出版業的聲譽和品牌形象。鄭志亮也認為，隨著人工智能的廣泛應用，視頻創作的門檻將逐步降低，市場上可能會出現大量低質量甚至惡俗的內容，這對出版環境的治理提出了新要求。山東電子音像出版社社長刁戈提出，Sora生成的視頻對內容生產的影響還在于其低成本制作視頻的能力，對于拍攝制作優質視頻從業者的積極性可能會造成傷害。

世界著名科學家霍金曾警告：“人工智能是一把‘雙刃劍’，它一旦脫離人的束縛，就會給人類帶來巨大災難，人必須制造出可控的人工智能?！睔v史上諸多智者的這種擔憂值得今天的我們深思。