AI聲音濫用現象愈發突出 你的聲音被誰“偷”走了？
AI如何生成他人聲音？
主要是依靠深度學習算法，即短時間內從采集的聲音樣本中提取關鍵特征，包括頻率、音色、聲調、語速、情感等，將這些特征記錄為數學模型，再通過算法合成
AI生成他人聲音，是否違法違規？
個人聲音中包含的聲紋信息具備可識別性，能以電子方式記錄，能關聯到唯一自然人，是生物識別信息，屬于個人信息保護法規定的敏感個人信息之一
親耳聽到的就是真的嗎？未必。網絡平臺上，AI聲音隨處可見。
從“張文宏醫生”推銷蛋白棒視頻“走紅”網絡，后被本人“打假”，到多位配音演員稱聲音被AI“偷走”，公開維權……“新華視點”記者調查發現，隨著人工智能技術和語音大模型應用的發展，AI合成聲音App大量出現，最快只需十幾秒便可“克隆”出來。與此同時，AI聲音濫用現象愈發突出，不時引發爭議。
聲音是如何被“偷”走的？
記者在某短視頻平臺以“AI克隆聲音”為關鍵詞檢索發現，明星翻唱、新聞播報、吐槽點評等大量視頻涉及AI聲音，有些甚至出現不雅詞匯，不少視頻點贊和評論量過千。
而AI聲音濫用事件也不時發生，引發關注和討論。
AI如何生成以假亂真的聲音？受訪專家介紹，AI能夠“克隆”聲音，主要是依靠深度學習算法，即短時間內從采集的聲音樣本中提取關鍵特征，包括頻率、音色、聲調、語速、情感等，將這些特征記錄為數學模型，再通過算法合成。
中國科學院自動化研究所模式識別實驗室工程師牛少東說，隨著算法越來越先進，在高性能設備和高精度模型的加持下，AI生成的語音內容從兩年前的“一眼假”升級到如今的“真假難辨”。
AI聲音在最近一兩年時間內變得格外“流行”。清華大學新聞與傳播學院教授沈陽說，人工智能技術的普及，讓AI模擬聲音的門檻大幅降低。通過一些開源軟件和平臺，沒有專業知識的普通用戶也能操作。
大量App能夠進行AI合成聲音，最快只需十幾秒。記者在應用商店搜索發現，相關App有數十款，下載量最高超千萬次。
記者聯系了一款App的客服人員，對方表示，花198元就能解鎖付費會員，對著鏡頭說幾遍“12345”，AI就會根據聲音生成各類內容的出鏡口播視頻。記者操作后發現，通過這款軟件生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權證明。
業內人士告訴記者，AI模擬人聲在互聯網“流行”，有追逐流量和變現的目的。通過“克隆”名人聲音制作的惡搞、獵奇類視頻，在相關平臺播放和點贊量均不低，有的甚至還被推上熱搜。發布者也相應獲得流量曝光、粉絲增長、廣告收入等播放收益。
多措并舉強化治理
用AI生成他人聲音，是否違法違規？多位受訪專家表示，個人聲音中包含的聲紋信息具備可識別性，能以電子方式記錄，能關聯到唯一自然人，是生物識別信息，屬于個人信息保護法規定的敏感個人信息之一。
2024年4月，北京互聯網法院宣判全國首例“AI聲音侵權案”，明確認定在具備可識別性的前提下，自然人聲音權益的保護范圍可及于AI生成聲音。該法院法官認為，未經權利人許可，擅自使用或許可他人使用錄音制品中的聲音構成侵權。
近年來，有關主管部門出臺《人工智能生成合成內容標識辦法（征求意見稿）》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定，一定程度上給AI技術使用劃定了紅線。
2024年12月，廣電總局網絡視聽司發布《管理提示（AI魔改）》，要求嚴格落實生成式人工智能內容審核要求，對在平臺上使用、傳播的各類相關技術產品嚴格準入和監看，對AI生成內容做出顯著提示。
多位專家表示，各類社交網絡、短視頻平臺要強化主動監管意識，及時發現、處理可能涉及侵權的AI生成作品；相關部門應繼續加大對利用AI技術進行詐騙等違法犯罪行為的打擊力度，形成更加完善的常態化治理機制。（據新華社）