鳳凰科技 2024-12-24 01:35:48 2
IT之家 12 月 23 日訊息,近年來,人工智慧(AI)技術的快速發展為社會帶來了諸多便利,但也伴隨著安全隱患。據IT之家瞭解,其中深度偽造技術就帶來了不小的隱患,其生成高度逼真但並非真實的影片或影象的能力,已經引發了一系列社會問題。
據央視新聞報道,今年以來,利用 AI 深度偽造假冒名人的案例層出不窮。例如,不久前就有不法分子透過 AI 技術偽造張文宏醫生的面部和聲音,用於直播帶貨,賣出 1200 多件蛋白棒產品。
此外,名人劉德華和企業家雷軍也成為 AI 偽造的目標。劉德華的聲音被惡意用於增加短影片流量,其電影公司也多次釋出宣告以警示公眾。
專家指出,目前的 AI 技術可以透過深度學習輕鬆克隆他人面部和聲音,甚至只需一張照片和一段語音樣本即可完成。然而,這種技術並非毫無破綻。例如,偽造影片通常無法實時直播,同時在臉部輪廓和背景融合度等細節上存在缺陷。觀眾透過仔細觀察可發現破綻,尤其是在口型和語音匹配度方面。
專家表示,未經授權使用他人形象或聲音屬於侵權行為,根據《民法典》和《網路安全法》,釋出者可能面臨包括損害賠償和刑事責任在內的處罰。同時,消費者如因 AI 假冒名人帶貨受騙,可依據消費者權益保護法要求“退一賠三”。
專家還呼籲短影片平臺承擔主體責任,及時下架違規內容,並對釋出者採取信用管理和處罰措施。