記者李宗芳/綜合報導
「深度偽造」(Deepfake)技術以假亂真,連印度總理也受害!近日一段「莫迪跳傳統舞蹈」影片在網路瘋傳,本尊出席活動時親自闢謠稱是AI變臉合成,並發出警告。
網傳影片中,「莫迪」(Narendra Modi)和其他舞者圍成一個小圈,大跳加爾巴舞(一種起源於印度古吉拉突邦的舞蹈),歡快旋轉、手舞足蹈。綜合印度媒體報導,莫迪17日在印度人民黨總部出席排燈節特別活動時表示,對該影片製作印象深刻,「他們做得相當好,但我從學校畢業以後就再也沒有跳過加爾巴舞了」、「感謝AI讓我又可以跳加爾巴舞,我自己的許多粉絲都在轉發這段影片」。
接著莫迪話鋒一轉,對這類深度偽造技術表達擔憂,他表示AI時代深度偽造內容的傳播是一場大危機,值得注意的是,這很快引發了社會的不滿,深度偽造最常見的形式是AI換臉、語音類比等,「深度偽造視頻是通過社交媒體傳播的,而社交媒體又有大公司的背書,因此許多人信以為真」。
莫迪警告人們會誤以為自己看見的是真實的,而「現在印度缺乏識別這種『深度偽造』的技術」,在人工智慧時代,負責任地使用技術非常重要,媒體應對此類虛假視頻開展相關教育。
印度《鑄幣報》18日稱,印度電子和資訊技術部部長阿什維尼·瓦希諾(Ashwini Vaishnaw)表示,政府已向所有大型社交媒體發出通知,要求他們採取措施識別深度偽造內容並刪除,「社交媒體平臺已經作出回應,並有所行動」,如果社交媒體平臺未能採取適當措施打擊深度偽造,之前保護社交媒體平臺的條款可能不再適用。另據印度《Times Now》報導,政府可能在未來三、四天召集各大社交媒體平臺開會報告打擊深度偽造內容的進展,包括Meta和谷歌(Google)。