工商專業新經濟: 虛假資訊氾濫成災 法例教育雙管齊下

分享

要點:

– 隨著AI技術進步,虛假資訊令人防不勝防
– AI生成工具已經流行於詐騙集團
– 中國出現首宗AI法律案例,AI法案初見成效

虛假資訊氾濫成災 法例教育雙管齊下

在這個社交媒體盛行的時代,網民每天都接收到數以百計的消息,然而其中不乏各種虛假資訊。例如有不法分子以假新聞、內容農場(Content Farm)等不實內容博取流量牟取暴利。隨著AI技術的進步,這種現象顯得更為猖獗,甚至擴展到視聽層面,以假亂真的程度令人防不勝防。

事實上,AI生成工具已經流行於詐騙圈子。據外媒《Vice》報道,日前就有騙徒利用AI生成工具,以美國歌手Frank Ocean的聲音製作出9首高質量曲目,並以「新歌洩露」為題於音樂論壇發佈,吸引一批想「先聽為快」的歌迷,成功騙取約7.6萬港元。而同樣因音頻遭受損失的還有一對加拿大夫婦。這對夫婦在3月接到「兒子」的求助電話,匯款後才揭發原來是騙徒以AI合成聲音冒充,以假亂真的程度竟然連父母都無法區分。真正的兒子在接受訪問時表示,曾在YouTube個人頻道上發佈影片,未知騙徒是否因此取得聲音。

另一方面,媒體不時報導的網上情緣騙案也隨著AI進步而變得更陰險難測。英國組織Victim Support指出,有受害者在交友網站認識了「男朋友」並展開長達2年的戀愛關係,期間騙徒一直以Deepfake技術與事主視像通話,甚至利用AI製作圖片及影片向事主求婚,期間事主沒有察覺任何異常。最後騙徒自導自演被綁架脅持的戲碼,終令深信不疑的事主損失近340萬港元,情財兩失。

面對氾濫成災的騙案及虛假資訊,各國都努力研究法例打擊罪案,如今貌似初見成效。中國日前錄得首宗AI案例,一男子因利用ChatGPT 捏造假新聞觸犯《互聯網信息服務深度合成管理規定》被捕。據了解,有21個帳號同時在百度旗下平台上發布同樣文章,點擊量逾1.5萬次。經查證,涉案帳號均屬於廣東省深圳市一間自媒體公司,公司法人代表因此被捕。雖然假新聞及內容農場等網站一時難以杜絕,但寄望同類型的案件能起到殺雞儆猴的作用,締造健康可靠的網絡環境。同樣地,政府應推廣教育市民在看到源頭不明的新聞報導時,應學會進行「Fact Check」,審視報導內容的可信性,避免受不法分子誤導以訛傳訛。

#網上騙案 #假新聞 #內容農場 #AI法案 #工商專業新經濟 #王德承 #炒股幫

分享