要點：
– 有不法分子藉AI熱潮進行釣魚詐騙
– 市面出現大量假冒生成式AI的應用程式
– Deepfake及Deepvoice等生成式AI被用作詐騙工具
– 各國政府應及早推廣防範知識
AI詐騙防不勝防 政府應及早宣揚防範意識
生成式AI ChatGPT風靡全球，帶來商機的同時也引發詐騙危機。據報導，有不法分子利用ChatGPT進行詐騙，以發送惡意軟體連結引誘網友至網路釣魚網站。國外網路安全網站CYBLE、Bleeping Computer等相繼發現此類事件。
近期，CYBLE發現Facebook出現名為「Chat GPT AI」的假粉絲專頁，貼滿連向不明網域的帖子，並冒充ChatGPT官網，讓用戶下載仿冒軟體，竊取用戶個人資料。
此外，國外網路安全研究員Dominic Alvieri也發現有業者在Google Play和第三方Android軟體商店中，推廣假的ChatGPT app，包括ChatGPT、Chatteo、Chat GPT、GPT AI Chat、GPT、Talk GPT等，隨後已被列為不可下載的仿冒app。目前，正版的ChatGPT只能在OpenAI網站在線使用，而微軟旗下的「Bing Search」則是唯一在兩大軟體商店上架的app版「ChatGPT」。
同樣地，中國科企巨頭百度推出的「文心一言」也遭遇類似窘境。日前在蘋果等應用程式商店中，出現多款文心一言的應用程式。但百度澄清市面上的App皆屬假冒，呼籲用戶警惕。
其實不止應用程式本身可能誘發個人資料外洩，生成式AI的強大功能亦成為詐騙行為猖獗的催化劑。英國有專門協助受害者的組織 Victim Support 日前警告，騙徒開始應用人工智能技術去哄騙受害人。Victim Support 透露其中一名 50 多歲的女受害人在交友網站認識騙徒，並展開了自以為是認真的兩年網上情緣關係，期間被騙去 35 萬英鎊。實際上，詐騙集團一直利用 Deepfake 技術跟她進行視像通話，騙徒甚至利用人工智能製作圖片向女事主求婚。美國也發生類似案例，一對父母接到疑似兒子的電話，在確認兒子聲音後進行匯款，最後卻發現是騙徒利用AI合成語音Deepvoice扮演兒子的詐騙行為。
面對這些網絡犯罪行為，建議政府除了立法打擊外，也要透過正確教育，提高市民對AI詐騙的防範意識，避免成為詐騙受害者。各國正密切關注AI發展，相信會正視不法分子猖獗的詐騙行為，為AI發展打造良好的發展基礎。
#生成式AI #ChatGPT #文心一言 #詐騙 #工商專業新經濟 #王德承 #炒股幫 
