利用人工智能（AI）制造令人心酸的照片及视频，再附上银行收款二维码，假借慈善募捐骗取民众捐款！通讯部副部长张念群警告，网络骗徒正利用AI技术制造虚假悲情故事，企图博取公众同情，让善心人士在不知情下成为诈骗受害者。
她指出，随着AI技术越来越普及，不法分子已不再局限于盗用他人照片，而是能够直接生成看似真实的悲惨画面，配合虚构故事向网民筹款。
近期，社交媒体出现多则疑似利用AI制作的求助帖文，内容以令人同情的处境为卖点，并附上特定银行户口的收款二维码，要求公众给予经济援助。
不过，部分眼尖网民发现，有关照片中的人物及场景存在不合理之处，甚至出现前后画面不一致的情况，因此怀疑有关募捐内容属于AI伪造。
张念群今日巡视柔佛古来大园丘淡米尔小学后，向媒体指出，大马人向来富有同情心，尤其看到有人面对困难时，往往愿意伸出援手，但这份善意却经常成为不法分子利用的目标。
她提醒，民众不要因为看到令人难过的照片，便立即相信帖文内容，更不应该在没有确认募捐者身份及求助事件真伪的情况下，直接扫描二维码汇款。
张念群强调，AI确实让辨别真假资讯变得更困难，但即使没有AI技术，过去也经常发生个人照片遭盗用，甚至被冒充身份向公众募款的事件。
她透露，通讯部曾接获民众投诉，指有人未经许可使用他们的姓名及照片，制造虚假的求助资讯，并以当事人的身份向公众索取捐款。
因此，民众除了判断照片是否经过AI生成，也必须确认有关求助者是否真实存在，以及公开募款的银行账户是否属于合法收款单位。
另一方面，网络诈骗内容不断增加，也反映在大马通讯及多媒体委员会（MCMC）的执法数据上。
根据最新统计，截至今年10月15日，MCMC共向社交媒体平台提出17万4099项诈骗内容下架申请，明显超过2025年全年的10万2113项。
换言之，今年不到10个半月，相关下架申请数量便已超过去年全年，增加逾7万宗。
在今年提出的17万4099项申请当中，社交媒体平台已成功删除17万633则诈骗相关内容，显示大部分下架要求获得配合。
不过，上述数字涵盖各类网络诈骗内容，并非全部涉及AI生成的假募捐帖文。
张念群指出，许多诈骗内容的性质相当明显，因此社交媒体平台通常能够迅速采取行动，删除涉及欺骗公众的帖文。
她强调，MCMC将继续严正看待有关问题，一旦接获投诉并发现内容涉及诈骗，将要求相关平台采取适当行动。
至于个人身份或照片遭盗用的受害者，她促请当事人尽快报警，让执法单位展开调查，包括追查有关募款所使用的银行账户及持有人身份。
她也提醒公众，面对网络上突然出现的悲情故事，应该先查证有关事件是否真实，并确认募款渠道是否可靠，避免因为一时同情而仓促转账。
尤其当募款帖文只提供二维码，却没有清楚说明求助者身份、收款单位及相关资料时，更应提高警惕。
随着AI生成技术越来越逼真，单凭照片或视频已难以判断一宗求助事件的真实性。民众若有意捐款，最好通过可信赖的慈善机构或经过核实的正式渠道进行。
张念群强调，帮助有需要的人固然值得鼓励，但善心必须建立在查证事实的基础上，才不会让原本用于救助他人的金钱，最终落入诈骗分子的口袋。
