随着AI技术的飞速发展，其双刃剑特性愈发显著，既为各行各业带来前所未有的机遇，也伴随着诸多挑战与风险。今年5月，AI诈骗在全国范围内的爆发更是将这一话题推向了舆论的风口浪尖，湖北网警巡查执法部门也指出，AI技术正逐步改变诈骗手段，某些新型骗局的成功率甚至接近100%。

　　在金融行业，面对AI技术的广泛应用，如何以AI对抗AI，确保在AI时代的攻防对抗中立于不败之地，成为了行业关注的焦点。12月6日，在2024首届腾讯云金融安全峰会上，腾讯安全副总裁、玄武实验室负责人于旸指出，随着大模型技术被不法分子恶意利用，金融行业正面临着更为定制化、针对性的安全威胁。然而，大模型技术同样能够提升安全人员在漏洞挖掘、渗透分析等方面的效率，为金融安全保驾护航。

　　腾讯安全副总经理、科恩实验室专家聂森在接受澎湃新闻记者采访时强调，安全运营并非新鲜事物，并非依靠AI就能实现质的飞跃。在细分领域，需要逐步积累行业性沉淀，通过数据的准备、对接以及场景颗粒度的细化，不断推进安全运营水平的提升。以AI对抗AI，是金融行业保障安全的必经之路，只有攻防双方在同一起跑线上，才能实现势均力敌的效果。

　　AI的双刃剑效应：机遇与挑战并存

　　在2024年世界互联网大会乌镇峰会上，业内人士将AI带来的安全危机总结为“三化”：黑箱化、黑产化、武器化。黑产化凸显了深度伪造的危害，在AI技术的加持下，深度伪造技术愈发逼真，无论是公众还是企业，都难以逃脱其精心编织的诈骗陷阱。黑箱化则是指在AI大模型生成过程中存在的黑箱现象，模糊了攻击者的具体破坏手段，导致有害内容及错误信息的泛滥。而武器化则意味着人工智能能够生成恶意软件、钓鱼邮件等攻击工具，快速发现目标系统中的漏洞，大幅降低网络攻击门槛。

　　然而，在业内人士看来，AI带来的更多是正面影响。其强大的推理能力能够应对繁重的工作，提高决策的智能化水平。腾讯安全威胁情报产品规划负责人高睿表示，在AI+威胁情报的实际应用中，降噪功能效果最为显著。通过将最基础、每天需要人工重复处理的任务交给AI，解放了人力资源，使安全运营人员能够专注于更深入、更具挑战性的安全问题。

　　此外，腾讯安全还提出了以AI辅助安全运营的理念，将端侧、流量侧的数据汇总到“安全湖”，再利用AI大模型技术对“安全湖”进行综合研判，实现自动化、闭环的响应和处置流程。

　　AI为金融行业赋能：提升数据安全与风控能力

　　腾讯金融云副总经理王丰辉表示，随着国产软硬件的广泛应用，金融机构对AI产品的信心日益增强。腾讯安全已推出腾讯云数据安全审计（DSAudit），通过大模型来保障金融行业的数据合规和安全。该产品基于大数据+AI技术，构建了全面的数据安全监控、异常行为分析和细粒度安全审计体系，有效防止数据泄露和滥用。

　　针对银行等金融机构面临的新增零售信贷业务风控难与存量零售风控业务风险上升的双重挑战，腾讯安全提出了天御金融风控大模型。该模型以腾讯安全20多年与黑产对抗经验以及海量安全数据为基础，集成了大模型、迁移学习和蒸馏学习等先进技术，为金融机构提供强大的风控支持。

　　全链路保障AI安全：内容+数据双管齐下

　　随着AI技术的广泛应用，保障AI大模型的安全已成为业内最重要的风险之一。AI安全主要包括模型训练阶段、内容生成阶段和事后阶段。为确保AI大模型的安全运行，腾讯安全在内容安全和数据合规与安全方面均做出了积极努力。

　　在内容安全方面，腾讯安全推出了AIGC全链路内容安全解决方案，覆盖生成式AI应用从模型训练到内容生成再到事后运营全过程的内容安全建设。该方案已在多个场景实践落地，为金融机构提供了有力的内容安全保障。

　　在数据合规和安全方面，腾讯安全打造了数据安全治理解决方案，通过实施分级别的访问控制、数据防篡改、敏感数据去标识化等措施，确保数据的完整性和保密性。同时，腾讯云还通过数据安全治理中心、数据安全防护网关、机密计算平台等产品能力，实现大模型业务全流程的数据安全保护。

　　目前，腾讯安全在AI方面的投入正在逐渐加大，腾讯大模型基础能力和应用结合整体处于加速状态。未来，腾讯安全将继续推广“AI+安全”，帮助金融机构进一步提高安全水位。

（文章来源：澎湃新闻，图片来源于网络）