欺诈层出不穷，AI与大模型如何助力金融机构应对挑战？

在当前经济形势不佳的背景下，银行的不良贷款率持续上升，各银行纷纷寻找有效防止和识别风险的解决方案。为了应对这些日益严峻的挑战，银行越来越依赖 AI 技术来提升精细化的风控能力，确保在复杂多变的环境中，维持稳健的风险管理和运营效率。

日前，InfoQ 与新希望金融科技公司 AI 中心总经理王小东探讨了智能风控领域面临的诸多挑战及应对策略，特别是在防范 AI 攻击和应对复杂欺诈手段方面，其团队如何通过技术创新助力金融机构实现精细化风控。

1. 欺诈手段层出不穷：欺诈手段不断更新迭代，使得如何快速响应和识别这些新型欺诈成为一大挑战。黑产攻击手段层出不穷，如果没有快速的算法开发能力和先进的 AI 技术，无法快速有效地应对这些新出现的欺诈手段。甚至有一些中介利用新的欺诈手段帮助借款人逃避债务。例如，用户在贷款后将身份信息交给中介，由中介代为接听所有银行的催收电话和实施反催收，用户不再直接参与。这种代接听的模式让银行难以识别真正的借款人。
2. 团伙作案更加难以发现：团伙作案也是老大难问题。手段日益复杂，他们也在不断研究和绕过银行的风控系统。比如一些中介在固定地点集中办理贷款，造成背景相似、GPS 高度聚集的情况，这种情况下传统的风控手段（如依赖手机号、地址、GPS 等关联的知识图谱）已经不再有效。为了应对这一挑战，我们公司开发了多模态的关系网络，不仅仅依赖结构化数据，还通过背景图像、身份证背景、人脸、声纹、微表情等多种维度进行关联，来更准确地识别团伙作案。
3. AI 攻击的防范：AIGC 技术的进步使得换脸、换声等技术的成本大幅降低，从而引发了更多的 AI 攻击。很多个人和团伙都尝试利用这些技术进行欺诈，甚至有的客户就想试一下银行信贷产品的能不能用自己的假脸攻击。这种情况下，如何防范 AI 攻击 AI 成为金融领域新的痛点。
4. 模型性能出现瓶颈： 当前信贷模型主要依靠结构化特征，结构化特征的挖掘很有限，非结构化中的图像，视频，音频，文本等涵盖大量高维有效特征，如何对这些特征进行抽取转换，并参与建模是一个新的有效解决模型性能的解决方案。如将佩戴特征、残障特征、衣着职业特征、高风险背景特征、胁迫特征、意愿特征、攻击特征、基础特征、表情特征、排版特征、欺诈特征、合规特征等有效提取并与结构化特征结合，可有效提高模型性能，也具备一定可解释性。

• 伪造贷款人身份：比如仿冒他人借款，或是利用伪造的身份信息进行贷款。这些黑产甚至利用 AI 技术来攻击声纹识别和人脸识别系统，以及仿冒身份证件等。
• 不还款的套路：有些借款人在贷款时故意伪造成非本人意愿借款或还款能力低，以便将来赖账不还。这类情况在电信诈骗和裸贷案件中尤为常见，尤其是那些被骗去刷单或被胁迫贷款的大学生，以及一些残疾人或患病借款人，他们往往没有还款能力，使得客户的贷款追偿变得非常困难。
• 团伙作案：黑产在同一个 GPS 下短时内快速进件，背景高度相似，其他特征很难发现异常，交易侦测时不同的手机号码打出去都同一个人在接听，不同中介 / 黑产出现在不同客户的活体人像里等，手段很高级。在面对这些棘手问题时，我们团队采取了一些策略来应对，举例而言：
• 精细化风控：我们针对各种已知和未知的欺诈手段，开发了精细化的风控大模型。这些模型不仅能够拦截常见的欺诈行为，还能够预测和防范一些新型欺诈手段，对未见过的欺诈可以基于大模型快速微调小模型进行防范。例如，我们开发了更先进的活体检测技术，不仅仅依赖人脸识别，还包括眼球检测、图像背景分析、人像分析、声纹比对等多重验证手段。
• 实时交互式风控技术：我们还开发了实时交互式风控系统，通过数字人与用户进行交互，分析对话内容、对客户侧的图像、视频、声纹等进行欺诈分析检测，以确认借款人的真实意愿、真实设备和真实的人。这涉及到音视频通信的开发以及 AI 三大领域，图像，语音，NLP 的算法研发，虽然我们团队之前这方面的经验较少，但通过不断摸索和攻克技术难题，我们最终实现了这一目标。
• 大模型探索：去年我们开始探索大模型的应用，虽然我们不是关注生成式 AI，而是希望大模型能够学习基础的视觉特征，并在需要时通过少量样本进行微调，从而快速开发出新的视觉领域小模型，并以概率输出。这一过程充满了挑战，但我们通过不断的实验和调整，逐渐取得了进展。虽然很多问题在一开始看起来非常困难，但通过坚持不懈的摸索和技术创新，最终是能够找到解决方案的。我总结下来的经验是，只要肯努力、想尽各种办法尝试解决，并善于利用现有的技术，大多数问题都是可以被克服的。

• 接受新技术。我要求团队要主动了解前沿技术的发展，保持开放心态，不要排斥新技术。同时要去理解技术的本质，避免盲目跟风和浪费资源。比如生成式大模型在金融场景中的使用存在风险、应用有限，但能看到这些技术背后的本质是很关键的。
• 保持好奇心。鼓励团队成员时刻关注行业动态，关注 AI 在金融领域有哪些新的应用和创新，包括一些技术峰会、论文、头部 AI 账号等发布的信息，不论这些内容是否有吹嘘的成分，团队成员都需要有自己的判断力，去辨别它的真实性和价值、可落地性和可借鉴性。
• 全能型人才：我希望团队成员不仅仅是单一领域的专家，而是能够掌握多方面的技能。比如除了算法，还能掌握工程、前端等。虽然不要求在每个领域都非常精通，但至少要有基本的理解和经验。我认为，当具备广泛的知识储备时，自然就能在工作中找到创新的解决方案，创新是在知识足够多的情况下碰撞出的解决方案。总的来说，大厂需要专才，但我们这类中小厂商需要更多多面手，因此，我更倾向于培养全能型人才，而不是拧螺丝钉的专才。
• 与业务团队多沟通：公司有很多业务团队，他们经常出差与银行客户沟通，了解客户痛点和需求。我会经常拉着技术团队与这些业务人员交流，以便了解一线银行的痛点和需求。通过这种沟通，我们可以发现新的创新机会。如果我们的 AI 技术能帮助解决这些痛点，这本身就是一种创新。创新不只是技术上的突破，更是找到业务痛点并用技术解决它的过程。
• 鼓励试错。在算法和大模型开发中，我鼓励团队大胆尝试和试错。算法和模型的开发往往需要多次调整和改进，而不是一次性就能成功。我不以结果为唯一考核标准，而是更关注团队成员是否在不断尝试和改进以及自我思考。我相信，通过不断的试错，最终可以找到最佳的解决方案。

• 继续关注非生成式的大模型：我们将持续关注并研究生成式的大模型技术，我们暂时不会在生成式 AI 上投入太多精力，因为我们认为它在金融领域的应用价值有限。相反，我们会继续研究非生成式的基础图像大模型、语音大模型，以应用于各种信贷业务的分类、检测、欺诈识别场景中和以及语音识别和语音合成相关领域。
• 发展 AI Agent 的能力：我们还计划进一步落地 AI Agent 的能力。通过 AI Agent，我们希望能够快速实现一些 AI 应用，代替人工执行一些重复性任务，如提取数据、处理流程类工作、报告撰写、信息整理、自动审批、刷数等，从而提高工作效率，降本增效。
• 利用大模型的语言理解能力：我们将利用大模型的语言理解能力来增强人机对话的智能性。当前的智能外呼机器人、智能客服等机器人产品在理解用户意图方面还存在不足，我们的计划是利用大模型的上下文理解和意图识别能力提升智能化，但会慎用其生成内容的能力。我们将专注于大模型在意图识别和知识库检索方面的应用。