12月28日金融一线消息,中国财富管理50人论坛2025年会在京召开,本届年会的主题是“迈向‘十五五’建设金融强国”。香港证监会前主席梁定邦出席并发表演讲。
梁定邦指出,人工智能正以每年约30%的速度快速增长,大型机构应用覆盖率已达85%,并大幅降低成本、提升客户满意度。然而,AI在金融领域的深入应用面临幻觉、数据偏见、黑箱与隐私合规四大核心风险,必须审慎应对。
他表示,当前AI技术进展迅速,主要得益于硬件成本降低与算力提升。但AI不仅限于当下流行的大语言模型,早期已涵盖专家系统、机器学习等多种形态。他援引2024年两项诺贝尔奖均授予AI相关成果为例,说明其重要性。然而,AI应用,特别是大语言模型所采用的“填空”式预测推理,存在固有缺陷:一是易产生“幻觉”,即输出不准确或虚构内容;二是训练数据若存在偏见,输出结果也会带有偏见;三是模型决策过程复杂且不透明,形成“黑箱”,难以解释;四是存在数据使用不当、侵犯个人隐私的风险。这四大问题正是金融业实现“风险可控”必须直面的挑战。
对于金融业的具体应用,梁定邦从前、中、后台三个维度进行了剖析。前台直面客户,当前主要用于智能客服(Call Center),虽能大幅节省人力,但为确保信息准确无误、避免偏差,多采用闭环AI而非开放模型,且最终决策仍需客户经理负责。中台应用集中在反欺诈监测、信用评级和文档处理分析,其中反欺诈因应对日益猖獗的电信诈骗而备受重视。后台则更多用于市场分析、模型计算以及至关重要的资本储备计量。