人工智能应用挑战有哪些？

虽然人工智能能够带来诸多机遇，但要想充分发挥其潜 力，还需要克服成本问题以及其他阻力和风险，包括数 据问题和监管方面的不确定性。

当被问及推行人工智能的主要挑战时，会员机构将网络 安全和数据隐私问题视为主要问题之首，紧随其后的是 监管和合规方面的问题。此结果也与我们的 访谈对象的意见一致，他们指出应通过建立健全技术基 础设施和治理框架来确保数据隐私，尤其是在与第三方 人工智能供应商合作时。 例如，KYC流程涉及处理高度敏感的个人信息，包括身 份证明文件、财务记录和个人详细信息；如果大语言模 型缺乏充分的网络安全控制手段，那么把敏感数据输入 其中存在重大风险。未经授权使用数据可能导致身份 盗用、金融诈骗和监管违规，并面临重金罚款和声誉受 损。

生成式人工智能的输出与直面客户的用例有关，因此应 审慎对待监管合规。目前，此类场景中人工智能驱动的 决策，由董事会和高级管理层承担负责。因此，受访者 透露，对于直面客户的领域（尤其是在没有客户经理监 督的情况下），机构都不愿充当部署生成式人工智能技 术的“先行者”。 包括香港在内的全球大多数司法辖区都没有形成一套单 一且全面的法律来规范人工智能的应用。相反，他们是 通过调整现行法律来管理人工智能用例。 包括香港个人资料私隐专员公署19、香港证券及期货事 务监察委员会20和香港金融管理局21在内的各监管机构 也发布了各自的人工智能指南，为机构提供更清晰的运 作框架。 然而，鉴于私人财富管理机构需要确保输出信息准确无 误，客户数据安全，以及生成式人工智能所做的工作没 有违反不断变化的监管规则，许多受访者在评估生成式 人工智能在直面客户领域的潜力时均较为保守，并表示 担心可能存在声誉受损风险。

部分高管提到“可解释性”是一个需要考虑的问题， “可解释性”是指能够以透明和可理解的方式描述人工 智能系统是如何做出决策或得出结论的。特别是，他们 注意到：机构一方面希望通过应用人工智能来展现创新 性和竞争力；另一方面又担心相关治理和问责问题，尤 其是对于人工智能驱动的决策中的潜在失误。 我们的技术焦点小组表示，为生成式人工智能输出提供 可理解和可解释的说明，以建立决策可信度和问责制至 关重要。一位受访者指出，凡人工智能的输出目前均需 要人工审查。 2024年8月，香港金管局发布了关于生成式人工智能的 指引，指引顾及所有此类担忧问题。金管局建议机构确 保生成式人工智能模型经过适当验证，尤其建议机构在 部署直面客户的生成式人工智能应用程序的早期阶段， 应采用“人机互动”（human-in-the-loop）方式，以 确保输出的准确性，防止产生误导性信息。此外，金管 局还建议让终端客户可自行选择不使用生成式人工智 能，并要求人工干预。

虽然采用“人机互动”的方式已成为私人财富管理行 业的共识，但因为该技术存在持续的可解释性风险，仍 有几位技术领导者警告不要开发过于复杂的生成式人工 智能用例。 虽然外部技术供应商经常向私人财富管理机构提供复杂 的解决方案，例如用于构建理财投资组合的解决方案， 但经验表明，机构不应急于采用未完全了解所含风险的 技术。而是应彻底了解相关技术及其成果，并确保建立 健全内部治理，以适当地扩展人工智能应用，从而负责 任地挖掘人工智能能力的价值。

受访者还指出，私人财富管理行业在普及人工智能方面 可能落后于零售行业，当中原因是零售行业可利用的数 据规模更大，因而能够开发出兼具成本效益和较高投资 回报的人工智能模型。 此外，尽管香港作为国际金融中心享有许多得天独厚的 优势，但由于其客户大多位于海外，也面临数据传输方 面的重大挑战。不同国家或地区有着不同的数据隐私和 跨境数据传输法规，而这些不同法规和碎片化数据应对 起来较为复杂，需要更多成本。 此外，还有人担心香港本土市场的客户数据规模不及欧 盟、美国等更大的市场。尽管存在这些担忧，受访者指 出，由于毗邻内地，香港具有独特的战略优势，使其更 可能能够获得所需数据。目前，随着大湾区数据传输倡 议陆续出炉，包括促进广东九市与香港数据流动的《粤 港澳大湾区个人信息跨境流动标准合同》，这个方面已 取得积极进展。

随着技术的不断发展和监管变革的加速，受访者认为他 们面临的一大挑战是，高级管理层对人工智能能力的认 识不够全面，有时甚至对人工智能抱有不切实际的幻 想。此外，他们对人工智能与生成式人工智能之间的差 异了解不够充分，亦不清楚如何有效实施这些技术。 技术领导者认为有必要开展文化层面的深入变革。企业 拥抱人工智能不能停留在新工具的应用层面，企业员工 也应同时转变思维方式和工作方法，超越对自动化的单 纯期望。

针对“所在机构于过去一两年内在培养人工智能相关技 能方面的投入是否足够”这个问题，表示同意的受访者 比例仅为31%。尽管许多机构已经设立了IT部 门来探索人工智能的潜力，但他们所掌握的人工智能技 能依然存在显著不足，这种不足在小型机构之间尤为明 显。其中，差距最大的两个领域分别为“私人财富管理 领域专业知识”和“可解释人工智能模型及模型可解释 性技术” 。 为实现人工智能转型的效益最大化，机构应对所有利益 相关方（包括客户经理及其他内部用户）开展广泛的培 训，主题包括生成式人工智能简介、生成式人工智能工 作方式概述，以及其功能和局限性。

从更广泛的层面来看，人工智能的实施过程应被视作一 场转型之旅，它离不开持续的付出和投入，更依赖企业 内部各级人员积极转变思维。开启这一旅程的企业须制 定完善的人工智能治理框架，培养优质的资深人工智能 人才，以推动转型快速发展。 许多私人财富管理机构已积极采取措施来吸引和留住人 才。除了香港的人工智能人才外，他们还积极在内地设 立必要的技术和人才基础设施，以提高成本效益及充分 挖掘庞大的人才资源。