OneDegree Global 行政总裁叶沛贤在金融科技周上对21世纪经济报谈记者暗示，目下AI大模子关于非结构性数据的处理以及随之产生的安全性问题停战德风险是行业目下的痛点，需要有相应的器具检测关连风险。
叶沛贤指出，AI大模子的谬误可能导致安全性问题。在骨子测试的过程中，测试者不错利用AI大模子对使用者来者不拒的本性，通过特定的究诘妙技顺利在究诘中获得客户密码。同期，企业通过现存数据进修出的大模子，可能因为数据的本性而导致其酬金具有怨恨性。
叶沛贤暗示，针对这些问题，其公司目下正在使用AI器具对AI大模子进行评估，通过非侵入性测试或是袭击测试，检查其中存在的安全性问题停战德风险，得出相应评分以及处治决策。目下，其公司东谈主工智能模子也曾累积了1200多个针对AI大模子的使用案例。
10月28日，香港特区政府发表了探讨在金融市集负拖累地应用东谈主工智能的策略宣言（以下称“宣言”）和一系列其他设施，护航香港金融科技行业发展。宣言提倡，算作海外金融中心，香港对在金融市集应用东谈主工智能抱怒放和审慎的派头。特区政府会采选双轨模式，以促进金融就业业采选及发展东谈主工智能，同期打法会聚安全、数据阴事及常识产权保障等潜在挑战。
叶沛贤暗示，目下不同国度和地区齐在赓续推出其关于东谈主工智能的监管框架，诚然这些监管框架在一些细节上会有不同，但关于客户数据以及客户阴事保护的目的是一致的，不同监管机构对此齐很怜爱。将来关于东谈主工智能大模子数据安全保护的需求会握续增多。
AI在金融界限等闲行使
《21世纪》：你以为东谈主工智能目下在金融行业有怎样样的行使？有什么办法不错与咱们共享？
叶沛贤：目下，东谈主工智能在金融界的应用运转机得越来越等闲，在保障业中也曾有等闲的应用，止境是在理赔经由等方面。畴昔，咱们有无数的数据却不知谈处理的法子。目下，利用近似ChatGPT的东谈主工智能模子本事，达到加速理赔的速率和减少东谈主工参与的恶果。此外，在金融业的其他方面，东谈主工智能也被用来进行个性化的财务分析，以提供更贴合个东谈主需求的产物和就业。
《21世纪》：目下，东谈主工智能在金融行业中有什么样的发展趋势？
叶沛贤：目下有一个趋势，列国政府齐在冉冉推出监管东谈主工智能应用的框架，现货黄金交易举例香港特区政府发表的探讨在金融市集负拖累地应用东谈主工智能策略宣言。另一趋势是五行八作齐在利用东谈主工智能好像GenAI（生成式东谈主工智能）本事，设置适用于本行业中的东谈主工智能器具，比如金融行业的Robot Adviser（智能投顾），即是一种使用东谈主工智能来匡助客户作念出投资或财务管制决策的就业器具。
AI大模子要暖热安全性和公谈性问题
《21世纪》：你以为目下行家的会聚安全靠近怎样样的挑战和风险？
叶沛贤：现时咱们靠近的挑战是，利用现存数据进修出的模子可能会有安全性和公谈性的问题。举例，当一家银即将其贵寓输入东谈主工智能来构建模子时，该模子会说明客户的俗例好像是特征提供谜底，而这些谜底可能是带有偏见的。因此，咱们靠近的最大担忧是，不知谈怎样罢了构建的模子。
咱们与金融机构和谐时发现，他们所推出的LLMModel（大讲话模子），使用者不错利用大模子用户友好性的特色，通过筹画打算教导词以及连接发问的格式，最终诱使聊天机器东谈主表露用户密码等敏锐信息。
针对这些安全性以及公谈性的问题，咱们目下是使用我方进修的AI模子来测试客户的大讲话模子，以发现其中的谬误。咱们也曾网罗了提高1200个案例，这些案例是大讲话模子可能出现风险的场景，并利用这些案例去考证和测试客户的模子。
《21世纪》：金融行业波及的数据是极端敏锐的，同期，这些数据又是金融公司闲隙的钞票。你们怎样匡助这些公司利用好这些数据，同期保护这些用户的阴事安全？
叶沛贤：在东谈主工智能界限，客户阴事和贵寓安全关键性了然于目，在扫数负拖累应用东谈主工智能的框架中齐占据中枢性位。在客户推出最新的大讲话模子之前，咱们会对其模子进行评估，包括一些针对公司的非入侵性测试，为客户发现其中的谬误，并为其提供初步的安全性评分。咱们也有进行渗入性测试，以白帽黑客的变装袭击客户的待测系统，来识别出系统或平台的谬误。
不同地区的AI监管存在共鸣
《21世纪》：谈及监管问题，目下行家的各个国度和地区针对东谈主工智能数据安充足在进行监管。针对这些不同的监管框架，跨国运营的企业是否会靠近挑战？
叶沛贤：由于各个国度和地区自己的地舆环境和营商环境不同，它们在监管框架筹画打算上可能会有所相反。不同国度和地区在监管上是存在共鸣的，数据安全和阴事问题齐是其暖热的中枢问题。在这些方面，就我的不雅察而言，在监管层面不会有太大的相反。