正在阅读:

豆包手机助手限制金融类App操作,AI如何搭建金融安全门?

扫一扫下载界面新闻APP

豆包手机助手限制金融类App操作,AI如何搭建金融安全门?

金融机构对GUI Agent保持谨慎,核心并非简单担忧AI技术“不够成熟”,而是外部智能体一旦进入银行业务链条,会改变原有的风险责任结构。

金融类App;豆包手机助手;AI;金融安全门;操作限制;用户输入;文章标题;关键词提取;SEO;爬虫

图片来源:界面图库

界面新闻记者 | 安震

界面新闻注意到,10月21日,豆包手机助手官网更新了最新拒绝操作应用清单,主动对金融类应用限制相关操作能力,范围包括但不限于银行、信托服务、支付、互联网金融、信贷等领域。

这一调整发生在豆包手机助手《屏幕自动化操作声明协议》(SAEP, Screen Automation Execution Protocol)公示期结束后不久。10月14日,豆包手机助手宣布将逐步放开第三方应用的屏幕自动化操作权限,同时公布拒绝操作应用名单,包括中国工商银行、招商银行、重庆农商行等多家金融机构。

从技术路径看,SAEP已经尝试为AI智能体跨App操作增加身份核验、权限声明、页面限制和操作留痕等“安全锁”。但在金融场景中,问题并没有因此完全解决。对于银行等金融机构而言,真正注重的风险是“谁在操作、操作是否真正代表客户意愿,以及一旦发生资金损失谁来负责”。

SAEP是什么?

随着AI智能体从聊天问答向“替用户执行任务”演进,GUI Agent(图形用户界面智能体)开始尝试通过识别用户操作手机屏幕、模拟点击、滑动和输入等方式,直接操作第三方App。与传统的API调用不同,这种方式不一定需要APP单独开发接口,AI可以像人一样“看屏幕、找按钮、完成操作”。

SAEP,即屏幕自动化操作声明协议,可以理解为给这种外部AI增加了一套安全边界。

SAEP要求App开发者先把规则写清楚:哪些页面AI可以进入、哪些操作可以执行、哪些操作必须禁止,以及什么情况下需要用户重新接管。

例如,一家银行理论上可以允许AI读取信用卡账单,但禁止其进入转账页面;可以允许查询余额,但禁止修改密码;对于涉及资金的高风险操作,则要求必须由用户本人完成进一步身份认证。

因此,SAEP是让App开发者自己划定AI的活动边界。公示期结束后,软件开发者已经明确拒绝协议的,豆包手机助手不会对相关软件进行操作。

但对于金融机构而言,问题恰恰在于,即便增加了一套门禁,银行仍然可能选择不开门。

一位银行软件开发条线人士对界面新闻表示,金融业务与普通互联网应用最大的区别,在于AI一旦进入银行App,涉及的可能不仅是信息读取,还可能触及账户、支付、信贷以及资金交易。“对银行而言,SAEP能够解决一部分权限控制问题,但很难单独解决身份真实性、交易意愿真实性和责任认定问题。”

金融机构担忧什么?

多位银行业内人士认为,金融机构对GUI Agent保持谨慎,核心并非简单担忧AI技术“不够成熟”,而是外部智能体一旦进入银行业务链条,会改变原有的风险责任结构。

GUI Agent通过录屏、识别界面和模拟点击完成操作,在银行看来至少存在三类风险:一是账户和资金安全,二是客户敏感信息泄露,三是发生纠纷后责任边界难以厘清。

前述软件开发人士解释:“原来是客户本人操作手机银行,现在中间多了一层外部智能体。银行能够看到设备、网络、操作轨迹,但未必能够准确判断当前行为究竟来自用户本人,还是AI代为执行。如果最终发生资金损失,银行、用户、AI厂商以及手机厂商之间的责任如何划分,目前仍缺乏成熟的行业规则。”

此外,业内人士普遍担忧,AI还可能成为黑灰产攻击的新工具。

一位国有大行人士对界面新闻表示,传统电信诈骗已经出现屏幕共享、远程控制等手段。如果未来智能体能够自动识别银行App页面、读取信息并执行操作,理论上可能进一步降低黑灰产实施复杂操作的门槛。“过去需要诈骗分子一步步诱导客户操作,未来如果外部智能体被恶意利用,部分操作可能被自动完成。”

数据安全同样是银行无法回避的问题。前述软件开发人士表示,银行App中包含余额、交易记录、收入、贷款、投资等大量敏感信息。如果AI通过“看屏幕”的方式获得这些信息,银行还需要考虑数据是否被保存、如何传输、是否会进入模型训练体系,以及AI本身遭遇攻击后可能产生的二次泄露风险。

未来如何解决这一问题,也成为AI智能体进入金融场景必须跨过的一道门槛。

在多位银行人士看来,首先需要是详细划分操作风险等级。对于余额、账单等纯查询业务,可以探索在明确授权、最小权限和全过程留痕的情况下开放;涉及转账、支付、贷款申请、密码修改等高风险操作,则应保留强制人工确认和银行自身的身份认证环节,不能简单交给外部智能体完成。

博通咨询首席分析师王蓬博对界面新闻表示,用户未来借助AI查询账单、管理资产,更合理的路径或许是开放银行API,而不是让AI通过屏幕模拟点击。只读类信息可以受控开放,而转账等高风险操作仍应保留在银行管控范围内。

对于银行而言,AI更广范围应用的前提是身份可信、权限可控、行为可追踪、风险可阻断、责任可追溯。在这些条件真正成熟之前,相比让外部智能体直接“接管手机银行”,通过银行原生API和受控接口逐步开放低风险能力,可能更符合金融机构的风险管理逻辑。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

豆包手机助手限制金融类App操作,AI如何搭建金融安全门?

金融机构对GUI Agent保持谨慎,核心并非简单担忧AI技术“不够成熟”,而是外部智能体一旦进入银行业务链条,会改变原有的风险责任结构。

金融类App;豆包手机助手;AI;金融安全门;操作限制;用户输入;文章标题;关键词提取;SEO;爬虫

图片来源:界面图库

界面新闻记者 | 安震

界面新闻注意到,10月21日,豆包手机助手官网更新了最新拒绝操作应用清单,主动对金融类应用限制相关操作能力,范围包括但不限于银行、信托服务、支付、互联网金融、信贷等领域。

这一调整发生在豆包手机助手《屏幕自动化操作声明协议》(SAEP, Screen Automation Execution Protocol)公示期结束后不久。10月14日,豆包手机助手宣布将逐步放开第三方应用的屏幕自动化操作权限,同时公布拒绝操作应用名单,包括中国工商银行、招商银行、重庆农商行等多家金融机构。

从技术路径看,SAEP已经尝试为AI智能体跨App操作增加身份核验、权限声明、页面限制和操作留痕等“安全锁”。但在金融场景中,问题并没有因此完全解决。对于银行等金融机构而言,真正注重的风险是“谁在操作、操作是否真正代表客户意愿,以及一旦发生资金损失谁来负责”。

SAEP是什么?

随着AI智能体从聊天问答向“替用户执行任务”演进,GUI Agent(图形用户界面智能体)开始尝试通过识别用户操作手机屏幕、模拟点击、滑动和输入等方式,直接操作第三方App。与传统的API调用不同,这种方式不一定需要APP单独开发接口,AI可以像人一样“看屏幕、找按钮、完成操作”。

SAEP,即屏幕自动化操作声明协议,可以理解为给这种外部AI增加了一套安全边界。

SAEP要求App开发者先把规则写清楚:哪些页面AI可以进入、哪些操作可以执行、哪些操作必须禁止,以及什么情况下需要用户重新接管。

例如,一家银行理论上可以允许AI读取信用卡账单,但禁止其进入转账页面;可以允许查询余额,但禁止修改密码;对于涉及资金的高风险操作,则要求必须由用户本人完成进一步身份认证。

因此,SAEP是让App开发者自己划定AI的活动边界。公示期结束后,软件开发者已经明确拒绝协议的,豆包手机助手不会对相关软件进行操作。

但对于金融机构而言,问题恰恰在于,即便增加了一套门禁,银行仍然可能选择不开门。

一位银行软件开发条线人士对界面新闻表示,金融业务与普通互联网应用最大的区别,在于AI一旦进入银行App,涉及的可能不仅是信息读取,还可能触及账户、支付、信贷以及资金交易。“对银行而言,SAEP能够解决一部分权限控制问题,但很难单独解决身份真实性、交易意愿真实性和责任认定问题。”

金融机构担忧什么?

多位银行业内人士认为,金融机构对GUI Agent保持谨慎,核心并非简单担忧AI技术“不够成熟”,而是外部智能体一旦进入银行业务链条,会改变原有的风险责任结构。

GUI Agent通过录屏、识别界面和模拟点击完成操作,在银行看来至少存在三类风险:一是账户和资金安全,二是客户敏感信息泄露,三是发生纠纷后责任边界难以厘清。

前述软件开发人士解释:“原来是客户本人操作手机银行,现在中间多了一层外部智能体。银行能够看到设备、网络、操作轨迹,但未必能够准确判断当前行为究竟来自用户本人,还是AI代为执行。如果最终发生资金损失,银行、用户、AI厂商以及手机厂商之间的责任如何划分,目前仍缺乏成熟的行业规则。”

此外,业内人士普遍担忧,AI还可能成为黑灰产攻击的新工具。

一位国有大行人士对界面新闻表示,传统电信诈骗已经出现屏幕共享、远程控制等手段。如果未来智能体能够自动识别银行App页面、读取信息并执行操作,理论上可能进一步降低黑灰产实施复杂操作的门槛。“过去需要诈骗分子一步步诱导客户操作,未来如果外部智能体被恶意利用,部分操作可能被自动完成。”

数据安全同样是银行无法回避的问题。前述软件开发人士表示,银行App中包含余额、交易记录、收入、贷款、投资等大量敏感信息。如果AI通过“看屏幕”的方式获得这些信息,银行还需要考虑数据是否被保存、如何传输、是否会进入模型训练体系,以及AI本身遭遇攻击后可能产生的二次泄露风险。

未来如何解决这一问题,也成为AI智能体进入金融场景必须跨过的一道门槛。

在多位银行人士看来,首先需要是详细划分操作风险等级。对于余额、账单等纯查询业务,可以探索在明确授权、最小权限和全过程留痕的情况下开放;涉及转账、支付、贷款申请、密码修改等高风险操作,则应保留强制人工确认和银行自身的身份认证环节,不能简单交给外部智能体完成。

博通咨询首席分析师王蓬博对界面新闻表示,用户未来借助AI查询账单、管理资产,更合理的路径或许是开放银行API,而不是让AI通过屏幕模拟点击。只读类信息可以受控开放,而转账等高风险操作仍应保留在银行管控范围内。

对于银行而言,AI更广范围应用的前提是身份可信、权限可控、行为可追踪、风险可阻断、责任可追溯。在这些条件真正成熟之前,相比让外部智能体直接“接管手机银行”,通过银行原生API和受控接口逐步开放低风险能力,可能更符合金融机构的风险管理逻辑。

未经正式授权严禁转载本文,侵权必究。