第三百四十七章 内紧外松
第三百四十七章 内紧外松 (第2/2页)然後他顿了顿,接着说道:「第二条呢,是现实执行风险。对工具的权限、影响范围、操作能否撤销等等特性进行评估,重点关注是否涉及支付、公开发布、医疗、法律、金融和公共设施,同时检查授权、回执、接管、回滚和审计机制。」
把评估做成心理层面和执行层面的双轨制,一下标准就清晰了。
对产品的审计标准也可以根据这两个层面的风险等级来适用不同的标准。
朱宇川第一个反应过来:糖包的关系依赖风险可能偏高,现实执行风险偏低。
同时他也在心里对几个竞品进行了快速分级。
寻他的智能体平台和鼎盛的灵台很像,都是在从b端向c端发力,他们的现实执行风险都偏高,关系依赖风险反而只是中等。
而汤圆,作为能力最强,回复风格也最克制的产品,应该算是关系依赖低,现实执行高。
几个产品完全可以适用不同的标准。韩路一说完之後,大家基本都认同这个方向。
黎严把话题接了过去:「我基本同意按照权限和场景分级,但我强调一点,不能把自主执行能力本身当成风险,那会限制行业的发展。智能体的价值就在於替人完成任务。未来会出现大量专业智能体,企业里的重复岗位和流程一定会被替代。」
寻他的战略方向就是要把智能体,尤其是各行业的专业智能体,进行大规模部署,如果因为现实执行风险高而限制了行业场景落地,对业务推进会有很大影响。
所以黎严很关心这个问题。
副局长皱了皱眉头,在管制和放开之间的平衡确实很难找,他下意识地看向了韩路一。
现在市面上智能体能力最强的产品御风和汤圆chat都出自韩路一的公司,他想听听他的看法。
副局长还没开口示意,韩路一已经主动发言了。
「黎总,有一点我不认同。」韩路一说道,「自主执行能力越强,检查标准自然越高,但高标准不等於限制发展。」
他顿了顿,接着说道:「人工智慧、智能体可以替人完成很多工作,但是涉及他人权益的最终决定,需要有明确的责任人。或者说,如果是寻他智能体直接开出的医学治疗方案引起了事故,寻他愿意承担这个责任吗?」
黎严的脸色不太好看,但是没说话。
这可是个敏感话题。
整场讨论基本上沿着韩路一提交的倡议书,和他刚提出来的风险双轨制在推进,副局长听得频频点头,旁边的记录员手一直没停下来。反倒是另一家巨头鼎盛,全程一直没怎麽发言。
刘大海在技术边界的话题上还会提出一些有用的观点,刘勃则基本上是彻底沉默了。
事实上,他期间几次想插话,但最後都忍了下来。
他今天本来准备了不少针对汤圆的内容,包括汤圆在停服期间快速增长、源码借政策窗口抢占市场,以及汤圆同样存在聊天功能等问题。
可他看着场上的方向,越来越不敢开口。
韩路一主动支持其他产品恢复,还把汤圆列入中高执行风险,规避监管这顶帽子已经扣不上去了。
继续攻击,没准又会被问到灵台的会话链路有没有隔离、企业权限有没有责任节点、宣传里的「懂你陪你」准备怎麽解释。
刘勃被汤圆打过太多次,终於学会了一个宝贵的职场经验。
不开口,至少不会现场丢人。
反正听下来,韩路一指引的这个方向还是挺靠谱的,也没有针对鼎盛灵台的意思。
接近中午时,副局长和几位参会部门的负责人低声交流了一阵,随後做了会议总结。
「感谢大家,今天讨论得很充分,很多意见都具有操作价值。关系依赖和现实执行两条风险轴,我们会纳入新规的研究,同时继续组织技术机构和企业做验证。」「新规不日就会公布,通用问答、办公、搜索和智能体产品完成整改後,都可以提交审查,通过审查就可以重新上线。纯情感陪伴服务还需要额外补充未成年人保护、危机干预和关系依赖评估的报告。」
「企业内部智能体可以采用组织级授权,但涉及重大权益和高影响操作,责任链路必须要非常清晰。具体的标准以後续发布的正式文件为准。」
最後的总结一出来,除了韩路一和赵文渊之外的参会人都明显松了一口气。
其中朱宇川可能是最开心的。糖包的核心功能不用继续无限期停服,只要按要求完成拆分和审查,很快就能恢复。
黎严也得到了自己想要的结果。监管没有给整个智能体生态统一套上高风险标签,寻他可以按照具体技能和权限分别申报。
说到底,行业发展最怕的就是不知道方向,现在方向已经定下来了,那整改方向就很简单了。
副局长最後看向韩路一,笑了笑,说道:「源智提交的倡议书,後续还需要你们配合技术验证。汤圆的授权、回执、人工接管和审计设计,也请整理一份完整材料,供工作组参考。」
「没问题。」韩路一说道。
会议结束後,众人陆续起身往外走。
朱宇川没有离开,反而向韩路一走了过来,主动伸出手:「韩总,幸会,巨量朱宇川。」
两人握了握手,朱宇川开口道:「刚才关於关系依赖的划分很有启发。等到糖包完成整改之後,我们双方可以找时间做一次安全团队的交流?」
韩路一笑道:「好的,我平时人不在京城,这些事情可以直接和京城的负责人赵总联系。」黎严在远处看了看这边,看样子也想过来打个招呼,但是因为朱宇川一直没走,他最终没有过来,带人离开了。
朱宇川走後,其他几家技术机构和企业的负责人也都排着队过来和韩路一、赵文渊打招呼,交换联系方式。
显然大家都看出韩路一的源智在会议中所展现出来分量,趁着现在结交一下,总不会有错。
等到其他人散得差不多,刚才和领导们一起出门的庄院士又转了回来,他看到韩路一还在,径直向韩路一走了过来。
「韩总,好久不见啊。」庄院士说道,「会议结束之後有安排吗?中午一起吃个饭?」
韩路一知道,庄院士应该是有事情要谈,而且不是一句话可以谈完的事。
「那我定个地方,我们坐下来聊?」韩路一说道。