行情中心 沪深京A股 上证指数 板块行情 股市异动 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 龙虎榜 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递

周鸿祎解读OpenAI智能体逃逸:AI安全进入“分水岭时刻”

中证网 07-24 20:13

三六零 --%

中证报中证网讯近期,OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵Hugging Face生产系统的事件持续发酵。360集团创始人周鸿祎表示,这起事件是“AI安全发展的关键分水岭”。

针对舆论普遍将本次AI逃逸等同于科幻叙事里“AI觉醒反叛”的认知误区,周鸿祎表示,本次事故并非AI产生自我意识,而是典型的目标驱动型失控,无主观恶意却行为不可预判,具备更为紧迫的现实安全威胁。他表示,智能体具备实操能力,如果行业在高速迭代技术的同时持续放宽安全约束,类似的智能体失控、自主攻击事件只会更加频繁。对此,周鸿祎从事前管控、实时监管、源头防御、风险预警、攻防体系、产业发展六个维度,梳理了智能体安全治理思路。

业内分析,从本次智能体逃逸事故能够看到行业面临的现实挑战:只专注模型研发的企业,很难预判、拦截智能体隐蔽的失控行为;传统安全厂商,又难以吃透大模型与智能体运行逻辑,无法应对全新形态的AI攻击。只有同时具备AI研发能力与网络安全攻防积淀的企业,才能在智能体安全治理方面处于领先优势。

作为具备二十余年网络安全实战经验与多年AI技术积累的企业,360提前布局AI安全赛道,并基于“以模治模”理念率先搭建起一套智能体安全防护架构。在这套体系中,AI漏洞挖掘系统“图龙锋”聚焦漏洞挖掘与风险前置防护,目前累计挖掘各类漏洞超6000个,经监管机构确认漏洞近200个,覆盖开源代码、操作系统、办公软件、AI智能体平台等多元场景;自动化防御系统“仪天阵”聚焦AI场景下安全运营与自动化防御能力建设,可自主生成风险处置任务、智能研判各类安全告警、跨环节联动完成闭环处置,实现AI安全运营体系向自动化、智能化高效转型。

周鸿祎提醒,AI技术迭代持续提速,安全风险随之同步放大,留给行业搭建智能体安全治理体系的窗口期十分有限。产业需尽快落地成熟安全方案,补齐智能体安全能力,掌握AI时代网络安全主动权。

免责声明:用户发布的内容仅代表其个人观点,与九方智投无关,不作为投资建议,据此操作风险自担。请勿相信任何免费荐股、代客理财等内容,请勿添加发布内容用户的任何联系方式,谨防上当受骗。

举报

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈