Internet Develppment
互联网开发& 推广服务提供商

我们擅长商业策略与用户体验的完美结合。

欢迎浏览我们的案例。

首页 > 新闻中心 > 新闻动态 > 正文

周鸿祎透露360大模型安全解决方案:将推出Agent框架

发布时间:2023-10-14 09:04:12来源:新浪科技

  在第38次全国计算机安全学术交流会上,三六零(下称“360”)公司创始人周鸿祎透露了360大模型安全解决方案细节。他介绍指出,大模型发展已经进入第二阶段,重点是放低身段,赋能产业数字化发展,最大的障碍是如何打造真正安全可用的大模型。

  周鸿祎指出,大模型是一把“双刃剑”,将带来前所未有的安全挑战,他将安全风险划分为短期、中期、长期三个阶段。其中,短期风险是当前最迫切要解决的问题,主要围绕大模型自身引发的安全问题,如网络安全、数据安全、生成内容安全。中期风险主要指人为的对大模型恶意应用,如日益猖獗的AI换脸、AI换声诈骗。长期风险则是当更强大的人工智能诞生,对人类生存带来的安全挑战。

  周鸿祎表示,基础大模型的安全问题,都会“遗传”给垂直大模型。为此,360躬身入局,在国家级安全能力基础上,打造原生安全大模型“360智脑”。周鸿祎介绍,在“安全、向善、可信、可控”这一安全四原则的基础上,360已经构建体系化的大模型安全解决方案,保证大模型在企业级场景落地。他透露,为了让大模型不作恶,360“向善”解决方案的核心是研发安全垂直“小模型”训练和监控大模型,保证大模型输出结果安全。

  在解决大模型“可控”问题上,360将推出Agent框架,把人的能力赋予大模型,一方面让大模型变得更强大,另一方面也能起到对大模型的约束。面对国内大模型安全需求的井喷,周鸿祎表示,360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户,以外挂式“360大模型安全管家”的形式对外赋能,提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。

最新资讯
© 2018 河北码上网络科技有限公司 版权所有 冀ICP备18021892号-1   
© 2018 河北码上科技有限公司 版权所有.