360公司创始人周鸿祎在计算机安全学术交流会上详细介绍了360大模型安全解决方案。他指出,大模型发展已进入第二阶段,关键问题是如何构建真正安全可用的大模型。

周鸿祎将安全风险分为短期、中期、长期三个阶段。短期风险主要涉及大模型自身引发的问题,如网络安全、数据安全和生成内容安全。中期风险则包括人为恶意应用,如AI换脸和AI换声诈骗。长期风险是指随着更强大的人工智能的出现,可能对人类生存带来安全挑战。

360智脑

为了解决这些问题,360公司打造了原生安全大模型“360智脑”,遵循安全、向善、可信、可控的四大原则,以确保大模型在企业级场景中得以应用。

360还将推出Agent框架,将人的能力赋予大模型,既提升大模型的性能,又能对其进行约束。周鸿祎表示,360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户,以外挂式“360大模型安全管家”的形式对外赋能,提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。