据新闻报道，在15日举行的世界政府峰会(WGS)开幕式上，针对近期爆火的ChatGPT，马斯克表达了他的顾虑：“人工智能是值得人们担忧的，尤其是在安全方面。”马斯克呼吁，AI潜力巨大，立法刻不容缓。
日前，国家工业信息安全发展研究中心联合北京市门头沟区政府、中关村发展集团、华为技术有限公司等共同发起了“人工智能安全可信护航计划”，共同探索人工智能安全可信管理技术和方案。
业内认为，人工智能存在机器学习框架漏洞、深度学习算法可解释性差、数据易被污染等诸多风险，其安全性依赖创新技术保证。应在数据、算法到系统各个层次上进行全面评测，同时配合一整套从硬件到软件的安全可信计算环境。
相关公司方面：绿盟科技：公司在AI模型的鲁棒性增强、AI系统安全防护、AI应用安全、AI系统的安全性评估与测试等创新技术领域研究储备丰厚;奇安信-U：公司是国内领先的基于安全大数据、人工智能和安全运营技术的网络安全产品及服务提供商。
网络安全概述
网络安全是指信息系统(包括硬件、软件、基础设施等)中的数据受到保护，不会由于偶然的或者恶意的原因而遭受到未经授权的访问、泄露、破坏、修改、审阅、检查、记录或销毁。
网络安全的主要目标包括实现信息的真实性、保密性、完整性、可用性、不可抵赖性。一般而言，网络安全业务主要包括安全产品(含安全硬件、安全软件)及安全服务。
全球政府和企业对网络安全的重视程度逐年提升，市场发展潜力大随着 IT 产业迅速扩张，各国政府和企业对安全的重视程度逐渐提升。总体来看，全球网络安全行业仍处于快速发展阶段，网络安全产业规模持续增长。
网络安全主要是针对重点行业及企业级用户的提供的保障网络可靠性、安全性的产品和服务。网络安全产品由安全软件和工控机、交换机等设备载体构成，其中硬件是载体，软件是网安产品发挥效能的核心。
近年来，随着我国信息化程度的不断提高，国内网络安全市场规模呈现快速增长的态势，国内提供网络安全产品的企业数量众多，模式尚不统一，市场竞争激烈，网络安全行业集中度较低。尽管行业格局相对分散，但行业集中度保持提升的态势。
网络安全行业市场分析
目前我国网络安全产业链已经逐步完善，上中下游都有相关企业提供产品和服务。产业链上游主要是工控机、服务器等硬件产品供应商及操作系统、数据库等软件产品供应商，下游主要为政府、金融、电信等政企用户，以及交通、能源、教育、卫生、企业等各领域，并逐渐应用到云计算、工业互联网、物联网等新兴应用场景中。