焦点播报:人工智能概念狂飙，网络安全企业该如何理智应对？

2023-02-09 09:48:41 来源：互联网

最近，两个人工智能系统彻底火出了圈，成为许多网友热议的焦点。

一个是冷酷无情的“幕后主角”MOSS，一个是多才多艺的“全能网友”ChatGPT。

MOSS与ChatGPT

科幻电影《流浪地球2》中的面试环节令人印象深刻。

【资料图】

演员吴京饰演的刘培强面试空间站航天员以获取让家人进入地下城避难的资格，面试他的不是人而是经过多重迭代、具备自我意识的人工智能系统MOSS（电影中也称“550W”）。

当一个红点摄像头对着刘培强轻轻一扫，他的家庭情况和艰难选择，连同其妻子的生命剩余天数都算得一清二楚，甚至还为刘培强提供了所谓的“最佳选择”。面试中，MOSS冷静且尖锐的提问，理智而迅速的反应，一度让刘培强情绪崩溃，观众也为他捏了一把汗。

而最近火热的ChatGPT，是OpenAI公司于2022年推出的一款自然语言驱动的智能聊天机器人，由于其设计架构基于超大规模预训练自然语言模型GPT，学习了海量人类自然语言文本数据，它不仅能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，并协助人类完成一系列任务。

这款AI语言模型，让撰写邮件、论文、脚本，制定商业提案，创作诗歌、故事，甚至敲代码、检查程序错误都变得易如反掌。

不少和ChatGPT“聊过天”的网友纷纷感叹，“只有你想不到，没有ChatGPT办不成的”。上线仅2个月，ChatGPT的活跃用户就突破一亿，成为了历史上用户增长最快的消费者应用程序。

技术发展引“狂喜”

ChatGPT等此类生成式AI将繁琐和耗时的任务进行自动化生产，人类被解放出来专注于更关键的任务。它还可以产生原创内容和想法，并帮助研究和开发新产品和服务。

人工智能的出色表现，对于许多企业和个人来说极具吸引力。AI面试、AI聊天、AI绘画……AIGC（利用人工智能技术生成内容）作为工具在工作生活、工作中应用趋于高效且日益广泛。

作为网络空间安全与社会治理领域国家队、国投集团数字经济板块重要企业，美亚柏科的AI研发团队从2019年开始，就已经采用“超大规模预训练模型+下游任务迁移”的技术方案，利用公司自身的自然语言处理技术，在NLP、OCR、计算机视觉和人工智能安全等多个领域开展人工智能分析方面的业务实践，基于在电子数据取证和执法部门大数据智能化领域多年的深耕和知识经验的积累，对行业客户数据特点和业务需求的深刻理解，提出了文本智能分析理解、不良多媒体文件分析、反诈骗信息鉴别、多模态信息检索等多个独有的核心算法模型，广泛应用到公司舆情检测、大数据情报分析和电子数据取证类产品中。

美亚柏科将在国家相关规定下合理利用生成式AI技术，将ChatGPT类技术融入各类产品和项目中，提升公司已有产品在文本理解分析，不良信息处置，多模态数据检索，案件支持知识库智能化、大数据智能化和取证产品智能化方面的核心竞争力，进一步提升公司在对各类生成伪造图像视频、文本内容的发现识别和鉴定相关产品的技术能力，全面提升美亚柏科全产品体系智能化交互，智能问答的能力。

目前，在客户服务方面，美亚柏科已经将ChatGPT的相关技术应用到产品售后支持部门，基于取证产品知识库，研发智能客服机器人系统，提升服务效率，有效节约售后支持的成本。

技术狂飙需“冷静”

在人工智能向社会生活的各个领域渗透之时，其安全的负面风险持续加剧且产生实质危害，通过深度合成和生成式AI技术制造虚拟音视频图像进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。

此外，深度合成和生成式AI技术一旦被滥用，将会造成巨大的安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

在法律层面，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）并于2023年1月10日起正式施行。《规定》通过系统性、创新性制度设计，回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。

阻止AI滥用，防止AI作恶，也需发挥技术能力，用“魔法”打败“魔法”。美亚柏科自2017年便深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，于2019年特别针对深度合成技术成立专项研究团队（下称“专项团队”）。

专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。

AI-3300"慧眼"视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备，配备了美亚柏科人工智能团队自主研发的核心AI智能检测引擎，支持当前绝大部分深伪视频图像篡改方法的检测，检测精度处于国内领先水平，可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。

未来，美亚柏科还将持续钻研，在立足自身研发实力、丰富实战经验发挥人工智能作用的同时，也将针对生成式AI技术、人工智能安全等问题，不断打磨推出更为安全、可信、可靠的人工智能技术产品，迎接新挑战，为推动、维护和保障人工智能的安全发展贡献力量！

标签：人工智能美亚柏科人工智能技术自然语言