环业财经网社科院大学发布报告：AI大模型颠覆安全局面? 安全科技价值提升
（原标题：社科院大学发布报告：AI大模型颠覆安全局面? 安全科技价值提升）
图片来源于网络，如有侵权，请联系删除
21世纪经济报道记者 王俊 北京报道
图片来源于网络，如有侵权，请联系删除
“未来将会是数字化的。现在几乎所有的行业都在拥抱数字化浪潮，随之而来的安全风险，如数据泄露、商业勒索、基础设施瘫痪等等，也呈现愈演愈烈之势。特别是2022年底AI大模型的横空出世，大大推开了深度智能时代的大门，安全问题也迎来了质变时刻。”中国社会科学院大学数字中国研究院执行院长吕鹏表示。
图片来源于网络，如有侵权，请联系删除
1月18日，中国社会科学院大学数字中国研究院联合蚂蚁集团对外发布了《数字时代安全科技价值报告》。报告指出，安全科技将成为社会的公共品，与人工智能并列为未来的两项通用技术。在AI大模型及深度数字化趋势下，安全科技的价值在放大。
AI安全风险的紧迫性陡增
吕鹏在发布报告时指出，数字社会进入新阶段，安全问题迎来质变时刻。
他表示，数字化安全风险形势进入了快迭代、高智能、全覆盖的新格局。近20年来，网络犯罪的规模、范围、严重程度和复杂性均呈指数级增长，且日益超越地理边界，极大地挑战了传统司法系统应对挑战的效力。如今，攻击者使用人工智能等高级工具，持续加快攻击生命周期，从侦察漏洞到发起攻击，往往仅需几天乃至几小时，亚洲更是成为了全球受攻击最严重的地区。
此外，AI安全风险的紧迫性陡增，这是全世界需要迅捷反应、共同面对的巨大挑战。
AI安全风险分为三类：第一是人工智能系统内部所产生的「内生安全问题」，像“数据有毒”、“价值对齐”、“决策黑盒”等问题属于这一类；第二是「衍生安全问题」，即人工智能被利用或不恰当使用而可能引发其他领域的一些重大安全事故，比如生成假新闻、深度合成伪造进行诈骗或钓鱼攻击，侵犯他人肖像权、隐私权，涉及人身安全、隐私保护、军事与国家安全、伦理道德和法律规范等一系列与社会治理有关的挑战性问题；第三是「外生安全问题」，也就是面向人工智能系统的外部网络攻击对抗。
要想更好地控制AI安全风险，最合理的方法就是打造一套可靠的“质检”标准，像当初发明杀病毒软件一样，将大模型中有问题的部分精准定位并去除，安心使用其好的部分。
吕鹏还指出，有新技术的地方，就有新的安全风险，这也是数字社会的技术实质，两者是本体和阴影一样不可分割的伴生关系。新技术工具改变了工业的运作方式，同时也导致了安全风险的蔓延，包括网络被入侵攻击，导致基础设施和服务瘫痪、关键的信息和数据被窃取、商业勒索、大范围的人身伤害等。
数字技术无所不在，数字安全风险自然无所不在。只要有网络、有数字信息的地方，就需要有安全科技。小到微信登录，大到物流供应链系统的防火墙，疫苗生产系统的设计，都离不开安全科技。只要不出事故，我们常常感知不到这些科技的存在，但它已经遍布生活与生产的方方面面。
安全科技将成为社会的“公共品”
“‘技术是把双刃剑’，在它以更快的速度变得越发强大时，我们不可能扔掉利刃，放弃科技；惟有以另一种科技打造足够安全的刀鞘。”吕鹏表示，“未来有且只有两项通用技术，一是人工智能，二是安全科技。”
研究团队认为，人工智能是未来生产力的发动机，将在各行各业数字化的基础上进一步实现智能化；安全科技作为方向盘，始终将各种新兴科技控制在向善的道路上，两者融合创新与发展。
报告同时提出，未来，安全科技将成为社会的“公共品”，是技术向善的关键保障，尽早对它进行投入，将有助于掌握新兴技术发展与产业迭代的主动权。
蚂蚁集团副总裁、大安全事业群总裁赵闻飙认为，安全科技具有“压舱石”与“助燃剂”的两重价值。“压舱石”指的是守住技术的安全底线，防御外部风险隐患，让技术“难作恶”，支撑数字社会稳步运行。“助燃剂”体现在提高技术的安全上限，降低技术运行的成本，让产业焕发新机，让更多人受益。比如，通过可信隐私计算技术，让数据安全流转成为可能，充分激活数据要素价值。
如何让安全科技成为公共品？报告认为，政企合作是核心驱动力。通过更多的公共力量投入，在合规激励、商业保险、行业标准、安全思维更新等方面加强生态联动，构建更好的安全科技实力和制度。
在合规激励方面，报告指出，当前，大多数企业往往更倾向于把资源投入到 IT 研发而不是安全保障上。在大部分企业自身没有直接动力来投入安全时，需要政府通过合规者的角度来推动相关的保障投入。
商业领域的创新也是落实合规的重要助手，诸如商业网络安全保险就能有效帮助建立数字安全事件评估及赔偿标准，帮助中小企业为安全风险兜底买单。
在标准建设方面，借助政府、头部机构与企业的带头作用，为全社会的安全技术建设提供标准。
此外，还要梳理安全思维，以人为本的安全设计、运维与建设并重的安全构建。通过借鉴行为科学、用户体验等学科，以人为本的安全设计有助于最大限度地减少人为失误。
推荐阅读：
“处方药价格高得离谱！”美国参议院小组考虑传唤强生(JNJ.US)和默沙东(MRK.US)CEO
重磅！国常会明确：加大中长期资金入市力度，着力稳市场、稳信心！
专题推荐：
版权声明
本文仅代表作者观点，不代表xx立场。
本文系作者授权xx发表，未经许可，不得转载。
