标签 数据安全 下的文章

  信息技术被广泛应用,网络空间兴起并发展,这极大地促进了经济社会的繁荣与进步,与此同时,也带来了新的安全风险以及挑战。为此,中国财富研究院网络安全研究中心在近期开展了“讲好中国网络安全好故事”系列走访活动,其理事、领信数科信息技术有限公司副总经理李春燕围绕“AI+安全”融合发展的现状、趋势以及企业创新实践等议题表达了自身看法。

  行业趋势:从单点防御到智能生态的范式变革

  李春燕表明,当下中国网络安全产业在那个“AI + 安全”领地总体已然步入“探索跟突破同时存在局面”的关键时期,然而却面临着“技术融合深度欠缺、高端复合人才稀少、市场被动防御思维惯性”等多项瓶颈。多数AI安全产品仍然是聚焦于已知模式识别以及流程自动化,在应对APT(高级持续性威胁)、0-day攻击等高级威胁之际明显“后劲匮乏”。关乎深处的难题在于,核心算法原创之特性,大模型架构开放之范畴,大模型自身安全风险等诸多方面的探寻依旧有待于进一步深入,于实践层面同样需要不断强化协同。与此同时,相关法规标准,像《中华人民共和国网络安全法》,仍旧处于持续修订完善的进程之中,AI模型由于缺少全局思路以及高质量数据从而导致价值受到限制的问题同样显著。这些因素彼此相互交错,阻碍了行业规范有序地发展以及技术健康稳步地演进,彰显出行业发展所肩负的重任路途漫长。

  需要做好迎接AI安全高速发展阶段的准备,就得建成那种凭借政策引领、依靠技术创新驱动、借助产业协同支撑的系统性解决办法,迫切需要转变到‘体系作战’思维。李春燕给出建议,在政策层面,要强化顶层设计,推进国家级威胁情报共享平台的建设,还要制定AI安全评估体系;于技术方面,企业要发展内生智能安全架构,构建起协同防御体系,其中,该体系以安全大模型作为“大脑”,有多个专用智能体作为“手脚”;在产业范畴,要打破企业之间的壁垒,推动“产学研用”联合体加快技术转化,从而形成“平台+生态”的格局。

  行业实践:从构建网络“韧性”到赋予数据“免疫力”

  李春燕认为,对于AI技术跟各行各业网络安全的融合前景,AI技术深入融入网络安全各个关键领域,正在促使一场深刻的产业变革产生,市场发展趋势会呈现出共性特征,即“从被动防御朝着主动智能演进、从单点防护向着体系化协同升级、从产品销售转变为服务化模式转型”,这种变革的背后,法律政策的规范与引导是不可缺少的。

  今年10月28日表决通过的新修订的,名为《中华人民共和国网络安全法》的法律,针对当下数字经济新出现的形势作出了明确的回应,其核心导向当中的一个,正是把AI等新技术的安全保障纳入法律框架之内,为AI在网络安全领域的合规方面的融合、创新发展提供了重要的指引,这一法律的修订,既回应了技术发展的现实需求,也为产业变革提供了制度方面的保障。

  置身当下,AI大模型技术掀起变革并伴生风险,于此情境下,李春燕更进一步如此为之,以信创安全为例,以工业互联网安全为例,以智能网联汽车及车联网安等典型场景为例,从中阐释AI怎样重塑市场格局。李春燕觉得,于信创那个范畴当中而言了,市场将会更加中意倾向于从而能够去提供“安全就是代码”的情况的那些了,还进而具备有那种AI自动化缺口发掘以及修复本事的那种,再有就还有智能威胁检测以及响应能力表现的创新样式型的平台了了;在工业互联网那样的场景状况里头而言之中是,市场状况将会是聚焦在乎关乎于也就是讲能够跟SCADA、DCS系统实现毫无差错无间衔接融合的AI安全探针以及边缘计算节点的,并另外方面去发展依据基于AI的工控缺口发掘挖掘以及风险评估评估服务方面的了了;在智能网联汽车这个领域方面而言的话了了了,市场的趋势走向则是去构建搭建覆盖涵盖“车端-路侧-云端”的整个链条链条上面的智能防御体系系统的啦了,对于车载入侵检测系统系统来说的话,V2X通信安全认证平台啊以及站到立足在以基于AI的自动驾驶系统系统功能的的安全需求要求或者可能或许将会呈现出爆发式增长态势趋势的啦句号。

  跟着新修订的《中华人民共以及国网络安全法》、《症结信息基础设施安全维护条例》等法律法规施行缓缓深切,合规需求会不断拉动AI安全市场增长。 “总体来讲,AI与安全的结合,正在促使整个产业从‘以产品为中心’朝着‘以能力以及服务为中心’转变。”李春燕强调, “未来的赢家会是那些能深切理解行业场景、掌握核心AI技术、提供端到端智能化解决方案的综合型企业。”。这种转型,是技术发展必然出现的趋势,是法律政策引导形成的产业升级方向。

  AI大模型时代的安全内核:从静态保护到动态可信运行

  说到AI大模型对于网络安全所产生的影响,李春燕觉得,它展现出了十分明显的“双刃剑”特性。从积极的层面来讲,AI极大地提高了安全防御的能力以及效率,且正在重新塑造安全防护。可是,AI也被怀有恶意的攻击者广泛地利用了,就连大模型自身也变成了新型的攻击目标。这样一来,网络犯罪的技术门槛大幅度地降低了,进而带来了十分严峻的新风险。

  以下是改写后的内容:在这样的一种背景情形之中,安全的实质性内涵已然发生了极为深刻的转变演替,从传统概念所指的对诸如“数据、设备、网络”等静态性质资产加以保护,转变为朝着保障涵盖“数据、模型、算法、决策”等动态特性智能系统的“可信运行状态”。李春燕明确指出,表示当下安全的重点核心目标,不再单单只是局限于机密性、完整性以及可用性这些方面,而是还有所更广泛地延伸拓展至模型的鲁棒性、公平性、可解释性以及隐私保护等诸多范畴。安全必定得成为AI系统的“内生固有基因”,并且要贯穿其整个的生命周期过程全过程。

  李春燕觉得,虽说技术环境发生了巨大变化,但其风险意识、纵深防御、最小权限、持续监控等传统的安全核心理念依旧是极为关键的,并且还被给予了新的内涵。“未来的发展走向必定是构建‘AI赋能安全’与‘安全保护AI’同等重要的双重能力体系,在延续安全基本准则的基础上,发展能够自我感知、自我学习、自我免疫的智能安全新范式,用以应对越来越复杂的数字威胁格局。”。

  本着上述那种判断的思路,李春燕分享讲出了领信数科于“AI与安全相结合”这个方向上边的技术发展演变路径。她这般讲道:“我们围绕着‘经由AI去赋予能量提升安全’以及‘借助AI进行安全上的防护’这两条轨道同时并行,在经过努力之后成功创立了内在便具备智能特性的安全架构,并且已然取得了属于某个阶段方面 的成果。”。

  2025年起,大模型安全保护市场进入需求爆发阶段,领信数科于2023年早已对AI安全防护产品体系完成前瞻性布设,成为其在AI安全赛道的战略关键支撑点,意味着从“应对AI威胁”迈向“保障AI安全应用”的高级别跨越提升,拥有明显不可替代特性以及长期竞争优势。

  方面是在AI赋能安全,其中领信数科依靠自身研发的“鬼谷子数据分类分级智能体”,以及“子牙安全分析与响应智能体”,去开展一系列的高阶AI安全服务,这二者协同构建起“数据-行为-风险”一体化智能安全体系。

  在AI安全防护领域之中,李春燕着重介绍了“大白智护”系列AI防护产品,“大白智护”系列涵盖智护-大模型安全围栏、智护-智能体数据安全防护网关等产品,其直接针对政企客户部署大模型之际所面临的权限滥用、输出内容失控以及敏感数据泄露等核心风险进行有效应对处置,从而达成“护模型-护数据-护应用”的安全防护体系。

  领信实践:双轮驱动的智能安全体系创新

  领信数科身为数字安全创领者,有着自身独有的竞争优势,究根结底,该优势源自其系统性战略布局,此布局以“智能身份”为核心呈现,以“数据安全”为延伸展现,以“AI原生架构”为底座构建。

  就技术层面而言,领信数科把人工智能与网络安全能力深度予以融合,构建起全栈式智能安全体系,该体系覆盖了身份治理、访问控制、行为分析以及数据保护;于商业模式方面,领信数正加快速地从传统软硬件项目制交付朝着“安全即服务”模式进行转型,还推出基于AI的持续性安全运营服务;在服务层面上,强调的是“可用、可信、可管”的三位一体交付理念。

  李春燕进行举例表明,“如同我们所拥有的统一身份认证平台,它能够在每秒10万以上并发请求的情况下,实现毫秒级的动态授权,而这背后所依靠的是机器学习模型针对用户行为展开的实时分析以及风险识别。”依赖于由AI驱动的统一身份认证以及零信任架构,领信数科成功地为以“微警”作为例子的亿级用户政务平台提供了智能身份信任体系,这样便能够有效地抵御AIGC所带来的虚假身份以及诈骗风险。

  此外,领信数科有着明显的战略以及生态方面的优势,它身为国家高新技术企业,还是“专精特新”企业以及信创委成员,其产品能够兼容国产芯片,并且符合系统生态的要求,能满足关键信息基础设施自主可控这一需求,它积极参与国家相关标准的制定工作,还不断投入研发,强化AI与安全的融合,以此来巩固技术壁垒。

  可以看出,领信数科不是依靠单一技术亮点,而是借由“AI深度赋能安全技术,服务模式持续创新,行业场景精准落地,国产生态协同共建”这样的四位一体战略,打造了“AI+安全”综合竞争力,具备前瞻性、合规性、可扩展性以及商业可持续性。它的发展路径既顺应新修订的《中华人民共和国网络安全法》等法规对技术创新与安全监管的提倡,又符合网络强国战略“技术先进、风险可控”的目标。有这样一位名为李春燕的人,其作出了相关表示,那就是领信数科会对国家政策以及行规动向予以关注,借此达成企业战略和政策导向的同频共振。

  逆势增长:双安全战略驱动高质量发展

  在行业面临挑战的情形下,领信数科借助技术方面的创新以及生态的协同,达成了逆势增长的情况,李春燕把这归结于公司所确定的“数据安全加人工智能”的那种具有前瞻性的战略,这种发展的路径还得到了市场与资本两方面的验证;领信数科那“大白智护”系列的产品已经多次得到了IDC等这样一些权威研究机构的认可;公司在今年四月成功地并入了国有企业广州数字科技集团,在这之前的1.2亿A+轮融资也体现出了它的技术能力以及市场的影响力。

  李春燕宣称,借由踊跃投身数博会、警博会等此类行业盛会,领信数科不但积极呈现自身于“AI + 安全”范围的最新成果、前沿技术实践,还愈发明晰地掌握了市场脉搏,为后续产品迭代以及业务布局给予了宝贵参考。

  面临行业人才呈现结构性短缺的痛点之处,领信数科把自主开展研发的双安全技术深邃地嵌入智慧城市以及企业数字化等真实的项目场景,进而沉淀成能够复用的教育资源。且针对院校构建了“真实案例加上沉浸式实训”这样特色性的服务,案例涵盖数据经过加密传输、AI安全防护等前沿性的领域。李春燕明确指出,领信数科期待能够凭借上述各项措施,达成个性化的精准培养,为行业持续不断地输送“懂技术、具备实战能力”的高素质人才,为行业的长远发展注入接连不断的动力。

  AI大模型产业应用加速落地期间,网络安全正经历本质性演变,李春燕称,领信数科会继续深化“AI赋能安全”与“AI安全防护”并重的双重能力体系,在延续安全基本原则之时,发展智能安全新范式,为数字中国建设筑牢安全底座。

  (中国财富研究院网络安全研究中心)

  在医疗行业里呈现出广阔且深远支撑前景的人工智能,也就是AI,它重塑医疗行业效率、精准度以及可及性所基于的核心,具体包含数据驱动、算法优化以及场景创新这几个方面,下面是详细的具体分析:

  一、AI对医疗行业的五大核心支撑方向

  1. 精准诊断与辅助决策

  2. 个性化治疗与动态管理

  3. 医疗流程优化与降本增效

  4. 医疗资源普惠与下沉

  5. 科研与公共卫生创新

  二、技术驱动的未来趋势

  1、多技术融合

  1.1 那 AI 与 5G 以及物联网,能实时去传输手术影像,还能传输监护数据,进而支持远程手术,也支持急重症抢救。

  1.2、人工智能加上区块链,保障着医疗方面的数据安全以及共享和确权,助力跨机构之间的协作。

  1.3、AI与脑机接口相结合,能够助力瘫痪患者,使其借助意念来控制外骨骼,或者,可以用来治疗神经退行性疾病。

  2、场景深化拓展

  2.元宇宙医疗,存在虚拟医生进行问诊这一情况,还有AI驱动的数字疗法,像是VR用于治疗心理疾病。

  2.2、细胞跟基因治疗:人工智能作CAR-T细胞疗法设计,对基因编辑工具像脱靶率予以优化。

  3、从“辅助”到“增强”

  3.先来看这种模式,它是医生与AI协同的模式,可以这样操作,AI负责处理标准化任务,像影像初筛这种任务,而医生呢,会把精力集中在复杂决策以及人文关怀方面。

  3.2、AI自主性得到提升,在未来,部分场景,像是标准化手术、药物配送,有可能达成全自动化。

  三、挑战与应对策略

  1、数据壁垒与隐私风险

  有这样的挑战,医疗数据存在孤岛化的状况,标注质量呈现出参差不齐的态势,数据泄露这种情况有可能引发伦理方面的争。议。

  对策是借助联邦学习这种技术达成让数据处于可用但不可见的状态,还要去构建出医疗数据脱敏以及合规使用的标准要求。

  2、算法可靠性与伦理争议

  要面对的挑战有,AI出现误诊情况下那个应该承担责任的归属问题,还有算法存在偏见的情况,像是肤色会对诊断准确性造成影响,另外还有过度依赖所存在的风险。

  应对策略为,搭建能够进行解释的人工智能,也就是XAI模型,进一步完备针对医疗人工智能的监管框架,就像FDA的SaMD认证那样。

  3、商业化与落地难题

  挑战:医院IT系统兼容性差、医生接受度低、付费模式不清晰。

  办法:弄出轻量化的、能够在本地进行部署的方案;构思一种按照效果来支付费用的保险方面的合作模式。

  四、展望:AI医疗的终极愿景

  未来10年,AI将推动医疗行业实现三大转型:

  终极而言,AI不会把医生给替代掉,然而,那些掌握AI工具的医生会将不会运用AI的医生给取代掉。技术跟人性相融合,这才是医疗行业能够持续发展的关键路径。

  受新一代信息技术蓬勃发展影响,数据展现出爆发式增长以及海量集聚的特性,它已然成为国家与社会治理方面的战略资源。国家领导人言道:“全力促使大数据、人工智能等科技创新成果跟司法工作深入融合”。要推动大数据与司法工作深度融合,就得深切认知司法大数据暗藏的重要价值,在科学的层面精准抓住大数据的发展机遇,从而更优地为司法工作增添助力。

  科学把握大数据发展带来的机遇

  近些年,人民法院深度贯彻国家领导人所秉持的法治思想,促使智慧法院建设得以加速,推动了大数据管理与服务平台施工营造,构建出拥有中国特色风格的、呈互联网模式的司法新样式,踊跃地为全球互联网法治方面的发展奉献出中国智慧以及出自中国的方案。大数据已然变成推动法院迈向改革发展的关键紧要力量,加快大数据同司法工作进行深度相互融合的发展潜能是相当巨大的。

  司法大数据能给审判执行工作带去赋能效果,借助司法大数据,能够助力达成审判执行的自动化以及精准化,大数据在诸多司法相关活动领域像推送类似案件、辅助量刑、预警偏离情况、自动生成裁判文书、识别虚假诉讼、预测判决结果、评估诉讼风险等方面都存在应用的前景,为审判执行工作的现代化创造出新的机遇,大数据行之可达成类似案件的自动关联与法律法规的推送,为法官工作供给个性化、精细化以及智能化的服务,利于统一法律适用标准,防止出现“同案不同判”的状况。借由区块链技术,将证据标准予以统一,并且,还能够对案件办理进程里的证据采集工作以及认定工作起到辅助作用。

  大数据给审判管理赋予能量,大数据的价值是供应科学的技术办法,推动助力科教导向判决,促使管理发生变革,大数据运用能够凭着架构扁平化审判管理体系,达成事后管理向事前、事中管理的转变,切实提高审判管理质量和效率,有助于及时知晓办案状况情形,进行有效的流程管理、态势分析,能够科学测定工作量,健全完备审判监督管理体系,提升审判管理自动化、精细化、智能化级别水平。

  大数据给诉讼服务赋予能量,大数据跟诉讼服务工作深度交融,这有助于促使诉讼服务变得更为便捷、更为透明、更为高效,已建成的人民法院大数据管理与服务平台,它能够提供审判运行态势数据、司法统计报表、律师律所信息、司法公开数据等综合数据查询服务,全国四级法院的信息化诉讼服务大厅,能够为当事人给予诉讼引导、立案登记、诉前调解和救助等全方位信息服务,一些地方法院广泛运用无接触式诉讼服务,当事人不用出门就能够参与诉讼。

  运用大数据推进司法工作创新

  大数据发展一日千里,对法治建设造成深远影响,国家领导人着重指出,善于采集数据,剖析数据,应用数据,乃是领导干部开展工作的基本能力。推进大数据建设,是人民法院贯彻新发展理念,顺应信息化时代新趋向的关键举措。

  应进一步强化大数据思维,这一强化大数据思维,乃是广大法院干警用好大数据以及利用大数据提升工作能力的必然要求,大数据既是一种基础资源,又是一种技术手段,更是一种思维方式,要树立重视数据、尊重数据的意识,增强运用大数据推动司法工作创新的主动性,还要实现从经验治理往数字化智能化治理转变,从被动响应治理向主动预见治理转变,进而发挥先进技术对服务人民群众、服务审判执行、服务司法管理的重要作用。

  加快推动数据整合还有共享的工作,数据的深度挖掘以及融合应用这种情况,是大数据技术具备的显著特征,大数据应用能够帮助人们科学地判断态势,预测趋势并且辅助进行决策,经过多年的积累,人民法院已经拥有大量的司法统计数据信息,但是和大数据的要求相比较而言,现有的统计调查范围比较狭窄,统计指标也不是足够多。要在保证数据是真实性、准确性的根基之上,持续提高数据挖掘以及整合的能力,对原本已有的司法统计指标体系予以优化并使之更为精细,按次序拓宽数据统计的范围,既要去收集像数字、符号这类结构化的数据,又得去收集诸如图片、声音、视频、文本这类非结构化的数据。还要进一步让法院系统的数据收集、处理、储存以及开放的标准变得规范统一,改善数据资源管理的模式,赶快把大数据平台完善起来,广泛地去汇聚、整合全国的司法数据。最大程度地整合有关联的数据信息,打破信息孤岛的局面,达成互联互通,推动数据共享。

  对于大数据安全发展予以保障,随着信息化持续发展,大数据在所具有的海量性跟多样性,以及高速性和易变性等这些特征方面愈发显著地展现出来,在为民众带来福祉并对治理起到助力作用的同时,也给数据安全造成极大挑战,司法大数据情况同样如此,要是运用存在不当之处,就极有可能给国家安全以及公共安全带来威胁,类似泄露商业秘密以及侵犯个人隐私等情况。要捕捉数字化、网络化、智能化带来的发展契机,加速开展个人信息保护法、数据安全法等法律法规的制订工作,完善数据分类分级安全保护制度,搭建更为严密的大数据保密机制。于实践当中,还需破除“唯技术论”的错误观念,纠正认为技术能够解决所有问题的不正确认知,把握司法活动的规律性以及主观能动性,保障司法大数据建设有序向前推进、安全地发展。

  (作者为国家法官学院党委书记、院长)

  《 人民日报 》( 2021年03月29日 09 版)