结构安全大会:自动化、人工智能及机器人学习将担起安全重任

简介:

结构安全大会日前在美国旧金山召开,自动化、人工智能和机器学习是此次大会的主题。

对于商业科技领导者来说,安全与自动化是混合在一起的,此为底线。对于技术买家而言,窍门则是要搞清楚什么平台是合法的以及什么只是纯粹营销和流行用语而已。

我们来看看结构安全大会的要点。

自动化、自动化、自动化。私人股本公司Blackstone首席信息安全官Jay Leek表示,他的公司正在开展有关调研自动化、机械性安全任务和其他方面的工作,目标是缓解安全人才危机和提高生产力。结果:Leek的安全分析师在做更有价值的工作,最初的调调研现在只需要40秒钟。

笔者的同事给出了这样的描述:

尽管Leek说该公司将分析师的生产力提高了3倍多,其实这些工作的最大价值是为标准操作带来了一致性。例如,有了调研一致性,下层员工可以做更有意思的事情,而高级员工则可以被解放出来去做更深层次的工作。

安全需要以情报为动力。Rally风投老总及前RSA负责人Art Coviello表示,太多的供应商听起来都大同小异。他过滤新的安全厂商的准则是,供应商必须提供对现有的安全控制有重要改善、能够为当前系统增加价值以及能提高成本效益和效率。最后一点非常重要,因为设计到自动化。他表示,“这一块是个烂摊子,攻击面成指数增加。防御需要以情报为动力。”

算法和人工智能将成为安全与防御的关键。Cylance首席执行官Stuart McClure表示,机器学习是一门真正的科技,“机器学习必将挽救整个安保行业”。他表示,安全必须有人参与的看法过时了。McClure认为,机器学习和人工智能将对安全产生巨大的影响。

安全厂商将面临洗牌。RSA首席策略官NilofarHowe表示,安全行业需要注入创新元素。业界的1700家公司是否有能力交付仍不明朗。他表示,“业界现有1700安全公司,而90%的公司无利可图。这些公司在市场上待了12年之久,洗牌的时候到了。”

开源在安全方面将担当自己的角色。大会的一个安全工程师讨论会概述了开源软件在特别安全领域的重要性。例如, Uber的Hudson Thrift表示,Uber公司开源了一个用于双因素身份验证的脚本;如果硬件插入USB盘后不被认可,就需用双因素身份验证。他表示,“软件有用得上的地方,但一门业务是不能建于软件基础上的。”Slack的Leigh Honeywell也特别谈到发布到社区的一个脚本,脚本令社区可以将秘密保存在Slack上。开源安全软件最难的地方是要与安全前沿保持同步。Facebook的Nick Anderson表示,Facebook在开源应用程序前会仔细审查代码。

代码和更佳的流程管理必须解决安全问题。大会的另一个讨论小组上有Lookout、CloudPassage和Sqrrl的出席,小组围绕如何在代码和开发实践中防止安全问题的出现展开了讨论。Leek做的有关自动化的发言引发了一轮新的讨论。结论是:机器学习和代码最终必将抗衡恶意代码。我们现在已经到了这一步了吗?还没有。


原文发布时间为:2016年9月28日

本文作者:黄雅琦 

本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

相关文章
|
4月前
|
云安全 人工智能 安全
阿里云欧阳欣:AI时代下的安全新范式
2024 云栖大会技术主论坛重磅发布
884 4
阿里云欧阳欣:AI时代下的安全新范式
|
2月前
|
人工智能 安全 算法
上交大、上海人工智能实验室开源首个多轮安全对齐数据集 SafeMTData
最近,以 OpenAI o1 为代表的 AI 大模型的推理能力得到了极大提升,在代码、数学的评估上取得了令人惊讶的效果。OpenAI 声称,推理可以让模型更好的遵守安全政策,是提升模型安全的新路径。
|
27天前
|
机器学习/深度学习 人工智能 算法
人工智能与机器人的结合:智能化世界的未来
人工智能与机器人的结合:智能化世界的未来
181 32
|
1月前
|
机器学习/深度学习 人工智能 安全
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
近日,由中国计算机学会计算机视觉专委会主办的《打造大模型时代的可信AI》论坛顺利举行。论坛邀请了来自上海交通大学、中国科学技术大学等机构的专家,从立法、监管、前沿研究等多角度探讨AI安全治理。合合信息等企业展示了图像篡改检测等技术,助力AI向善发展。
65 11
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
|
22天前
|
机器学习/深度学习 人工智能 安全
阿里云先知安全沙龙(武汉站) ——AI赋能软件漏洞检测,机遇, 挑战与展望
本文介绍了漏洞检测的发展历程、现状及未来展望。2023年全球披露的漏洞数量达26447个,同比增长5.2%,其中超过7000个具有利用代码,115个已被广泛利用,涉及多个知名软件和系统。文章探讨了从人工审计到AI技术的应用,强调了数据集质量对模型性能的重要性,并展示了不同检测模型的工作原理与实现方法。此外,还讨论了对抗攻击对模型的影响及提高模型可解释性的多种方法,展望了未来通过任务大模型实现自动化漏洞检测与修复的趋势。
|
20天前
|
人工智能 安全 算法
PAI负责任的AI解决方案: 安全、可信、隐私增强的企业级AI
在《PAI可信AI解决方案》会议中,分享了安全、可信、隐私增强的企业级AI。会议围绕三方面展开:首先通过三个案例介绍生活和技术层面的挑战;其次阐述构建AI的关键要素;最后介绍阿里云PAI的安全功能及未来展望,确保数据、算法和模型的安全与合规,提供全方位的可信AI解决方案。
|
27天前
|
人工智能 安全 机器人
OpenAI重拾规则系统,用AI版机器人定律守护大模型安全
在人工智能领域,大语言模型(LLM)展现出强大的语言理解和生成能力,但也带来了安全性和可靠性挑战。OpenAI研究人员提出“规则基于奖励(RBR)”方法,通过明确规则引导LLM行为,确保其符合人类价值观和道德准则。实验显示,RBR方法在安全性与有用性之间取得了良好平衡,F1分数达97.1。然而,规则制定和维护复杂,且难以完全捕捉语言的多样性。论文:https://arxiv.org/pdf/2411.01111。
78 13
|
23天前
|
机器学习/深度学习 传感器 人工智能
开源AI视频监控系统在监狱安全中的应用——实时情绪与行为分析、暴力预警技术详解
针对监狱环境中囚犯情绪波动和复杂人际互动带来的监控挑战,传统CCTV系统难以有效预警暴力事件。AI视频监控系统基于深度学习与计算机视觉技术,实现对行为、情绪的实时分析,尤其在低光环境下表现优异。该系统通过多设备协同、数据同步及自适应训练,确保高精度识别(95%以上)、快速响应(<5秒),并具备24小时不间断运行能力,极大提升了监狱安全管理的效率与准确性。
|
2月前
|
机器学习/深度学习 传感器 算法
智能机器人在工业自动化中的应用与前景###
本文探讨了智能机器人在工业自动化领域的最新应用,包括其在制造业中的集成、操作灵活性和成本效益等方面的优势。通过分析当前技术趋势和案例研究,预测了智能机器人未来的发展方向及其对工业生产模式的潜在影响。 ###
208 9
|
2月前
|
云安全 人工智能 自然语言处理
用AI来做云安全是怎样一种体验?阿里云安全AI能力大曝光
阿里云内容安全大模型获CSA安全金盾奖
1107 2