安全公司称40%的机器人都在为非作歹

简介:

据外电报道,我们很难不爱机器人,因为它们简化了电商流程,提高了通讯效率,甚至还能帮你安排旅游相关事宜,例如叫车送你到机场、预订机票和酒店等等。但是,除了这些一心一意为人们服务的机器人外,还有一些心怀恶意的坏蛋机器人,这是你必须小心提防的。它们已存在多年。随着聊天机器人的快速发展,它们形成的安全威胁也越来越大了。事实上,据安全公司Distil Networks称,大约40%的机器人都在为非作歹。

这就是说,对于每一个为人类提供服务(如帮助查询天气预报或购物)的善良机器人来说,几乎都有一个邪恶的机器人潜伏在某处为非作歹。“机器人是黑客工具包中的核心组成部分。”Distil Networks公司的CEO和联合创始人拉米 爱萨伊德(Rami Essaid)说。该公司已成立五年,专注于监测和打击坏蛋机器人。它的客户包含AOL、史泰博(Staples)和在线票务交易网站StubHub等等。去年暑期,这家位于旧金山的公司在风投公司Bessemer Ventures领衔的第二轮融资活动中成功融资2100万美元,从而将其总融资额推高到了3500万美元。今年初,该公司发布了《2016年恶意机器人发展报告》(2016 Bad Bots Landscape Report)。

很久以来,黑客们一直在使用像Burp这样的机器人来拦截网络流量和自动发起攻击,用像Metasploit这样的机器人来探测网页漏洞。直到最近,坏蛋机器人通常都会瞄准公司的主营业务,窃取有价值的情报,例如定价、存货、知识产权以及财务信息。

“现在,我们发现很多公司都开始意识到需要保护其商业活动了。”爱萨伊德说,“坏人会购买大量用户名和密码,然后强行访问和窃取消费者的银行、电子商务、健康医疗以及邮政服务和税务局信息。”

虽然机器人在企业领域中的恶行通常不会见诸报端,但是涉及到消费者的安全入侵事件则会被报道。纽约司法部长埃里克 施耐德曼(Eric Schneiderman)的办公室最近发布了一份有关票务行业中机器人作恶的报告。例如,在U2摇滚乐队演唱会门票开售的第一分钟内,黄牛党就利用坏蛋机器人抢购了1012张门票。

随着人们对于机器人的兴趣逐渐提高,我们不难想象将会有越来越多的消费者被骗下载恶意机器人。这有些类似于网络钓鱼,或声称尼日利亚王子要转钱给你的诈骗活动。“随着机器人对于消费者的吸引力越来越大,消费者面临的风险也越来越高了。机器人越多,意味着恶意机器人的访问端点就越多。” 爱萨伊德说。他还说,他的公司发现机器人攻击网络应用程序、API(应用程序编程接口)以及本土应用程序的频率增加了。

好的机器人也会成为黑客们的攻击目标。但是,各个平台的审查制度有利于减少这种风险。“安全责任完全落在了各个平台上。”爱萨伊德说。他指出,苹果应用商店App Store的审核流程就是一个典范,它展示了我们应该如何甄别机器人的好坏以及保护消费者的安全。

从很多方面来看,安全就是一种猫鼠游戏。随着好的机器人在技术上变得越来越先进,坏的机器人也提高了自身躲避监测、载入恶意代码以及模仿人类行为的能力。

虽然现在预言恶意机器人带来的损失有多大还为时尚早,但是我们毫不怀疑它们的威胁正在加大,尤其是在手机已变得非常普遍的情况下。爱萨伊德估计,现在,在人们台式电脑中发现的恶意机器人数量与其手机上发现的机器人数量之比为6:1或7:1。“台式电脑中出现的恶意机器人要比移动设备更普遍。但是,手机中的恶意机器人数量也正在增加。越容易安装和下载的机器人,你越需要小心。”

本文转自d1net(转载)

相关文章
|
运维 监控 安全
调用钉钉机器人API接口将堡垒机安全运维告警单发给运维人员
调用钉钉机器人API接口将堡垒机安全运维告警单发给运维人员
586 0
|
9月前
|
传感器 算法 安全
机器人路径规划和避障算法matlab仿真,分别对比贪婪搜索,最安全距离,RPM以及RRT四种算法
本程序基于MATLAB 2022A实现机器人路径规划与避障仿真,对比贪婪搜索、最安全距离、RPM和RRT四种算法。通过地图模拟环境,输出各算法的路径规划结果,展示其在避障性能与路径优化方面的差异。代码包含核心路径搜索逻辑,并附有测试运行图示,适用于机器人路径规划研究与教学演示。
1006 64
|
12月前
|
消息中间件 NoSQL 安全
WePush 一款基于模拟点击实现的微信消息推送机器人,安全稳定不封号
WePush 是一个基于微信 Windows 客户端开发的消息推送系统,采用模拟人工点击技术实现消息发送,具有安全稳定、零封号风险的特点。系统通过 HTTP API 接收消息请求并利用 Redis 消息队列异步处理任务,支持群聊和个人消息推送。依赖 FastAPI、wxauto 和 Redis,适用于系统监控提醒等场景,需使用指定版本微信客户端运行。
1548 60
|
人工智能 安全 机器人
OpenAI重拾规则系统,用AI版机器人定律守护大模型安全
在人工智能领域,大语言模型(LLM)展现出强大的语言理解和生成能力,但也带来了安全性和可靠性挑战。OpenAI研究人员提出“规则基于奖励(RBR)”方法,通过明确规则引导LLM行为,确保其符合人类价值观和道德准则。实验显示,RBR方法在安全性与有用性之间取得了良好平衡,F1分数达97.1。然而,规则制定和维护复杂,且难以完全捕捉语言的多样性。论文:https://arxiv.org/pdf/2411.01111。
515 13
|
Kubernetes 安全 机器人
私密离线聊天新体验!llama-gpt聊天机器人:极速、安全、搭载Llama 2,尽享Code Llama支持!
私密离线聊天新体验!llama-gpt聊天机器人:极速、安全、搭载Llama 2,尽享Code Llama支持!
私密离线聊天新体验!llama-gpt聊天机器人:极速、安全、搭载Llama 2,尽享Code Llama支持!
|
运维 监控 安全
【优化篇】调用钉钉机器人API接口将堡垒机安全运维告警单发给运维人员
【优化篇】调用钉钉机器人API接口将堡垒机安全运维告警单发给运维人员
274 0
|
机器学习/深度学习 传感器 人工智能
谷歌 AI 提出双重策略强化学习框架,帮助机器人安全学习动作技能
深度强化学习在自主解决复杂、高维问题方面的前景,引起了机器人、游戏和自动驾驶汽车等领域的极大兴趣。但是,要想有效地进行强化学习策略的训练,需要对大量的机器人状态和行为进行研究。这其中存在一定的安全风险,比如,在训练一个有腿机器人时,由于这类机器人自身不稳定,机器人在学习时很容易发生跌倒,这可能会造成机器人的损害。
780 0
谷歌 AI 提出双重策略强化学习框架,帮助机器人安全学习动作技能
|
安全 机器人
阿里安全猎户座实验室首创的“自动逆向机器人”,了解一下?
阿里安全猎户座实验室首度向外界展示了最新的研究成果——“自动逆向机器人”。该机器人可以像医生一样“望闻问切”,对程序进行显微镜级别的勘察,并完整“回放”其运作过程,因此,可以侦测出程序中的漏洞或隐蔽行为。
3703 1
|
安全 机器人
为什么说阿里安全的自动化逆向机器人TimePlayer很“变态”
如果杀毒软件厂商的自动化水平和能力,相当于天上的卫星,能看到地上奔跑的羚羊。那么,我们能做到什么程度?我们能看到羚羊身上的每个细胞。
2965 1
|
云安全 人工智能 安全
智能机器人上演“最强大脑”,化身安全助手护航云安全
9月28日,阿里云在北京召开的“云上安全 中国力量”安全发布会上,阿里云自主研发专注于云计算的人工智能机器人——云博士“现身”,解密了机器人协助阿里云安全工程师护航的过程。

热门文章

最新文章