比滥用隐私更可怕的是人工智能相机的黑白生产的难度

刷面购物、智能停车、智能考勤.今天,计算机视觉技术已经渗透到日常生活的各个方面,从而导致许多人遭受“相机焦虑”。

最近,从教室人脸识别引发的技术和伦理问题,到人工智能变脸应用ZAO爆炸后的隐私争议,再到无处不在的城市电子眼网络锁定的“监控感”,公众对个人数据过度曝光的敏感神经不断受到打击。

5d764ac34f614.png

恐慌过后,毫无疑问,讨论科技公司是否在做正确的事情,以及收集用户数据的界限在哪里是不可避免和必要的。事实上,无论是各国逐渐收紧的隐私法、社会舆论的压力还是逻辑推理,科技公司都不太可能真的利用用户的敏感数据来做自毁长城并带来严重后果的事情。在受到公众质疑后,脸书、苹果和其他公司都是拼命寻找补偿的活生生的例子。

应该更加警惕的是那些远远超出普通人理解的“邪恶动机”。

隐形蟑螂:隐藏在人工智能相机背后的黑色和灰色产品

厨房里不会只有33,354只蟑螂。著名的蟑螂理论说,一旦有一点负面消息,更多的问题往往隐藏在背后。隐私问题是一样的。

以应用最广泛的计算机视觉为例,前端感知硬件智能相机一直是市场上的新宠。低功耗人脸捕获、识别和分析已经广泛应用于机场、车站、商业街和旅游景点等公共区域。没有密集的摄像头,智能城市的实时交通控制是无法实现的。食品和卫生部门已经在餐馆和酒店的后厨房安装了高清摄像头。不用说,许多人甚至在家里购买智能相机。

然而,黑客社区也有一句谚语——:“如果你不知道如何攻击,你怎么知道如何防御”。如果我们不知道摄像头背后的数据是如何泄露或被非法占用的,我们如何确保安全?然而,人工智能的祝福和物联网的繁荣正使智能相机成为黑色和灰色生产的新温床。

我们发现智能相机收集的隐私数据是从多个角度非法获取的。

最低的技术含量是突破一些简单和廉价的智能相机。

5d764ac3a8e93.png

这类产品的核心需求是监控,应用于商店、物业或家庭,在传统工业硬件的基础上承载人工智能芯片和云存储服务。由于门槛低,互联网公司、贴牌制造商、安全公司等都在抢占这个市场,其结果是给黑客一个机会。

在云计算和人工智能的背景下,许多智能相机制造商实际上没有安全审计流程。这些产品缺乏远程更新机制,并且存在可以控制系统的设计缺陷。黑客可以通过暴力破解的方法在IP端直接拦截,并清楚地看到用户的登录密钥、图像内容和其他敏感信息。然后通过出售私人视频、劫持摄像头“挖掘”等方式攫取利益。

在2018年的MWC会议上,捷克网络安全公司Avast展示了在4天内对15000台小型网络设备进行“挖掘”的过程,挖掘出价值1000美元的加密货币。遍布城市各个角落的智能摄像头无疑是袭击者眼中的热点。

数据转移到云中后,会安全吗?

当然,对于这种例行公事,只要我们抵制住低价的诱惑,选择一些正规的智能相机制造商和机器视觉解决方案服务提供商,并且拥有基本的防火墙、代码审计、设备安全模糊测试、传输通信加密等。可以起到一定的预防作用。

然而,随着计算机视觉技术开始获得B端组织的青睐,敢于追求财富的黑客们将目光转向更“有价值”的目标,并开始大规模入侵学校、医疗甚至警察局的摄像系统。

2017年,两名黑客入侵了华盛顿警方在美国首都部署的室外监控系统,以及部署在华盛顿警察局(MPDC)闭路电视系统中的123个安全摄像头。这些系统包含该市所有公共场所的实时信息,并要求华盛顿警方支付赎金.

为此,在特朗普就职的头两周,警方甚至不得不连续四天关闭该系统,这完全是他们自己的目标。当然,这不是一个例子。去年,中国还发生了路由器和智能摄像头的入侵,然后是加密文件,要求受害者通过手机传输支付解密费用。

5d764ac415839.png

传统的防火墙安全软件无法抵御上述针对大型组织的攻击。由于这种智能摄像系统网络难以满足本地存储和计算需求,因此需要将监控视频上传到云端,自动更新软件等。因此,它需要一直连接到网络。一些不具备云服务能力的解决方案供应商通常选择与第三方云服务合作。一旦对方出现安全漏洞,所有相关的摄像头网络都会受到影响。

例如,华盛顿的安全摄像头网络暴露是由“安装在摄像头旁边的特殊计算机”和MPDC网络的漏洞造成的。早些时候,从事监控技术的意大利安全公司黑客团队被黑客窃取了400GB的内部数据。海外威胁堆栈网络安全团队还发现,从2016年起,黑客使用亚马逊云服务(AWS)进行攻击的复杂性急剧上升。

黑客利用了云服务的特性,例如窃取AWS密钥来获取开放S3容器中的资源路径,或者启动新的亚马逊弹性计算云(EC2)来进行挖掘,从而造成了几起敏感信息泄露事件。尽管亚马逊很快引入了苹果电脑来保护自动气象站S3的数据,并通过可信顾问提供免费的集装箱检查,但这类事件仍时有发生。安全无泄漏的“星际之旅”仍在进行中.

网络攻击的物联网时代:人工智能的自我救赎

1999年,麻省理工学院提出“一切都可以通过网络互联”,物联网的概念出现了。智能感知的出现给物联网增添了“感知”和“计算”的翅膀,也给安全问题带来了新的挑战。根据世纪链接2018年威胁报告,全球每天发生195,000起案件,拥有强大或快速增长的信息技术网络和基础设施的地区是非法网络活动的主要来源。

由于以下原因,更容易被劫持或攻击:

首先,从智能摄像头网络面临的攻击来看,传统的端到端加密安全策略不符合社会智能合法收集和利用数据的客观需求。然而,引入加密技术(如散列锁)来保护隐私将导致更长的计算延迟,并且更高的计算复杂度也将增加用户的额外消耗。这些权衡是交织在一起的,这也使得整个行业在隐私安全问题上的界限模糊不清,难以完全“彻底变革”。

同时,公共云、私有云和混合云并存,硬件产业化部署标准不明确,本地和云存储的多样性等。导致了以摄像头为核心的计算机视觉物联网系统的复杂安全形势。隐藏的“空门”留给了黑客。一旦分布式攻击被用来触发大规模网络的连锁反应,后果往往无法估量。

5d764ac44d9d8.png

此外,在企业或消费者环境中部署和连接物联网系统本质上是多个端点的互连,例如设备、软件、网络、人员等。动态风险已经成为物联网系统安全的薄弱环节。因为当面临威胁时,不仅需要考虑技术组件,还需要考虑系统内部的人员和合作伙伴。每个环节的安全策略是不同的,通常是“最短的板”决定了系统的整体安全性。

缺乏安全培训、缺乏员工意识、简单的人为错误等。所有这些都可能导致即使在技术方面修复了漏洞,也很难快速执行全面更新,从而延迟了恢复损失的最佳时间。

5d764ac496ccf.png

更重要的是,以摄像头网络为代表的物联网系统已经成为一个智能数据聚合的生态系统,直接关系到个人和机构的信息和财产安全,这意味着系统被攻破的风险成本更高。

试想一下,如果黑客闯入私家车上的智能摄像头,汽车网络系统的连锁反应和公共安全隐患很可能会被触发。伪造人脸欺骗公司的门禁系统,导致重要信息泄露;智能城市的公共摄像头网络被黑了,所有市民和管理系统的重要数据都被移交了。

5d764ac4f2ff4.png

显然,在智能物联网的全面建设中,指责科技企业保护用户隐私是不够的。金钱的腥味总是吸引非法人员去冒险。除了在技术上与法律作斗争外,别无出路。幸运的是,人工智能正在保护物联网,因为它为智能系统提供数据。

例如,避免将敏感数据发送到云中的“边缘计算”正在成为一种必要。在嵌入式电子和工业计算机应用展“嵌入式世界”上,通过边缘设备和相关产业链(如芯片和处理器)处理更多数据一直是过去两年的焦点。

与此同时,安全保护也开始与人工智能紧密结合。通过漏洞报告和程序代码的自动处理,可以实现安全漏洞的自动研究,从而尽早避免一些多样化的新攻击方法。将机器学习算法引入入侵检测等过程,可以有效地处理实时检测获得的信息,判断攻击的可能性,并及时报警,使攻击者的小伎俩无处不在。Splunk、Gurucul、赛门铁克、IBM和360等安全供应商已经是人工智能的粉丝。

5d764ac56c097.png

总的来说,人工智能和物联网正在成为智慧城市建设的大趋势。互联网公司、智能设备制造商和安全制造商都在进行“跨境”转型。AIoT伴随着技术爆炸和裂变,渗透到成千上万的行业。

但与此同时,其隐私和安全环境也迎来了巨大的变化。每一个人、每一个硬件和每一次传输都可能成为黑客刀下的“绵羊”。

当我们担心技术制造商的隐私时,不要忘记首先锁定最基本的数据安全。