欧盟网络安全局（ENISA）和联合研究中心（JRC）发布了一份报告——“自动驾驶中采用人工智能（AI）带来的网络安全挑战”。报告分析了与自动驾驶汽车中的人工智能（AI）相关的网络安全风险，并提出了缓解这些风险的建议，警告自动驾驶汽车存在严重的网络安全风险。
自动驾驶汽车面临的网络安全挑战
欧洲机构的威胁模型将与人工智能（AI）相关的网络安全风险分为无意和有意的软件和硬件漏洞。
故意威胁源自恶意利用AI和ML漏洞和限制来造成损害。威胁参与者也可能引入新的漏洞，以扩大攻击范围，从而发挥最大的影响。
意外伤害源于AI模型的局限性、故障和设计不当。无论如何，ANISA和JRC表示，自动驾驶汽车的网络安全挑战带来了严重的风险。
人工智能技术的不断普及进一步放大了这个问题，增加的复杂和不透明的ML（machine learning）算法、专用的人工智能（AI）模块和第三方预训练模型，现在已成为供应链的一部分。
自动驾驶汽车的网络安全风险可能直接影响乘客、行人、其他车辆和相关基础设施的安全。因此，调查使用AI带来的潜在漏洞至关重要。
为此，该报告指出，自动驾驶汽车容易受到远程攻击或破坏性攻击等对抗性机器学习（ML）技术的影响。这种威胁模型涉及欺骗模式和面部识别系统。
远程攻击操纵输入系统的数据，以改变输出，使攻击者受益。类似地，破坏性攻击利用了训练过程，制造了对攻击者有利的故障。
报告作者说：“越来越多的人使用AI来自动化各个部门的决策，使数字系统遭受网络攻击，这些攻击可以利用AI和ML方面的缺陷和漏洞。由于人工智能（AI）系统往往会参与高风险决策，因此，针对它们的成功网络攻击可能会产生严重影响。甚至人工智能（AI）还可以为网络罪犯提供支持。”
根据联合报告，自动驾驶汽车还容易受到网络安全挑战的影响，从而影响物理传感器、控制系统及其连接机制。
与物理组件相关的最显着的网络安全挑战包括：
•传感器卡塞、致盲、欺骗或饱和：攻击者可能会使传感器失明或卡塞，以进入自动驾驶汽车。这允许恶意行为者可以向AI提供具有错误或不完整数据的人工智能模型，从而破坏模型训练。
• DDoS攻击:黑客可以执行分布式拒绝服务攻击，使车辆无法看到外部世界。DDoS攻击会干扰自动驾驶，导致车辆失速或故障。
•操纵自动驾驶车辆的通信设备：攻击者可能会劫持通信通道并操纵传感器读数，或者错误地解读道路信息和标志。
•信息披露：自动驾驶汽车会存储大量敏感的个人数据和AI数据。攻击者可能会制造数据泄露，以访问敏感信息。
Vdoo的首席科学家Ilya Khivrich说：“如今，弹性和安全关键系统必须在设计时考虑到潜在攻击者的角度。对于依赖机器学习(ML)算法的系统来说，这个问题尤其复杂。机器学习算法经过训练，可以在正常情况下正常工作，但当从传感器接收到的数据被人为操纵或欺骗时，可能会以意想不到的方式做出反应。这是一个需要跨越的具有挑战性的鸿沟，我们相信需要新的工具来解决这些问题。”
缓解自动驾驶汽车网络安全风险的建议
关于自动驾驶汽车网络安全挑战的联合报告为自动驾驶汽车中AI的安全使用提供了建议。ANISA-JRC报告建议制造商应采用设计安全性方法，以确保道路上自动驾驶的安全性。
•通过收集大量数据并对AI模型和算法进行风险评估，对AI模型和数据进行系统的安全性验证。
•通过遵守AI安全法规，并在整个供应链中分担从开发人员，制造商到最终用户和第三方服务提供商的责任，以应对供应链AI网络安全挑战。
•与AI有关的事件处理和漏洞发现以及经验教训——建议利益相关者模拟各种攻击场景，进行演练并建立网络安全事件处理和响应团队。
•通过在网络安全和ML领域创建多元化的团队，解决汽车行业AI网络安全方面的能力和专业知识有限的问题。开设特殊课程还将弥补汽车行业的AI技术差距。
•将AI网络安全与传统网络安全原则整合在一起的端到端整体方法。这包括研发投资、人工智能网络安全政策的适当治理，以及在整个汽车行业采用人工智能网络的安全文化。
过去“成功的”自动驾驶汽车AI开发
这些机构指出，过去曾使用各种AI技术来开发无人驾驶汽车。
利用有毒标志（DARTS）技术欺骗自动驾驶汽车的交通标志识别系统。
例如，特斯拉自动驾驶汽车被骗加速超过了路标上显示的速度限制，将车速提高到85英里每小时，而不是35英里每小时。
来自内盖夫本-古里安大学(Ben-Gurion University of the Negev)的以色列研究人员演示了如何利用瞬间图像欺骗特斯拉的自动驾驶系统。
同样，特斯拉3也受到跨站点脚本（XSS）漏洞的影响，该漏洞泄漏了汽车的重要信息。
腾讯的研究人员还使用贴纸诱使特斯拉的自动驾驶仪转向错误车道。
研究人员还使用喷漆欺骗自动驾驶汽车，使其误以为停车标志是限速。
Comparitech公司的隐私倡导者和研究主管保罗•比肖夫表示:“ENISA报告具体讨论了人工智能驱动的自动驾驶系统如何被欺骗，以致无法识别或错误识别交通状况、路况或标志。例如，自动驾驶汽车使用道路上的油漆线来保持车道。攻击者可以在道路上画假线，或者破坏交通标志，以干扰人工智能。”
但是，比肖夫说，如果没有破解自动驾驶汽车的经济动机，就不会存在此类攻击。
ENISA指出，自动驾驶汽车很容易受到审查干扰、DDoS攻击、敏感数据泄漏和恶意劫持通信通道的攻击。
威胁者可能会在控制车辆并使其无法使用后，通过威胁造成事故来勒索车上的人支付赎金。几乎可以肯定的是，威胁行为者会利用对自动驾驶汽车的网络攻击来赚钱。（本文出自SCA安全通信联盟，转载请注明出处。）
