欧盟研究：AI让自动驾驶汽车易受到攻击

欧盟网络安全机构（ENISA）和联合研究中心（JRC）对自动驾驶车辆中的人工智能进行研究，发现其存在网络相关的风险，并提供了缓解这风险的建议。欧盟网络安全机构执行董事Juhan Lepassaar提到，当自动驾驶汽车越过欧盟成员国的边界时，同时也带来了自动驾驶汽车的弱点，因此安全性必须是自动驾驶汽车可否上路的优先考量重点。

研究提到，自動驾驶汽车由于消除了发生交通事故最主要的成因——人，因此有望减少交通事故和死亡人数，但是却可能对驾驶员、乘客和行人带来完全不同的风险。自动驾驶汽车使用人工智能系统，通过机器学习技术来收集、分析和传输资料，执行人类驾驶汽车所会执行的决策，但这些系统和其他IT系统一样，容易受到攻击，威胁车辆的正常功能。

自动驾驶汽车的AI系统，能够识别交通与道路标志，侦测车辆及其他道路物体的移动，进而规划行进的路线，除了像是突然故障的意外，研究报告指出，人工智能系统还很脆弱，难以抵御刻意的攻击，不只人工智能系统被干扰，重要的安全功能也会受到破坏。

像是在道路上的涂鸦，可能误导车辆导航功能，或是在停止标志上粘贴贴纸，阻止人工智能系统的识别，这些行为都可能导致人工智能判断错误，进而采取危险的行为，影响乘客或是行人的安全。

为了提高自动驾驶汽车人工智能的安全性，研究报告建议，人工智能组件应该定期进行安全评估，对人工智能模型和资料执行系统性验证，以确保车辆在遇到意外情况或是恶意攻击时，总是能正确地做出反应。报告还建议在连续风险评估流程中应用威胁情报（Threat Intelligence），用来识别自动驾驶汽车中，潜在的人工智能风险以及新兴威胁。