研究人员提高了自主系统的安全性

自主技术见解

• 威斯康星大学麦迪逊分校的一名研究人员正试图建立一个框架并设计控制算法，以使自动驾驶系统更安全，同时仍利用机器学习(ML)组件。
• 这是自动驾驶汽车向前迈出的一步，自动驾驶汽车可以从机器学习中受益，但由于系统的复杂性，使分析其行为的能力变得更加困难。

---

尽管经过了多年的发展，但由于安全性和可靠性方面的考虑，自动驾驶汽车和送货无人机等真正的自动驾驶技术仍然难以实现。

然而，由于人工智能(AI)的进步，神经网络——一种机器学习(ML)算法——已经成为现代自主系统不可或缺的组成部分，尤其是在它们的感知能力方面。在自动驾驶汽车中，神经网络使用来自传感器的数据来绘制环境地图，并识别交通标志等物体。

然而，这些ML组件大大增加了自治系统的复杂性，使得设计系统和分析其行为变得更加困难。

Xiangru徐的助理教授机械工程在威斯康星大学麦迪逊分校他正在使用他的国家科学基金会CAREER奖旨在建立理论框架并设计控制算法，以确保具有机器学习组件的自主系统的安全性。他专注于安全关键系统，在这些系统中，任何安全故障都会破坏产品或造成人身伤害。

“调查结果显示，美国公众对自动驾驶系统持怀疑态度，”徐说。“但是，在未来，如果有一辆自动驾驶汽车能够在我们的街道上安全可靠地行驶，它可以提高公众对这项技术的信任，这是决定自动驾驶系统在我们未来社会中的作用的一个非常重要的因素。”

他说，在设计控制算法时，机器学习中有许多基本问题需要考虑。首先，神经网络非常敏感，所以对输入的一个小改变就有可能导致图像识别的错误结果。例如，如果一个停车标志上贴着一个随机的贴纸，这个小小的改变可能会导致神经网络把这个标志误认为是别的东西，从而可能导致自动驾驶汽车完全忽略它。

Xu正在利用他在控制理论方面的专业知识来应对这一挑战。

“神经网络基本上是一个将输入数据映射到输出数据的功能，控制和优化领域有很多原则方法来分析复杂的动态和功能，”徐说。“这些专业知识将使我能够以整体的方式看待系统，这样我们就可以更有效地设计安全的轨迹。最终，我希望能够为如何设计更好的自动驾驶系统提供见解。”

徐还在为威斯康星大学麦迪逊分校的学生开发一门新的主动学习课程，重点是机器人的安全控制。他还将帮助开发一个夏季研讨会，向高中生介绍机器人和控制。徐计划参加工程博览会和威斯康星科学节等外展活动，以帮助提高公众对自动驾驶系统安全相关技术的素养、意识和信任。

“我认为让公众了解自动驾驶技术很重要，比如自动驾驶汽车，因为人们对他们不理解的东西持怀疑态度，”他说。“这不仅是一个技术挑战，也是一个社会接受问题，所以我很高兴能做外联工作，帮助公众了解情况。”

您是否具有本内容中提到的主题的经验和专业知识?您应该考虑为我们的CFE媒体编辑团队做出贡献，并获得您和您的公司应得的认可。点击在这里开始这个过程。