监测信息的确定方法、装置、车辆及存储介质与流程

本技术涉及自动驾驶，具体涉及一种监测信息的确定方法、装置、车辆及存储介质。

背景技术：

1、高级自动驾驶为人机共驾，即在正常工况下自动驾驶系统可以正常行驶，但是发生突发情况时，自动驾驶系统会退出并需要驾驶员接管。功能安全是一个系统或者设备整体安全的组成部分。当系统出现功能性故障或失效(如：硬件故障、软件故障)时，系统将进入安全的可控模式，从而避免造成人员伤亡。但是，对于自动驾驶系统，即使没有任何硬件部件的失效，算法也没有软件错误，也会因为运行设计域(operational design domain，odd)范围内各种边缘场景而触发系统的功能不能满足边界条件而导致误判，从而发生安全故障。

2、目前，预期功能安全是指降低由于系统的预期功能不足(设计不足或性能局限)或可预见的人员误操作导致的不可接受风险。由于自动驾驶系统中广泛应用了深度学习模型，深度学习模型的结果不准确，不属于硬件故障或者软件故障，故预设功能安全也需要关注深度学习模型的准确性。因此，如何监测深度学习模型的准确性成为一个亟待解决的问题。

技术实现思路

1、本技术提供一种监测信息的确定方法、装置、车辆及存储介质，以至少解决相关技术中如何监测深度学习模型的准确性的技术问题。本技术的技术方案如下：

2、根据本技术涉及的第一方面，提供一种监测信息的确定方法，该方法应用于车辆的控制器，控制器部署有自动驾驶感知模型。该方法包括：获取车辆的行驶环境信息；将行驶环境信息输入自动驾驶感知模型，得到自动驾驶感知模型的特征信息，特征信息为自动驾驶感知模型通过深度学习模型得到的信息。将行驶环境信息和特征信息输入第一评估模型，确定至少一个感知监测信息，第一评估模型包括以下至少一个：第一运行设计域odd监测模型、第一显著性监测模型、第一合理性监测模型、第一不确定性监测模型、第一对抗性监测模型，一个监测模型对应一个感知监测信息，感知监测信息用于指示自动驾驶感知模型是否存在不足。其中，第一odd监测模型用于监测行驶环境信息是否满足自动驾驶启动条件，第一显著性监测模型用于监测自动驾驶感知模型的图像检测结果是否准确，第一合理性监测模型用于监测自动驾驶感知模型的目标检测结果是否合理，第一不确定性监测模型用于监测自动驾驶感知模型的目标检测结果是否稳定，第一对抗性监测模型用于监测行驶环境信息是否存在噪声。

3、根据上述技术手段，本技术中控制器可以通过不同的模型对自动驾驶感知模型进行监测，得到对应的监测信息，后续控制器可以根据监测信息对自动驾驶感知模型进行优化，并且对自动驾驶系统中自动驾驶感知模型进行调整，使自动驾驶系统的感知结果更加准确。

4、在一种可能的实施方式中，第一评估模型包括第一odd监测模型，第一odd监测模型包括自动驾驶启动条件。上述“将行驶环境信息和特征信息，输入第一评估模型，确定至少一个感知监测信息”包括：通过第一odd监测模型根据行驶环境信息和自动驾驶启动条件，确定第一监测信息，并将第一监测信息作为感知监测信息，第一监测信息用于指示行驶环境信息是否满足自动驾驶启动条件。

5、根据上述技术手段，本技术中控制器可以通过第一odd监测模型确定车辆的行驶环境信息是否满足自动驾驶启动条件，以确定是否开启自动驾驶系统，保证车辆和驾驶员的安全。

6、在一种可能的实施方式中，第一评估模型包括第一显著性监测模型，特征信息包括标记第一显著区域的行车环境图像。上述“将行驶环境信息和特征信息，输入第一评估模型，确定至少一个感知监测信息”包括：将行车环境图像输入第一显著性监测模型，得到标记第二显著区域的行车环境图像。通过第一显著性监测模型根据第一显著区域和第二显著区域，确定第二监测信息，并将第二监测信息作为感知监测信息，第二监测信息用于指示自动驾驶感知模型的图像检测结果是否准确。

7、根据上述技术手段，本技术中控制器可以通过第一显著性监测模型确定自动驾驶感知模型的图像检测结果是否准确，以确定是否需要优化自动驾驶感知模型，使自动驾驶感知模型的图像检测结果更加准确。

8、在一种可能的实施方式中，第一评估模型包括第一合理性监测模型，特征信息包括目标对象，第一合理性监测模型包括目标对象的预设标准规则。上述“将行驶环境信息和特征信息，输入第一评估模型，确定至少一个感知监测信息”包括：通过第一合理性监测模型根据目标对象和目标对象的预设标准规则，得到第三监测信息，并将第三监测信息作为感知监测信息，第三监测信息用于指示自动驾驶感知模型的目标检测结果是否合理。

9、根据上述技术手段，本技术中控制器可以通过第一合理性监测模型确定自动驾驶感知模型的目标检测结果是否合理，以确定是否需要优化自动驾驶感知模型，使自动驾驶感知模型的图像检测结果更加合理。

10、在一种可能的实施方式中，第一评估模型包括第一不确定性监测模型，特征信息包括多个行驶场景图像中每个行驶场景图像的目标对象，多个行驶场景图像中任意两个行驶场景图像之间的相似度大于预设相似度阈值。上述“将行驶环境信息和特征信息，输入第一评估模型，确定至少一个感知监测信息”包括：将每个行驶场景图像的目标对象输入第一不确定性监测模型，得到每个目标对象的置信度。通过第一不确定性监测模型根据每个目标对象的置信度，确定第四监测信息，并将第四监测信息作为感知监测信息，第四监测信息用于指示自动驾驶感知模型的目标检测结果是否稳定。

11、根据上述技术手段，本技术中控制器可以通过第一不确定性监测模型确定自动驾驶感知模型的目标检测结果是否稳定，以确定是否需要优化自动驾驶感知模型，使自动驾驶感知模型的图像检测结果更加稳定。

12、在一种可能的实施方式中，第一评估模型包括第一对抗性监测模型，行驶环境信息包括多个行车环境图像。将多个行车环境图像输入第一对抗性监测模型，得到第五监测信息，并将第五监测信息作为感知监测信息，第五监测信息用于指示多个行车环境图像中是否存在噪声。

13、根据上述技术手段，本技术中控制器可以通过第一不确定性监测模型确定多个行车环境图像中是否存在噪声，以确定是否需要优化自动驾驶感知模型，减少自动驾驶感知模型中输入数据的混淆噪声。

14、根据本技术提供的第二方面，提供一种监测信息的确定方法，该方法应用于车辆的控制器，控制器部署有决策规划模型。该方法包括：获取车辆的行驶状态信息和自动驾驶感知模型的特征信息。将行驶状态信息和特征信息输入决策规划模型，得到决策规划模型的决策信息，决策信息为决策规划模型通过深度学习模型得到的信息。将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息，第二评估模型包括以下至少一个：第二运行设计域odd监测模型、第二显著性监测模型、第二合理性监测模型、第二不确定性监测模型、第二对抗性监测模型，一个监测模型对应一个决策监测信息，决策监测信息用于指示决策规划模型是否存在不足。其中，第二odd监测模型用于监测行驶状态信息是否满足驾驶功能条件，第二显著性监测模型用于监测决策规划模型的目标决策规则是否准确，第二合理性监测模型用于监测决策规划模型的决策结果是否合理，第二不确定性监测模型用于监测决策规划模型的决策结果是否稳定，第二对抗性监测模型用于监测行驶状态信息是否存在噪声。

15、根据上述技术手段，本技术中控制器可以通过不同的模型对决策规划模型进行监测，得到对应的监测信息，后续控制器可以根据监测信息对决策规划模型进行优化，并且对自动驾驶系统中决策规划模型进行调整，使自动驾驶系统的决策结果更加准确。

16、在一种可能的实施方式中，第二评估模型包括第二odd监测模型，第二odd监测模型包括驾驶功能条件。上述“将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息”包括：通过第二odd监测模型根据行驶状态信息和驾驶功能条件，确定第六监测信息，并将第六监测信息作为决策监测信息，第六监测信息用于指示行驶状态信息是否满足驾驶功能条件。

17、在一种可能的实施方式中，第二评估模型包括第二显著性监测模型，决策信息包括多个目标决策和每个目标决策的权重值，第二显著性监测模型包括预设决策规则。上述“将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息”包括：将多个目标决策和每个目标决策的权重值输入第二显著性监测模型，得到目标决策规则。通过第二显著性监测模型根据目标决策规则和预设决策规则，确定第七监测信息，并将第七监测信息作为决策监测信息，第七监测信息用于指示决策规划模型的目标决策规则是否准确。

18、在一种可能的实施方式中，第二评估模型包括第二合理性监测模型，决策信息包括目标决策，第二合理性监测模型包括目标决策的预设标准规则。上述“将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息”包括：通过第二合理性监测模型根据目标决策和目标决策的预设标准规则，得到第八监测信息，并将第八监测信息作为决策监测信息，第八监测信息用于指示决策规划模型的决策结果是否合理。

19、在一种可能的实施方式中，第二评估模型包括第二不确定性监测模型，决策信息包括多个目标决策，多个目标决策中任意两个目标决策对应的行驶场景信息之间的相似度大于预设相似度阈值。上述“将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息”包括：将多个目标决策输入第二不确定性监测模型，得到每个目标决策的置信度。通过第二不确定性监测模型根据每个目标决策的置信度，确定第九监测信息，并将第九监测信息作为决策监测信息，第九监测信息用于指示决策规划模型的决策结果是否稳定。

20、在一种可能的实施方式中，第二评估模型包括第二对抗性监测模型。上述“将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息”包括：将行驶状态信息输入第二对抗性监测模型，得到第十监测信息，并将第十监测信息作为决策监测信息，第十监测信息用于指示行驶状态信息中是否存在噪声。

21、根据本技术提供的第三方面，提供一种监测信息的确定装置，该装置应用于车辆的控制器，控制器部署有自动驾驶感知模型。该装置包括：获取单元和处理单元。

22、获取单元，用于获取车辆的行驶环境信息。处理单元，用于将行驶环境信息输入自动驾驶感知模型，得到自动驾驶感知模型的特征信息，特征信息为自动驾驶感知模型通过深度学习模型得到的信息。处理单元，还用于将行驶环境信息和特征信息，输入第一评估模型，确定至少一个感知监测信息，第一评估模型包括以下至少一个：第一运行设计域odd监测模型、第一显著性监测模型、第一合理性监测模型、第一不确定性监测模型、第一对抗性监测模型，一个监测模型对应一个感知监测信息，感知监测信息用于指示自动驾驶感知模型是否存在不足。其中，第一odd监测模型用于监测行驶环境信息是否满足自动驾驶启动条件，第一显著性监测模型用于监测自动驾驶感知模型的图像检测结果是否准确，第一合理性监测模型用于监测自动驾驶感知模型的目标检测结果是否合理，第一不确定性监测模型用于监测自动驾驶感知模型的场景检测结果是否稳定，第一对抗性监测模型用于监测行驶环境信息是否存在噪声。

23、在一种可能的实施方式中，第一评估模型包括第一odd监测模型，第一odd监测模型包括自动驾驶启动条件。上述处理单元，具体用于通过第一odd监测模型根据行驶环境信息和自动驾驶启动条件，确定第一监测信息，并将第一监测信息作为感知监测信息，第一监测信息用于指示行驶环境信息是否满足自动驾驶启动条件。

24、在一种可能的实施方式中，第一评估模型包括第一显著性监测模型，特征信息包括标记第一显著区域的行车环境图像。上述处理单元，具体用于将行车环境图像输入第一显著性监测模型，得到标记第二显著区域的行车环境图像。上述处理单元，具体用于通过第一显著性监测模型根据第一显著区域和第二显著区域，确定第二监测信息，并将第二监测信息作为感知监测信息，第二监测信息用于指示自动驾驶感知模型的图像检测结果是否准确。

25、在一种可能的实施方式中，第一评估模型包括第一合理性监测模型，特征信息包括目标对象，第一合理性监测模型包括目标对象的预设标准规则。上述处理单元，具体用于通过第一合理性监测模型根据目标对象和目标对象的预设标准规则，得到第三监测信息，并将第三监测信息作为感知监测信息，第三监测信息用于指示自动驾驶感知模型的目标检测结果是否合理。

26、在一种可能的实施方式中，第一评估模型包括第一不确定性监测模型，特征信息包括多个行驶场景图像中每个行驶场景图像的目标对象，多个行驶场景图像中任意两个行驶场景图像之间的相似度大于预设相似度阈值。上述处理单元，具体用于第一评估模型包括第一不确定性监测模型，特征信息包括多个行驶场景图像中每个行驶场景图像的目标对象，多个行驶场景图像中任意两个行驶场景图像之间的相似度大于预设相似度阈值。上述处理单元，具体用于通过第一不确定性监测模型根据每个目标对象的置信度，确定第四监测信息，并将第四监测信息作为感知监测信息，第四监测信息用于指示自动驾驶感知模型的目标检测结果是否稳定。

27、在一种可能的实施方式中，第一评估模型包括第一对抗性监测模型，行驶环境信息包括多个行车环境图像。上述处理单元，具体用于将多个行车环境图像输入第一对抗性监测模型，得到第五监测信息，并将第五监测信息作为感知监测信息，第五监测信息用于指示多个行车环境图像中是否存在噪声。

28、根据本技术提供的第四方面，提供一种监测信息的确定装置，该装置应用于车辆的控制器，控制器部署有决策规划模型。该装置包括：获取单元和处理单元。

29、获取单元，用于获取行驶状态信息和自动驾驶感知模型的特征信息。处理单元，用于将行驶状态信息和特征信息输入决策规划模型，得到决策规划模型的决策信息，决策信息为决策规划模型通过深度学习模型得到的信息。上述处理单元，还用于将行驶状态信息和决策信息输入第二评估模型，确定至少一个决策监测信息，第二评估模型包括以下至少一个：第二运行设计域odd监测模型、第二显著性监测模型、第二合理性监测模型、第二不确定性监测模型、第二对抗性监测模型，一个监测模型对应一个决策监测信息，决策监测信息用于指示决策规划模型是否存在不足。其中，第二odd监测模型用于监测行驶状态信息是否满足驾驶功能条件，第二显著性监测模型用于监测决策规划模型的目标决策规则是否准确，第二合理性监测模型用于监测决策规划模型的决策结果是否合理，第二不确定性监测模型用于监测决策规划模型的决策结果是否稳定，第二对抗性监测模型用于监测行驶状态信息是否存在噪声。

30、在一种可能的实施方式中，第二评估模型包括第二odd监测模型，第二odd监测模型包括驾驶功能条件。上述处理单元，具体用于通过第二odd监测模型根据行驶状态信息和驾驶功能条件，确定第六监测信息，并将第六监测信息作为决策监测信息，第六监测信息用于指示行驶状态信息是否满足驾驶功能条件。

31、在一种可能的实施方式中，第二评估模型包括第二显著性监测模型，决策信息包括多个目标决策和每个目标决策的权重值，第二显著性监测模型包括预设决策规则。上述处理单元，具体用于将多个目标决策和每个目标决策的权重值输入第二显著性监测模型，得到目标决策规则。上述处理单元，具体用于通过第二显著性监测模型根据目标决策规则和预设决策规则，确定第七监测信息，并将第七监测信息作为决策监测信息，第七监测信息用于指示决策规划模型的目标决策规则是否准确。

32、在一种可能的实施方式中，第二评估模型包括第二合理性监测模型，决策信息包括目标决策，第二合理性监测模型包括目标决策的预设标准规则。上述处理单元，具体用于通过第二合理性监测模型根据目标决策和目标决策的预设标准规则，得到第八监测信息，并将第八监测信息作为决策监测信息，第八监测信息用于指示决策规划模型的决策结果是否合理。

33、在一种可能的实施方式中，第二评估模型包括第二不确定性监测模型，决策信息包括多个目标决策，多个目标决策中任意两个目标决策对应的行驶场景信息之间的相似度大于预设相似度阈值。上述处理单元，具体用于将多个目标决策输入第二不确定性监测模型，得到每个目标决策的置信度。上述处理单元，具体用于通过第二不确定性监测模型根据每个目标决策的置信度，确定第九监测信息，并将第九监测信息作为决策监测信息，第九监测信息用于指示决策规划模型的决策结果是否稳定。

34、在一种可能的实施方式中，第二评估模型包括第二对抗性监测模型。上述处理单元，具体用于将行驶状态信息输入第二对抗性监测模型，得到第十监测信息，并将第十监测信息作为决策监测信息，第十监测信息用于指示行驶状态信息中是否存在噪声。

35、根据本技术提供的第五方面，提供一种车辆，包括：处理器；用于存储处理器可执行指令的存储器；其中，处理器被配置为执行指令，以实现上述第一方面及其任一种可能的实施方式的方法。

36、根据本技术提供的第六方面，提供一种计算机可读存储介质，当计算机可读存储介质中的指令由车辆的处理器执行时，使得车辆能够执行上述第一方面中及其任一种可能的实施方式的方法。

37、根据本技术提供的第七方面，提供一种计算机程序产品，计算机程序产品包括计算机指令，当计算机指令在车辆上运行时，使得车辆执行上述第一方面及其任一种可能的实施方式的方法。

38、由此，本技术的上述技术特征具有以下有益效果：

39、(1)可以通过不同的模型对自动驾驶感知模型进行监测，得到对应的监测信息，后续控制器可以根据监测信息对自动驾驶感知模型进行优化，并且对自动驾驶系统中自动驾驶感知模型进行调整，使自动驾驶系统的感知结果更加准确。

40、(2)可以通过不同的模型对决策规划模型进行监测，得到对应的监测信息，后续控制器可以根据监测信息对决策规划模型进行优化，并且对自动驾驶系统中决策规划模型进行调整，使自动驾驶系统的决策结果更加准确。

41、需要说明的是，第二方面至第七方面中的任一种实现方式所带来的技术效果可参见第一方面中对应实现方式所带来的技术效果，此处不再赘述。

42、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本技术。