Uber自动驾驶汽车首次遇害:它没有认出行人过马路。ProPublica发现COMPAS是一种基于机器学习的计算机软件系统,可为美国12个法院的法官提供帮助,它具有有害的偏见。它是在区分黑人和白人,建议法官认为前者犯下另一种罪行的可能性是后者的两倍,并建议他们在审判前应有更长的拘留时间。我可以继续讲更多有关AI如何变得有害的示例。

企业正在将其企业应用程序与AI技术融合在一起,并建立基于AI的新数字体验来转变业务并加速其数字化转型计划。但是,关于人工智能的所有这些积极因素都有可能终结,特别是如果我们继续看到这样的例子,即交付质量差,未经测试的AI或未经商业和消费者充分测试的AI。注入AI的应用程序是由“自动软件”(我们已经建立了多年的确定性软件)和自治软件(或具有学习能力的不确定性软件)混合而成的应用程序。注入AI的应用程序可以查看,聆听,说话,感知,执行,自动化,做出决定等。

为什么必须测试注入AI的应用程序?

因为AI被注入到战略性和更重要的企业决策过程中,所以可以帮助执行人员或专业人士做出关键决策,也可以独自做出决策(在从金融到医疗保健的许多业务领域中)。

人工智能还用于负责人类生命的系统中:自动驾驶汽车,飞机,网络安全系统,军事系统等。

随着AI变得更加自主,这些系统未经充分测试的风险将大大增加。在人类陷入困境之前,人们有希望通过人类做出正确的决定或采取正确的行动来缓解他们的错误,但是一旦他们脱离了循环,我们就可以使用这个未经测试的,可能有害的软件。

测试注入AI的应用程序(AIIA)是什么意思?

由于注入AI的应用程序是自动和自主软件的混合体,因此测试AIIA涉及的工作不仅是测试其所有部分与所有相互作用的总和。好消息是测试人员,开发人员和数据科学家都知道如何测试80%的AIIA,并可以使用正在学习的常规测试工具和测试服务公司;坏消息是我们不知道如何测试AIIA的领域:在最近的报告中,我称此为“测试未知”,当AI产生新体验时就会出现“测试未知”的示例。为了测试AI产生的体验,我们无法像确定性自动软件那样预先定义测试用例。感兴趣吗?