ai人工智能提高效率_谷歌支持的解决人工智能算法偏差的新想法有用吗?

ai人工智能提高效率

应用测试公司掌声最近推出了一种新的人工智能解决方案,承诺帮助解决算法偏差,同时提供人工智能培训所需的大量数据。

掌声为其应用测试解决方案建立了一个庞大的全球测试社区,受到谷歌、优步、贝宝等品牌的信任。现在,该公司正在利用这一相对独特的地位来帮助克服人工智能发展的一些最大障碍。

11月底,掌声产品副总裁克里斯汀·西蒙尼尼(Kristin Simonini)接受采访,随后在北美人工智能博览会上发表主旨演讲,讨论公司的最新解决方案及其对行业的意义。

西蒙尼尼解释道:“我们的客户总是需要我们在数据收集领域提供额外的支持,以支持他们的人工智能开发,培训他们的系统,然后测试他们的功能。后一半更符合他们对我们的传统期望。”

掌声主要与语音领域的公司合作,但它们也越来越多地扩展到收集和标记图像以及通过光学字符识别(OCR)运行文档等领域。

在当今人工智能最常用的领域中,这种现有的丰富经验使掌声和它的测试人员处于非常有利的位置,能够就可以做出的改进提供非常有用的反馈。

具体来说,掌声的新解决方案涵盖五种独特的人工智能活动类型:

声音:源发出声音来训练支持声音的设备,并测试这些设备以确保它们能够准确理解和响应;

光学字符识别(OCR):提供文档和相应的文本来训练识别文本的算法,并比较打印文档和识别文本的准确性;

图像识别:传递预定义对象和位置的照片,并确保正确识别图像和对象;

生物识别:获取生物识别输入,如人脸和指纹,并测试这些输入是否会产生易于使用和实用的体验;

聊天机器人(Chat robot):给出示例问题和不同的意图,让聊天机器人回答,并与聊天机器人互动,确保他们能像人类一样准确地理解和回应。

西蒙尼尼尼说:“我们有一个准备充分的全球社区,可以大规模收集组织可能需要的任何信息,并以广度和深度相结合的方式进行管理,这使得引入完全不同的数据来训练人工智能系统成为可能。”

Simonini提供了一些例子,包括符合既定标准的语音话语、特定文档和图像(如“街角”或“猫”)。这些数据类型由苹果用户的全球测试人员提供。缺乏如此多样的数据集是我们今天面临的最大障碍之一,掌声希望帮助我们克服这一障碍。

主要责任

每个参与新兴技术开发的人都有很大的责任。人工智能特别敏感,因为每个人都知道它将对世界上大多数社会产生巨大影响,但是没有人能真正预测它将如何影响他们。

人工智能将取代多少工作?它会被用来杀死机器人吗?它会决定是否发射导弹吗?面部识别将在多大程度上应用于整个社会?这些都是重要的问题,没有人能给出完全肯定的答案,但是像《1984》和《终结者》这样的电影肯定会影响公众的思维。

人工智能的主要问题之一是偏见。算术正义联盟等组织所做的工作表明,面部识别算法的有效性取决于每个人的种族和性别之间的巨大差异。例如,IBM的人脸识别算法对皮肤浅的男性准确率为99.7%,对皮肤深的女性准确率为65.3%。

西蒙尼尼强调了她最近阅读的另一项研究,在这项研究中,该算法识别白人男性,语音准确率超过90%。然而,对于非裔美国女性来说,这一比例接近30%。

解决这一差异不仅对于防止无意中自动进行种族定性或给予社会某些部分优于其他部分的优势至关重要,而且对于让人工智能充分发挥其潜力也至关重要。

尽管有许多问题,但只要以负责任的方式发展,人工智能就有很大的力量。人工智能可以提高效率,减少对环境的影响,让人们有更多的时间和亲戚在一起,从根本上改善残疾人的生活。

公司无力为自己的发展负责将导致过度监管,这反过来又会导致创新减少。当被问及他是否相信稳健的测试会减少过度监管的可能性时,西蒙尼尼说:“在某些情况下,人们可能会尝试监管,但如果你真的能证明已经努力实现高水平的准确性和深度,那么我认为这种可能性会降低。”

人体测试仍然至关重要

掌声并不是唯一致力于减少算法偏差的公司。例如,IBM有一个叫做公平360的工具,它本质上是一个人工智能系统,扫描其他算法寻找偏差的迹象。

当被问及为什么掌声相信人类测试仍然是至关重要的时侯,西蒙妮评论道:“人类无法预测他们会如何对某件事做出反应,他们会如何做,以及他们会如何选择与这些设备和应用程序进行交互。我们没有看到任何迹象表明,没有人为因素,这是可以有效完成的。”

语音识别面临的主要挑战之一是所讲语言的多样性及其方言。许多美国语音识别系统甚至在识别英格兰西南部的口音方面有问题。

Simonini补充了另一个关于俚语和语音服务需求的考虑,以跟上不断变化的词汇。她解释道:“今天的青少年喜欢用‘火’这个词,当他们喜欢一些热的或冷的东西时。我们可以将这些设备带回家,真正尝试理解其中的一些细微差别。”

Simonini接着进一步解释了理解这些微妙背景的挑战。在她的“火”的例子中,显然有必要理解什么时候应该逐字解释,什么时候有人在称赞一些很酷的东西。西蒙尼尼说:“你如何区分火灾等紧急情况?音调、音调和其他关于如何使用相同语音命令的东西将会不同。”

人工智能应用和服务增长

掌声已经在传统的应用测试领域建立了自己的业务。考虑到人工智能应用和服务的预期增长,西蒙尼尼被问及他是否相信其人工智能测试解决方案会变得和当前的应用测试业务一样大甚至更大。

对此,她说:“我们确实谈过这个。你知道这将增长多快吗?我不想一直谈论语音,但如果你看看统计数据,语音市场的增长速度要比移动设备的增长和采用速度快得多。我认为它将在我们的业务中占据越来越大的份额,但我不认为它一定会取代任何东西,因为这些渠道(如移动和桌面应用)仍将存在并相互补充。”

西蒙尼尼还说:“我们选择谈论的角度实际上是人类和人工智能之间的交集,为什么我们不相信它会成为替代品,但它将如何发挥作用和相互补充。基本上,从测试的角度来看,以人为本的需求仍然很高。”

大家都在看

相关专题