赋能AI测试 Testin云测与英特尔合作,将OCR模型推理效率提升6倍

国际新闻 阅读(590)

谈到光学字符识别应用,许多人并不陌生。它最常见的应用场景是实现“图文并茂”,广泛应用于扫描名片、添加通讯录、拍摄英文菜单、翻译成中文等需求中。经过长期的发展,光学字符识别应用的准确性和速度得到了显着提高,其实用性也越来越高。

尽管当前的光学字符识别应用程序已经可以处理大多数消费者场景,但是在商业应用场景中仍然存在对加速光学字符识别效率的广泛需求。在人工智能技术引领的下一代测试中,北京云测试信息技术有限公司*(以下简称Testin云测试)发布了新的人工智能测试产品iTestin,全面提高了测试产品的可用性和自动化效率,脚本编写效率翻倍,降低了脚本维护成本。光学字符识别深度学习方案用于支持控制定位的输入。光学字符识别识别速度越快,越有利于自动速度测试的提高。因此,Testin云测量基于英特尔?至强。英特尔可扩展处理器?OpenVINO?该工具包优化了光学字符识别深度学习方案,将人工智能测试中的光学字符识别识别时间从2秒减少到约0.3秒,在不影响测试效果和结果的情况下实现了6倍的性能提升。

当人工智能测试遇到光学字符识别(OCR)时,开始下一代测试

为了开发软件应用程序并将其投入实际操作,这不是很多人想象的那样,它是可以简单地通过寻找一些程序员来编写一些代码来完成的事情,而是涉及到一个完整而复杂的过程。许多开发人员甚至认为测试是开发过程中最复杂的环节之一。软件最初开发后,开发人员需要测试其功能是否可用,以及不同类型的设备(例如基于安卓的设备和基于iOS的设备)上存在哪些应用问题。此外,不同地区实际网络环境中不同软件的性能也可能不同,这需要进行详细的测试。

为了帮助开发者测试软件,Testin Cloud Test开创了全球云测试模型,并在此基础上推出了集成人工智能技术的下一代测试产品iTestin。开发人员可以将软件上传到平台进行自动化测试。Testin云测试将详细列出测试过程中的所有参数,并将提供测试日志服务,如错误和警报的自动输出,并发布专门的测试报告,以帮助开发人员快速定位可能的问题并持续优化软件。

如图片无法显示,请刷新页面

在人工智能测试期间,Testin云测试发现自动化框架本身提供的控制输入不稳定。因此,Testin云人工智能测试方案倾向于使用更稳定的手机截图作为控制定位的输入,这需要光学字符识别技术来定位和分析截图中的文本。由于光学字符识别的效率和准确性会对测试结果产生显着影响,而模板匹配和特征提取等传统光学字符识别方案也暴露出图像清晰度要求高、抗背景干扰能力差的缺陷,Testin cloud measurement决定采用深度学习方案来提高文本推理能力。

为了提高OCR深度学习的效率,Testin云计算与英特尔进行了深入合作,从软件加速和硬件两个角度优化OCR方案。

xeon OpenVINO?为了将光学字符识别效率提高6倍,在许多情况下,图形处理器被用于光学字符识别深度学习方案,其强大的并行计算能力提高了文本推理能力。然而,图形处理器方案也有许多缺陷。特别是在小规模私有云用户的深度学习应用中,构建专用于OCR深度学习的GPU平台需要客户同时升级硬件平台,这不仅耗费时间和成本,还会带来相应的硬件升级成本。更多用户希望在现有基础架构平台上运行深度学习负载。此外,在大量的推理负载中,基于CPU的推理性能不逊于GPU平台,这也成为Testin云测量验证方案的重要力量。

在基础设施平台的建设中,Testin cloud最终选择了英特尔?至强。金牌6140处理器,英特尔?至强。可扩展处理器家族产品不仅具有强大的通用计算能力,还集成了增强型单指令多数据(SIMD),英特尔?AVX-512等创新技术实现了通用计算能力和并行计算能力的平衡,为深入学习培训提供了卓越的性能基础。与上一代产品相比,英特尔?至强。可扩展处理器可以为深度学习培训和推理提供高达2.2倍的性能。与软件优化相结合,可以加快人工智能服务的交付,新处理器可以实现比三年前未优化的服务器系统高113倍的深度学习性能。

在软件和算法层面,Testin云测量还探索和选择深度学习框架和加速方案。为了加快OCR方案,Testin云测量在初始阶段使用的深度学习框架是由谷歌*开发的TensorFlow*,它将深度学习的复杂计算过程抽象为数据流图,在深度学习中有着广泛的应用。然而,Testin云测量发现,无论是TensorFlow的公共版本还是TensorFlow的优化版本都无法满足速度需求。因此,Testin云计算希望找到一种新的加速方案。

在英特尔的建议下,测试云测试试图使用英特尔?OpenVINO?加速工具包分发。该工具包使开发人员能够使用行业标准的人工智能框架、标准或定制层,轻松地将深度学习推理集成到应用程序中。开发人员只需一次代码编写,就可以在当前和未来的英特尔硬件上快速无缝地部署它,从而消除应用程序重复。该工具包基于卷积神经网络(CNN),可以在英特尔硬件中扩展工作负载。

OpenVINO?的通过带来了立竿见影的效果。Testin云测量针对公共TensorFlow和英特尔?OpenVINO?对实现的推理吞吐量进行了测试,发现基于通用张量流的解决方案的推理吞吐量是23.26 (FPS),并且基于英特尔?OpenVINO?提出的解决方案的推理吞吐量为151.29 (FPS),后者比前者高650%(比较结果如图1所示),几乎没有精度损失。

C:\Users\Thomaswang\AppData\Roaming\Tencent\Users\1473133318\TIM\WinTemp\RichOle\[GI{UH5828NFG1DFX9SO996.png

此外,Testin云测量也基于第二代英特尔?至强。可扩展处理器已经过测试并与英特尔集成?深度学习加速(英特尔?深度学习提升技术(Deep Learning Boost)和DL Boost(VNI)技术,加速数据中心、企业和智能边缘计算环境中的人工智能推理工作负载。尤其是与支持低精度INT8加速的OpenVINO结合使用?新版本发布后,预计推理速度将提高约3倍。

启用带有人工智能的测试服务

目前,Testin云测试不仅涵盖测试服务,还涵盖安全性、推广和人工智能数据标记等服务。通过开发基于人工智能(AI)、深度学习技术、数据标注、光学字符识别(OCR recognition)等相关人工智能测试工具,Testin云测试可以帮助企业客户完成自动化应用测试,大大降低劳动强度。

通过将人工智能与自动化测试解决方案相结合,它可以帮助探索自动化和全路径应用中各种明显或潜在的问题,提取特征训练以识别业务功能,并智能地生成测试报告。人工智能的加入也有助于实现功能模块的自动探索和执行过程的可视化,使得测试环节的定位更加快速准确。对于用户来说,自动化测试管理和测试用例创建可以显着减少测试时间和资源的浪费,并加快应用程序列表过程。

Testin云测试案例证明英特尔?至强。可扩展处理器英特尔?OpenVINO?的融合解决方案有助于加快特定应用场景中的推理。此外,该解决方案还展示了其他自动化测试场景的应用潜力,并为用户构建基础平台提供了一个重要选项。