大模型时代的下OCR“CPU味道”更重了

2024-02-24 09:00:00
aiadmin
原创
981

本文为今日头条原创作家独家首发,原创不易,模仿、洗稿必将查究。阅读作品前可能先点眷注呦,感谢援手!

正在当今大模子时间下,经典的OCR本领正正在经过一场革命性的改观。OCR行为将文本从图像中提取的苛重才具,跟着近年来大型发言模子的振兴,逐步成为了重大AI模子的入口之一。然而,正在这个经过中,咱们必需从头审视“好用才是硬事理”这一题目。

以前,人们广泛会遴选应用GPU来实行像OCR云云的劳动,然而斟酌到本钱和安排的挑拨,CPU也开首正在OCR规模出现出重大的潜力。这种改观的背后有着众方面的来历和本领更始,让咱们一道探究个中的神秘。

正在当代社会,光学字符识别本领已成为咱们常日糊口中不行或缺的一部门。从各式文献、身份证,到道标,OCR本领的利用无处不正在。

一经,人们从来以为治理OCR等劳动须要重大的GPU援手。然而,跟着工夫的推移,本钱和安排题目逐步浮现。有些场景乃至难以获取足够的GPU资源。面临这些题目,人们开首从头审视CPU的潜力。正在医保AI营业中,比方,CPU的加快带来的医疗单子识别劳动的反映延时目标晋升了惊人的25倍。

英特尔的第四代至强® 可扩展治理器成为了这一改革的枢纽促使者。这款治理器不只正在每个时钟周期内扩张了指令数目,还援手众达60个重心,并具备了8通道DDR5内存。它的本能晋升不只展现正在内存宽带,还通过PCIe 5.0完毕了2倍的PCIe带宽晋升,团体代际本能晋升到达了60%。

然而,这种才华的开释并非仅仅源自于硬件,还得益于英特尔正在软件层面上的优化。现实上,这种战术依然正在现实利用中获得了验证,邦内用友就正在其OCR营业中采用了英特尔的处理计划。

值得提防的是,英特尔并没有仅仅中止正在硬件优化上,他们还借助OpenVINO™️推理框架来进一步晋升本能。通过优化推理部门,OpenVINO™️完毕了与GPU相媲美的本能。

然而,英特尔的起劲并不只限于OCR规模。以前,GPU广泛被以为是加快AI的最佳遴选。而现正在,CPU也变得与以往一律分别。正在AMX加快引擎的援手下,CPU不只正在媒体文娱、零售等规模出现杰出,乃至正在性命科学和医丹方向都具备了与GPU相媲美的本能。

总而言之,跟着大模子时间的莅临,CPU正正在从头界说AI加快的形式。英特尔的更始思绪和软硬件一体化的战术,为各行各业的AI利用开拓、安排、优化供给了全方位的援手,成为了不行漠视的力气。无论是OCR规模的改革仍然跨规模的AI加快,CPU正正在以史无前例的式样出现着其庞大的潜力。

联系我们
联系人: 王先生
电话: 15640228768
微信: 1735252255
地址: 沈阳市铁西区兴华南街58-6号