随着AI大模型的持续发展,人们越来越认识到模型不是一味求“大”,寻找适合的“明星场景”才是决定产业成败的关键。这是因为大模型只是能力,不是产品,能力结合场景才能真正发挥作用。在近日召开的“2024英特尔网络与边缘计算行业大会”上,笔者观察到,许多行业模型已经开始在制造、教育、零售、医疗等领域寻求落地,显示出人们探索大模型赋能千行百业的积极性。
教育行业:大模型简化备课工作量
目前,大模型在教育领域已经有了大量探索和应用,主要体现在个性化学习助手、智能问答系统、内容生成与创作辅助、智能写作评估、跨语言学习支持、数学解题辅助等几个方面。大模型技术在教育领域凭借卓越的数据处理能力和深度学习技术,极大地推动了教育质量的提升与教育公平的实现。
根据希沃商用计算机事业部副总经理郭潇的介绍,去年希沃便推出了集成AI大模型功能的教育终端,提升老师备课时的效率。老师备课时经常需要把PDF格式转变为可编辑的格式。常见的流程是,老师先要了解哪些软件可以执行类似转化功能,然后下载学习这款软件,最后再解析PDF进行转化。整个流程颇为繁复,对于不熟悉IT工作的老教师是一个挑战。希沃通过AI技术对整个交互逻辑重新进行调整,用户不需要知道哪一款软件能帮他完成文字提取、PDF的转化,只需要把需要操作的文件拉到屏幕上方。在哪里,希沃集成了相关功能,可以自动识别,自动解析转化,帮助客户直接解决问题。
视频也是教学过程中经常使用到的素材。针对视频素材,人工智能优化的空间更大。传统上,视频剪辑是基于时间轴进行的。比如要想剪辑掉授课中不小心说错的几个字,就要先把视频导入编辑软件,找到那几帧视频,再进行剪辑,效率很低。采用AI剪辑工具,可以把视频中所有语音解析转换为文字。老师只需要在文字上进行删减就可以快速完成视频剪辑,还可以一键去除口头语,帮助老师快速完成视频的剪辑,降低视频剪辑门槛,提高效率。
至于授课环节,希沃在新一代智慧平板中,植入AI能力,可以通过视觉和语音多媒体方式采集课堂情况,可以进行还原,并给出分析,教师会在10分钟内收到完整的课堂报告。希沃教学大模型会生成课堂总结与建议,包括课程总揽、问答对话、课堂互动、新课标落实四个部分,还能帮助教师总结知识教学点,生成对话式的建议,教师可以对提问内容、改进意见等进行追问。
工业应用:大模型助力柔性智能化生产
工业应用也是大模型关注的重点。根据IDC近期发布的《AI大模型在工业应用展望,2023》报告,大模型在工业的应用主要有两个方向:一是增强场景模型的泛化能力,提升模型适用性;二是利用自然语言对话和内容生成能力变更应用交互方式,生成文档、报表等。在推动传统制造业升级转型,从企业自身的智能化管理,到产品设计研发、质量控制检测、供应链管理、安全生产等相关环节,人工智能都可发挥重要作用。
科东元道联合创始人兼CTO祝一蒙就介绍了大模型在将工业自动化生产转向柔性智能化生产过程中所发挥的作用。以机械臂为例,这是工厂中经常用到的生产部件,经常执行类似于搬运、操作、抓举任务等。然而在实际工作中,任务或者环境经常发生变化,这时工厂就需要邀请工程师给机器人做路径规划,重新确定位置、速度、加速度等信息。完成运动规划之后工程师还要对机器人进行调校,再把相关程序上传到机器人的控制设备中。
传统上,这样的开发工作,工程师往往需要半天到两天时间。随着ChatGPT和多模态大模型的面世,人们可以像处理自然语言时一样,让AI像人一样看到周围环境,然后理解任务、执行任务,无需专业的工程人员参与,就可以完成调整机器人执行程序的工作,大大提高了效率。
英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟还介绍了为英特尔成都工厂开发的在线检测方案。AI在半导体封测厂也有着广阔的应用空间。在半导体的晶圆减薄工艺中,由于切片非常小,人工肉眼很难进行检测。市面上虽有很多抽检的方法,却也存在漏检风险。英特尔网络与边缘事业部以及合作伙伴联合,共同设计研发了在线检测方案,在不对原有机器设备做大幅改动,不影响生产节拍的基础上,实现了实时切片检测。这套设备依托软件定义自动化的理念,基于英特尔边缘控制平台,通过软POC,将AI视觉识别和智能模块有机结合在一起。目前检测精度可以达到95%,每小时大约检测200片托盘。精度相当于在短时间内在一个足球场大小的空间里找到一根头发丝的程度。
视频应用:大模型赋能商业场景
Sora的横空出世让人们对大模型在视频生成领域的应用生出无穷想象。其实大模型在视频赋能方面的应用不止于此,诸如视频剪辑、视频检测等方面都有着巨大的潜力。开域集团CUE数字科技总经理应翔翔介绍了基于大模型进行视频处理,赋能商业场景的案例。
一个案例中,人们希望从大量视频资料中检测出一些违规操作的内容。这些视频资料来自餐饮服务现场,需要检出现场操作人员违规佩戴帽子的镜头。理论上,这是一个非常简单的算法,只需设置预警算法就能实现。但是在现实操作中却不是那么简单。你会发现,现场操作员随时都在运动,不时出现的遮挡物以及模糊的影像,都会对检测的准确度造成影响。如果配合人工参与,虽然也能够完成,但是海量的视频又会导致人工干预的工作量激增。
开域集团在检测设备中引入大模型,通过模型的能力可以大幅提高设备检测能力,整体的误报率下降90%,运营人力可以降低80%,甚至可以把一些复杂的,或者原来没有训练过的内容交给设备检测,先由大模型通过它的能力进行预判。目前相关解决方案已经从小场景的门店,拓展到商场、园区,形成了对大场景的覆盖。不管场景如何变化,中后台都是基于一套软件+硬件+架构的方案,可以针对不同的场景快速迭代,灵活变化。
边缘算力:从AI辅助走向AI助手
大模型对各行业的应用赋能离不开算力的支撑,特别是大模型在向行业场景落地时,边缘算力的重要性就更加凸显。上述几个案例都采用了英特尔网络与边缘事业部的解决方案。边缘算力在成本、时延、隐私上具有天然优势,可以作为桥梁,预处理海量复杂需求,并将其导向大模型。英特尔以半导体技术为基础,从凌动到至强,推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列,以及面向边缘的Arc GPU、IPU E2100网络适配器等,并将芯片和软件相结合,将边缘和平台更好地结合在一起,使用户能够更快地部署应用,使得网络更加安全,更加优化。
英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti将人工智能的发展分成三个阶段,AI辅助时代、AI助手时代和全功能AI时代。Sachin Katti表示,目前处于AI辅助时代,未来人工智能将以更加深远的方式改变全球的业务模式。
在谈到中国市场时,英特尔市场营销集团副总裁兼中国区总经理王稚聪表示,去年以来,英特尔和国内领先的大模型厂商展开了深入合作。预计中国生成式人工智能市场的规模将达到33亿美元,未来几年还将迅速增长,深入到零售业、制造业、金融业、医疗健康及基础设施等各个行业之中。英特尔具备完善的产品组合,包括CPU、AI加速器及各种软硬件的底层技术。在人工智能框架上,可以为大家提供比较完备的面向未来大模型深层次人工智能落地行业的基本技术。
陈伟则强调,从当初的嵌入式、智能系统、物联网,到当前的智能边缘和智能计算,英特尔的全球网络与边缘事业部配合中国市场合作伙伴进行了大量创新。未来大家将会进行更多的合作,在边缘搭建人工智能能力,有着非常广阔的市场机会。