企业级AI加速落地关键词:开源、轻量化与异构

来源:爱集微 #人工智能# #企业级AI# #算力#
1.2w

随着AI技术的飞速发展,尤其是生成式AI的崛起,企业级AI正迎来新的应用发展契机。很多人认为,2024年将是生成式AI在企业级应用场景当中落地的元年。而企业级AI的应用与发展,将成为企业数字化转型的关键驱动力量。

企业级AI加速应用落地

近两年来,生成式AI技术迎来新一轮的高速发展,同时也为业界带来更多机会,特别是企业级AI的发展,让人们看到了新的契机。在日前召开的“英特尔企业AI开放软件生态媒体分享会”上,英特尔中国软件技术合作事业部总经理唐炯指出,AI正在从理论研究逐步走向实际应用,特别是企业级应用。他提到:“从技术角度而言,我们已经经历了机器学习、深度学习、生成式AI等几个阶段,现在更多需要讨论的是怎样能够落地。从这一点上看,我们离AI无处不在还有很长的路要走。”

而在生成式AI落地过程中,企业级应用无疑是一大热点,已经有越来越多的企业应用场景开始逐步落地,开始帮助企业发展。有观点认为,今年将是生成式AI在企业级应用场景当中落地的元年。

东方国信副总裁兼CTO查礼进一步阐述了AI时代为企业带来的变革和机遇。他表示自己同样认同“在AI时代,值得用AI把所有东西都重做一遍”的观点。“这不仅是一个口号,更是东方国信等企业在实践中不断探索和验证的方向。我们提出的口号就是构建一个由AI驱动并赋能的、重塑的企业IT系统。这是东方国信作为一个软件开发商所看到的机遇。”查礼还分享了东方国信在通信、金融、工业等多个领域的应用实践,展示了AI技术如何赋能企业,实现业务的智能化升级。

开源、轻量化成发展破局重点

在企业级AI的发展过程中,开源和轻量化成为破局的关键。唐炯强调,英特尔通过构建开放的AI生态,与生态伙伴共同推动AI技术的普及和应用。“在加速创新方面,我们的关键词是‘开放’,也就是说能够给围绕软件、围绕应用、面向个人、面向企业的开发者提供一个更加开放的资源平台。”英特尔提供的PyTorch、TensorFlow和Python等可编程的开放环境,助力越来越多的人进行应用创新。同时,英特尔还推出了oneAPI、OpenVINO等大量开源工具,通过一次性编程,在XPU异构的平台里面都可以使用,不用重新编程,极大地降低了开发门槛。

此外,开源社区也为企业级AI的发展提供了重要支持。唐炯提到的Open Platform for Enterprise AI(OPEA)就是一个与AI相关的开源社区,需要企业AI落地相关的不同厂商都能够参与,共享各方的代码和模块,最后成为一个完整的企业级AI应用。这种开源协作的模式,不仅促进了技术的快速迭代,也加速了企业级AI应用的落地。

另一方面,轻量化也是企业级AI发展的重要趋势。在边缘计算、智能终端等场景下,对AI模型的轻量化要求越来越高。星环科技生态合作部总经理张雷在分享中提到,星环科技推出的Hippo向量数据库产品,通过性能调优,在第五代英特尔至强可扩展处理器上实现了2.07倍的性能提升。这种轻量化的设计,使得AI模型能够更好地适应各种复杂的场景,推动企业级AI应用的普及。

异构算力为训练推理提供基础

算力是企业级AI发展的基础。无论是训练大模型还是进行实时推理,都需要强大的算力支持。

唐炯在分享中提到:“AI的整个成本结构跟原来云计算的成本结构是不一样的。要实现价值最大化,就要把整个基础架构和AI应用最好地适配在一起。”他强调了算力生态、开放的基础设施生态以及开放的软件生态之间的协同作用,共同为企业级AI的发展提供坚实的基础。

查礼也提到,东方国信推出的幕僚云产品,通过融合异构加速器的算力云,将异构的算力资源标准化,并提供给公有云用户使用。这种算力云产品的推出,不仅降低了企业使用AI的门槛,也提高了AI应用的灵活性和效率。

此外,海鑫智圣总经理孟凡军在分享中提到,他们与英特尔的合作中,通过OpenVINO和oneAPI软件提高了CPU适用的宽度,并提高了AI推理性能。这种基于硬件优化的解决方案,进一步提升了算力的利用效率,为企业级AI的发展提供了强有力的支持。

今年将是生成式AI在企业级应用场景当中落地的元年,市场启动;开源、轻量化是企业级AI破局发展的重点;而算力则是发展的基础。随着技术的不断进步和应用的不断深化,企业级AI必将在未来的发展中发挥越来越重要的作用。

责编: 张轶群
来源:爱集微 #人工智能# #企业级AI# #算力#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...