青云科技聚焦AI算力调度等能力通过开放生态

青云科技专注于AI算力调度等能力。 通过开放的生态系统，联合各地区不同规模的AI软硬件供应商、算法模型服务商、算力服务商、行业应用服务商，将算力、算法与行业深度融合。 数据和场景应用能力让AI真正释放商业价值。

因此，青云科技AI算力大会邀请生态伙伴分享AI落地的技术和实践。 无文核心穹商业化副总裁李峰以“加速大模型落地最后一公里”为主题发表精彩演讲，分享了无文核心穹在大模型落地方向的探索与进展。 以下为演讲全文，整理如下：

近期，大型模型在文本对话、图像生成等AI内容生成领域取得了优异的表现，标志着AI 2.0时代的到来。

例如，如上图所示：Microsoft Copilot 显着提高了办公软件 Office 的效率。 例如，如果我们输入一个主题，程序可以自动生成相关的问题描述和时间表； Midjourney的图像生成功能可以让我们给出描述文字并自动生成图片，同时可以实现图片显示的缩放功能。

AI 2.0时代，大模型正在引领巨大的技术变革。 这些视频表明，大型模型已经可以服务于生产对话和代码生成，这些能力将为未来数千个行业的技术赋能。 然而，面对大模型等重要技术突破，我国在算法层和算力层都受到了限制，包括拦截最先进的模型调用、限制最先进芯片的出口等。由美国。 因此，本土化是AI 2.0时代。 唯一的办法就是突破。

我们可以看到，国内外的生态差异非常明显。 在国外，NVIDIA针对不同的算法模型提供了统一的计算平台和Cuda软件生态系统。 相比之下，国内多款大型机型、多套硬件平台，导致用户难以实现高效统一部署。 因此，算法模型和硬件平台的适配成为生态和实现的最大瓶颈。

为了解决模型与算力之间的瓶颈，无文新琼致力于为大型模型提供软硬件一体化的自动化优化解决方案。 向上，我们服务了很多大型模型算法公司。 下游，我们和国内很多芯片公司都有联系。 在产品方面，我们在多种硬件上实现了M×N大模型一键部署平台，降低大模型的使用门槛，让模型部署尽可能快捷，真正成为大模型的基础设施在AI 2.0时代。

最后，为了帮助实现AI 2.0时代的大规模模型，无文芯琼重点解决四个痛点：

1.支持长文本或大输入

例如，对于之前支持2K token的模型，我们可以通过快速推理和训练，使其支持32K token，我们可以做出诸如信息检索和专业长文本生成、会议聊天助手等应用。

2、提高性价比

我们将语言和多模态生成模型部署到消费级显卡甚至手机等终端设备上，使我们的客户能够负担得起。

3. 垂直领域适配

利用大模型的通用能力，帮助各行各业的人们提升体验和效率。

4、一键部署

让大模型以低廉的人力成本部署在各种场景中，让每个工厂、学校、家庭甚至个人都能发挥其能力。

希望无文新琼能够真正满足客户的实际需求，解决大模型落地的最后一公里。 再次感谢青云科技的邀请。 无文芯琼希望与青云科技携手共创AI新时代。

继续阅读：