新闻中心
-
10-05FireRedChat— 小红书推出的全双工语音交互系统FireRedChat是什么FireRedChat是由小红书智创音频团队打造的一款全双工语音交互系统,具备实时双向通话能力,并支持可控打断机制。该系统采用模块化...
-
09-19无问芯穹发布全规模AI方案及三大产品,解锁AI落地价值密码算力作为智能时代的核心驱动力,其规模与效率直接决定了数字社会的演进速度。在世界人工智能大会上,无问芯穹正式推出“全规模AI效能跃升方案”,并发布三大核心产品:无...
-
09-11LMDeploy— 上海AI Lab开源的大模型推理部署工具LMDeploy是什么LMDeploy是由上海人工智能实验室推出的一款专注于大模型推理与部署的高效工具,旨在显著提升大语言模型在各类硬件上的推理性能。它全面支持...
-
08-06FastDeploy— 百度推出的大模型推理部署工具FastDeploy是什么FastDeploy是由百度基于飞桨(PaddlePaddle)框架打造的高性能模型推理与部署工具,专为大语言模型(LLMs)和视觉语...
-
07-11多模态模型部署时资源消耗如何 部署所需计算资源与优化建议分析多模态模型,因其融合处理文本、图像、语音等多种数据类型的能力,在众多应用领域展现出巨大潜力。然而,在实际生产环境中部署这些复杂模型时,如何有效管理其庞大的资源消...
-
06-27技术反思:LLM时代,MCP是必需品还是过渡方案?前言近期MCP的火爆是大家有目共睹的,关注人工智能前沿开发的开发者或多或少都有阅读过MCP相关文章或者视频,也不乏有像本人一样动手亲自来实践,开发本地MCP服务...

