匿名模糊位置

已将您的地理位置进行模糊化处理,谨防第三方窃取您的位置信息。

综合

影视

购物

  • 百度文心大模型4.5系列开源实现框架层、模型层“双层开源”

    此外,文心大模型4.5开源系列均使用飞桨深度学习框架进行高效训练、推理和部署。在大语言模型的预训练中,模型FLOPs利用率(MFU)达到47%。实验结果显示,其系列模型在多个文本和多模态基准测试...

  • Deepseek大模型推理算法其实很简单

    从“import torch”两个词,可以看出Deepseek用了Meta的PyTorch深度学习框架。这就是开源的力量,很厉害的程序代码也不长。美国Meta公司开源了LLaMa大模型,之前还建立了PyTorch(基于Torch机器...

  • vLLM原生支持昇腾,加速大模型推理创新,社区尝鲜版本首发!

    大模型推理服务框架vLLM是LFData&AI基金会孵化项目,因其在大型语言模型(LLM)推理和服务中的高吞吐量、内存高效等特点,在开源社区广受欢迎。华为是LFData&AI基金会创始高级会员...

  • 张君

    框架、模型算法和算子加速库等层面,进一步提升大模型推理的性能。演讲主题: 大模型推理加速的优化实践 大模型推理加速的优化实践 昇腾生态技术专家张君 大模型推理的技术挑战 大模型推理加速...

  • Deploy001 模型推理

    本文讨论了在人工智能火热发展下,深度学习模型部署的重要性,并以PyTorch为例介绍其模型推理知识。关键要点包括:​ 1. 深度学习模型部署的重要性:生产环境对模型速度要求高,且训练框架配置...

  • vLLM原生支持昇腾,加速大模型推理创新,社区尝鲜版本首发

    大模型推理服务框架vLLM是LF Data&AI基金会孵化项目,因其在大型语言模型(LLM)推理和服务中的高吞吐量、内存高效等特点,在开源社区广受欢迎。华为是LF Data&AI基金会创始高级会员,同时也是...

  • 月之暗面 Kimi 联合清华大学等开源大模型推理架构 Mooncake

    近日,为了进一步加速该技术框架的应用与推广,月之暗面 Kimi 和清华大学 MADSys 实验室联合 9#AISoft、阿里云、华为存...

  • 十个构建Agent的大模型应用框架

    增强的大模型推理 API优化大语言模型的推理性能,同时降低成本。Autogen 特别适合与 开源系统 和 微软生态系统 结合使用,是构建 Agentic AI 和大模型应用的理想选择。它提供了一个不断发展的...

  • 姚期智领衔提出大模型“思维”框架,逻辑推理正确率达98%

    原标题:姚期智领衔提出大模型“思维”框架!逻辑推理正确率达98%,思考方式更像人类了 图灵奖得主姚期智领衔的首篇 大语言模型 论文来了! 一出手,瞄准的就是“让大模型像人一样思考”这个方向—— 不仅要让大模型一步步推理,还要让它们学会“步步为营”,记住推理中间的所有正确过程。 具体来说,这篇新论文提出了一种叫做 累积推理 (Cumulative Reasoning)的新方法,显著提高了大模型搞复杂推理的能力。

  • 大模型推理架构Mooncake开源

    中关村在线11月28日消息,月之暗面Kimi和清华大学MADSys实验室联合9#AISoft、阿里云、华为存储、面壁智能、趋境科技等产学研力量共同发布开源项目Mooncake,共建以KVCache为中心的大模

为您找到约 1,000,000 条相关结果
上一页567891011121314下一页