2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf

  • 上传者:w**********
  • 时间:2025/03/21
  • 热度:206
  • 0人点赞
  • 举报

该文档聚焦于人工智能大模型(LLM)在训练与推理阶段的性能优化体系构建。核心内容围绕如何利用eBPF(扩展伯克利包过滤器)技术和Agent(智能体)架构,解决大规模语言模型部署中的底层资源调度、网络通信优化及系统级监控问题。

文档深入探讨了eBPF在Linux内核层面的可观测性与可编程能力,如何实现对LLM训练集群和推理服务的高精度追踪与性能调优。同时,结合Agent技术,分析其在自动化运维、智能资源分配及故障自愈方面的应用,旨在通过底层基础设施与上层智能应用的协同,提升LLM系统的整体效率、稳定性及可扩展性,为AI基础设施的技术演进提供实践参考。

1页 / 共43
2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第1页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第2页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第3页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第4页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第5页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第6页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第7页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第8页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第9页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第10页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第11页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第12页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第13页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第14页 2024AI+研发数字峰会:基于eBPF和Agent构建LLM训练推理优化体系.pdf第15页
  • 格式:pdf
  • 大小:12.4M
  • 页数:43
  • 价格: 4积分
下载 获取积分

免责声明:本文 / 资料由用户个人上传,平台仅提供信息存储服务,如有侵权请联系删除。

  • 相关标签
  • 相关专题
      热门下载
      • 本年热门
      • 本季热门
      • 本月热门
      分享至