智微智能的HAT智算云平台如何解决异构算力管理难题？

HAT智算云平台是智微智能子公司腾云智算针对算力资源分散、异构芯片统一管理难度较高及集群建设复杂等问题推出的核心产品。HAT分别对应Heterogeneous Resource Management、Abundant Computation Power和Tailored Cluster Solution三项底层能力。

在异构算力管理方面，HAT平台支持NVIDIA、AMD、昇腾等不同芯片架构，可对跨芯片、跨机房及跨云环境的算力资源进行统一纳管，并通过资源池化、虚拟化和细颗粒度调度，提高异构算力资源的调配灵活性和使用效率。

在算力资源供给方面，腾云智算接入北京、上海、深圳、新加坡、吉隆坡及东京等地的机房和算力资源，为模型训练、推理及行业应用部署提供算力支持。

在定制集群建设方面，腾云智算可根据客户的算力规模、芯片类型、模型特点、部署环境及成本预算，提供涵盖基础设施、算力设备、云平台和运维服务的集群建设方案。

在完成底层算力资源接入与统一管理的基础上，HAT平台进一步向模型开发、训练及部署环节延伸。模型后训练方面，平台支持SFT、DPO及QAT量化压缩等任务，可完成任务提交、训练流程管理及底层算力资源调度；模型部署方面，兼容开源及自研模型，支持镜像封装、弹性部署、自动扩缩容和运行监控；开发与运行环境方面，提供预集成PyTorch、TensorFlow等深度学习框架的容器实例，支持SSH和Jupyter接入，并提供整卡、切卡、按需及包周期等资源配置与计费方式。