趋境科技推出ATaaS平台，革新AI Token生产效率

3月27日最新消息，据徽声在线了解，科技领域迎来一项重要创新——趋境科技于今日正式对外推出了其全新一代的AI推理平台，即趋境ATaaS高效能AI Token生产服务平台。在当前大模型应用呈现爆发式增长的背景下，算力投入与Token产出之间的不匹配问题，以及硬件资源空耗的现象日益凸显。针对这些行业痛点，趋境ATaaS平台凭借其全球首创的异构推理重构技术和超体量KV Cache技术，成功实现了CPU与GPU、国产算力与非国产算力之间的深度融合与精细调度。据趋境科技官方测算，该平台能够显著降低万卡级智算集群的运营成本，降幅超过20%，同时缓存命中率可高达90%，从而大幅减少GPU算力的不必要开销，为AI行业的可持续发展提供了有力支持。