趋境科技获高瓴创投、Z基金领投天使轮,助力企业10倍降本部署DeepSeek|甲子光年

AI私有化部署的破局者浮出水面。

趋境科技获高瓴创投、Z基金领投天使轮,助力企业10倍降本部署DeepSeek|甲子光年

原标题:趋境科技高瓴创投、Z基金领投天使轮,助力企业10倍降本部署DeepSeek|甲子光年
文章来源:甲子光年
内容字数:4804字

AI私有化部署:趋境科技的破局之路

随着AI推理需求的激增,降低千亿级大模型部署成本成为迫切命题。趋境科技,一家由清华系团队创立的AI基础设施公司,凭借其创新技术方案,为这一难题提供了新的解法,并近日完成数千万元天使轮融资。

1. 趋境科技及其创新技术

趋境科技的核心技术在于“以存换算”和全系统异构协同优化。这允许其利用CPU和GPU异构协同推理架构,极大降低了对高端GPU的依赖,并通过高效利用内存来补充计算能力。其开源项目KTransformers,支持DeepSeek等大型模型,在GitHub上获得高度关注,甚至有开发者用低成本硬件复现了其功能。 这也证明了其技术方案的可行性和高性价比。

2. AI大模型推理软硬一体工作站

基于上述技术,趋境科技推出了AI大模型推理软硬一体工作站,将DeepSeek大模型的部署门槛降低了90%。该工作站面向中低并发场景,单机即可支持千亿参数模型的流畅推理,并支持多模型并发服务,具备“开箱即用”的便捷性,显著降低中小企业的部署成本。

3. 趋境科技引领的AI Infra三大趋势

趋境科技的技术突破展现了AI Infra领域的三大趋势:

  1. 从“训练”走向“推理”: 算力基建需从GPU单点优化转向全系统协同,趋境科技的“以存换算”技术有效降低了对算力的依赖。
  2. 助力国产算力生态发展: 通过异构协同优化,降低了对高端硬件的依赖,推动国产算力生态发展,并降低大模型落地成本。
  3. “轻量化”部署成为可能: 中小企业无需巨资自建集群,即可完成大模型私有化部署,实现数字化转型。

4. 趋境科技的价值与意义

趋境科技通过技术创新,重塑了AI Infra的价值,为企业提供了更高效、更低成本的大模型部署方案。其“技术+场景”的双轮驱动模式,为AI化提供了新的思路,让更多企业能够平等地获取先进的AI生产力,推动AI技术在各行各业的广泛应用。

总而言之,趋境科技的出现,为解决AI大模型私有化部署的高成本、低效率难题提供了有效方案,其创新技术和商业模式,有望成为AI Infra领域的新兴力量,引领行业发展。


联系作者

文章来源:甲子光年
作者微信:
作者简介:甲子光年是一家科技智库,包含智库、社群、企业服务版块,立足中国科技创新前沿阵地,动态跟踪头部科技企业发展和传统产业技术升级案例,推动人工智能、大数据、物联网、云计算、新能源、新材料、信息安全、大健康等科技创新在产业中的应用与落地。

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...