首页 公众号手机端

星凡科技,推理算力产品领航者

sss001 3周前 (11-30) 阅读数 27 #丑闻热瓜

  “星算计划”由国(guó)星宇航、星凡科技联合之(zhī)江实验室及行(xíng)业头部上(shàng)市公司、科技独角兽共同发起,旨在(zài)构建领先的(de)地(dì)空一体化人(rén)工智能(néng)算力网络。项目规划二0二四年(nián)到()二0三二年(nián),完成三000颗太空算力卫星发射并组网,同时(shí)地(dì)面建设一00个(gè)地(dì)基训推一体化算力节点,建成后(hòu)总算力预计将达到()八0000P。“星算计划”打造的(de)地(dì)面算力节点网络系统性优势,结合太空算力形成天(tiān)数天(tiān)算、地(dì)数地(dì)算的(de)协同服务,助力千行(xíng)百业等诸多领域完成数智化转型,开启智算服务新篇章。

  星凡星启(成都)科技有(yǒu)限公司(以(yǐ)下(xià)简称“星凡科技”)作为(wéi / wèi)国(guó)内领先的(de)人(rén)工智能(néng)推理算力产品提供商,以(yǐ)其自(zì)有(yǒu)推理芯片“星核”及异构中(zhōng)间件加速平台X-Boost为(wéi / wèi)基础,为(wéi / wèi)“星算计划”中(zhōng)全国(guó)的(de)地(dì)面训推一体化算力中(zhōng)心及太空卫星算力节点,打造高性能(néng)、低功耗的(de)AI算力产品,助力“星算计划”快速落地(dì)。

  近年(nián)来(lái),随着人(rén)工智能(néng)的(de)快速发展、大(dà)模型等技术应用对(duì)数据需求和(hé)模型参数的(de)逐步上(shàng)涨,对(duì)更大(dà)规模、更高性能(néng)的(de)计算能(néng)力提出(chū)需求。而(ér)以(yǐ)Open AI发布SORA、GPT-O一为(wéi / wèi)代表大(dà)模型、多模态,处理复杂问题的(de)能(néng)力更强,推进大(dà)模型在(zài)更多领域的(de)应用,从而(ér)催生(nián)推理算力需求的(de)快速增长。

  同时(shí)国(guó)产算力发展痛点也(yě)备受关注:算力中(zhōng)心建设成本高、性价比低、运营回本周期长;模型使用者算力成本高、单一芯片难满足多元化算力需求、模型嫁接难适配难等都成为(wéi / wèi)迫在(zài)眉睫的(de)问题。而(ér)星凡科技的(de)软硬一体算力产品给出(chū)了优质的(de)解决方案。

  星凡科技软硬一体算力解决方案核心分为(wéi / wèi)硬件和(hé)软件两大(dà)部分。核心硬件,星凡科技采用自(zì)研“星核”大(dà)模型推理芯片,具有(yǒu)高并发、高吞吐、高能(néng)效、高性价比的(de)特点,性能(néng)、功耗、显存等核心指标处于(yú)国(guó)内前列水平,同时(shí)结合星凡独创大(dà)模型压缩方法,可(kě)使模型推理性能(néng)提升数倍,并保障模型压缩后(hòu)精度损失最小化。

  软件上(shàng),公司自(zì)研异构中(zhōng)间件加速平台X-Boost,为(wéi / wèi)国(guó)内领先支持异构算力的(de)全性能(néng)优化平台。平台向上(shàng)深度适配主流大(dà)模型及各类传统深度学习算法,向下(xià)兼容英伟达及国(guó)产主流芯片,解决模型适配难痛点,并提升大(dà)模型在(zài)国(guó)产芯片上(shàng)推理性能(néng)。同时(shí)X-Boost内置公司自(zì)研大(dà)模型加速工具、算子(zǐ)优化工具等,针对(duì)大(dà)小模型均能(néng)实现在(zài)保证精度的(de)前提下(xià),最高可(kě)实现八倍综合性能(néng)效提升,显著提高计算资源利用率。

  基于(yú)自(zì)有(yǒu)软硬件、国(guó)内外主流AI芯片,星凡科技打造训推一体化算力集群、推理侧算力集群、超新星分布式微算力中(zhōng)心等软硬一体化AI算力产品,赋能(néng)算力中(zhōng)心建设方、垂直行(xíng)业等客户。产品实现算力集群的(de)SOP单元化,能(néng)以(yǐ)AI POD形式进行(xíng)整体快速复制和(hé)纵向扩展,快速形成超大(dà)规模算力资源。同时(shí)在(zài)X-Boost的(de)加持下(xià),集群吞吐量及可(kě)部署模型数量均提升一-二倍,最高可(kě)降低四五%以(yǐ)上(shàng)的(de)算力中(zhōng)心运营电费成本,解决算力中(zhōng)心业主方、行(xíng)业用户建设成本高、运营回本周期长、算力使用贵等痛点。

  目前,星凡科技软硬一体算力产品获得下(xià)游客户的(de)广泛认可(kě),并已支持多地(dì)区建设高性价比智算中(zhōng)心,并布局拓展商业航天(tiān)、政务、文创、交通等垂直行(xíng)业。未来(lái),星凡科技将继续深化软硬一体算力产品的(de)技术创新与应用拓展,致力于(yú)构建更加高效、智能(néng)、绿色的(de)算力生(nián)态体系。


免责声明:以(yǐ)上(shàng)内容为(wéi / wèi)本网站转自(zì)其它媒体,相关信息仅为(wéi / wèi)传递更多信息之(zhī)目的(de),不(bù)代表本网观点,亦不(bù)代表本网站赞同其观点或证实其内容的(de)真实性。如稿件版权单位或个(gè)人(rén)不(bù)想在(zài)本网发布,可(kě)与本网联系,本网视情况可(kě)立即将其撤除。

版权说明

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

热门