基础硬件

根据TrendForce集邦咨询最新研究显示,服务器整机出货趋势今年主要动能仍以美系CSP为大宗,但受限于通货膨胀高,企业融资成本居高不下,压缩资本支出,整体需求尚未恢复至疫情前成长幅度,预估2024年全球服务器整机出货量约1,365.4万台,年增约2.05%。同时,市场仍聚焦部署AI服务器,AI服务器出货占比约12.1%。
无论在游戏显卡还是AI加速卡领域,NVIDIA GPU如今都是现象级的存在,尤其是AI加速卡,卖十几万都被疯抢,订单往往能排好几个月,导致游戏显卡的产能也很紧张。
Groq表示,LPU旨在克服LLM的两个瓶颈:计算密度和内存带宽。就LLM而言,LPU的计算能力强于GPU和CPU,这减少了每个单词的计算时间,从而可以更快地生成文本序列。此外,与GPU相比,消除外部内存瓶颈使LPU能够在LLM上提供更好的性能。
国内确实活跃着为数不少的GPU芯片企业,甚至其中还包括被英伟达黄仁勋盖章确认的“强大竞争对手”。对国内公司而言,这一切即是机会也是挑战,国产AI芯片大规模自主的那天虽迟但总会到。
IDC最新统计数据表明,全球二手智能手机2023年的出货量为3.094亿部,与2022年的2.826亿部相比增长了9.5%。从这个角度来看,如果假设二手市场是由一家智能手机制造商组成的话,那么该公司将会成为世界上最大的智能手机制造商。
这意味着,在未来的某个时候,可能会出现一个价值 100 万美元的人工智能服务器节点,配备 16 个 GPU,并满载互连、内存和计算。
尽管该系统目前的峰值功率为29 MW,但Frontier的机械设备可以冷却高达40 MW的计算能力,相当于30,000个美国家庭的冷却能力。该工厂可扩展至70 MW,为未来的增长留出空间。
对于AMD来说,在过去一直处于追赶者的地位,目前来说,由于其软件生态的相对不完整,预计在新3D图形学逐渐变成主流的前几年,AMD仍然将处于追赶的地位。但是,如果AMD不想错过这一波新的3D图形学的机会的话,一方面需要在软件生态上做更快速的追赶,另一方面则需要在硬件架构上做相比于Nvidia更加果断的优化来支持这类新的3D图形学。
在经历多次起起落落之后,服务器芯片领域有望在不久的将来迎来新的变革。 在这个不断变化的环境中,机遇与挑战并存,未来的格局充满未知。 在这个关键时刻,AI服务器厂商需要证明他们在产业链中的疏通能力,以应对供应链风险并与上下游合作伙伴形成强大的联盟。
加载更多