昆仑万维旗下Opera全新AI服务器集群落地 大模型推理速度提高30倍
2024-04-10 16:02 昆仑万维

据昆仑万维消息,近日,昆仑万维旗下海外信息分发及元宇宙平台Opera宣布,公司在冰岛凯夫拉维克部署了一套全新的、完全由绿色能源驱动的人工智能(AI)服务器集群。

该集群能够为Opera提供先进的AI超级计算能力,并有效简化生产级AI应用的开发和部署过程,为Opera未来更多生成式AI服务打下基础。与上一代GPU相比,搭载NVIDIA H100 Tensor Core GPU的方案能让AI训练速度提高4倍,大语言模型推理速度提高30倍。