阿里千问3全系适配苹果MLX框架
日前,阿里巴巴通义团队开源了全新的千问3量化模型,完成基于苹果硬件的MLX框架的全系模型深度适配。MLX框架是专为苹果芯片优化的机器学习框架,在AI(人工智能)开源社区广受关注。此次千问3一次性推出32个官方MLX量化模型,包含4bit、6bit、8bit和BF16等不同精度,最大程度地满足开发者在MacStudio、MacBook、iPhone等不同苹果硬件上部署大模型的需求。
[本文作者佚名,i黑马原创。如需转载请联系微信公众号(ID:iheima)授权,未经授权,转载必究。]