分布式推理框架Exo实现AI算力集群

mtain 2025年01月22日 68次浏览

说明

可以将同一个局域网中的手机、平板、电脑组合起来实现AI算例集群,例如:使用雷电接口将几台Mac mini连接起来。

侧重于使用大内存,而不是GPU。

GitHub:https://github.com/exo-explore/exo

参考文章

exo - 利用家用设备打造低成本的 AI 集群:https://zhuanlan.zhihu.com/p/7693213678