V-Help
← 全部新闻
人工智能

Nvidia PAIR:将家庭网络中的GPU组合用于分布式AI任务

Nvidia PAIR:将家庭网络中的GPU组合用于分布式AI任务

图片: Tom's Hardware

简要回答

Nvidia推出PAIR工具,可将家庭网络中的GPU组合成分布式集群用于AI工作负载。

Nvidia发布了Personal AI Router(PAIR)工具,可将家庭网络中的GPU组合成分布式集群用于AI工作负载。该工具面向希望在本地执行AI任务且无需依赖云服务的用户。

PAIR通过将子任务分配到闲置算力节点来加速工作负载,每个节点独立处理任务,从而减少与单GPU处理所有子任务时的资源竞争。

该工具支持动态负载均衡:如果节点所有者开始使用GPU执行其他任务,PAIR会自动重新分配负载,而不会阻塞资源。虽然这使系统更灵活,但由于依赖闲置资源,服务质量无法保证。

PAIR需要在每个节点安装客户端,并支持LM Studio或Ollama等主流AI框架。它兼容GeForce RTX 20系列及以上、DGX Spark,以及搭载M4及以上芯片的Mac电脑,可在Windows、macOS和Linux系统上运行。

PAIR与现有AI工具集成,充当连接LM Studio或Ollama等前端的代理。这使分布式算力得以应用,同时不会干扰既定的工作流程。

常见问题

什么是Nvidia PAIR,它如何工作?
PAIR是一款将家庭网络中的GPU组合成分布式集群的工具。它通过将子任务分配到闲置算力节点来加速AI工作负载,无需依赖云服务。
PAIR支持哪些系统?
PAIR支持GeForce RTX 20系列及以上、DGX Spark,以及搭载M4及以上芯片的Mac电脑。它在Windows、macOS和Linux系统上运行。
PAIR是否适用于所有AI任务?
PAIR适用于非关键AI任务。由于依赖闲置资源,服务质量无法保证。
分享:

Dzen 订阅: /feed/dzen.xml · RSS: /feed.xml

为何可信

本文由 V-Help 编辑部根据一手来源整理,并标注发布日期。

发布: V-Help.ru 新闻编辑部

来源: Tom's Hardware