Nvidia PAIR: как объединить GPU в домашней сети для распределённых AI-задач

Компания Nvidia представила утилиту Personal AI Router (PAIR), которая позволяет объединить графические процессоры в домашней сети в распределённый кластер для выполнения AI-задач. Инструмент предназначен для пользователей, заинтересованных в локальном выполнении AI без зависимости от облачных сервисов.

PAIR распределяет подзадачи между узлами сети, используя простаивающие вычислительные мощности. Это позволяет ускорить выполнение задач, так как каждый узел получает отдельную задачу, что снижает конкуренцию за ресурсы по сравнению с выполнением всех подзадач на одном GPU.

Утилита поддерживает динамическое распределение нагрузки: если владелец узла начинает использовать GPU для других задач, PAIR автоматически перераспределяет нагрузку, не блокируя ресурсы. Это делает систему эластичной, но качество обслуживания не гарантируется, так как зависит от доступности простаивающих мощностей.

Для работы PAIR требуется установка на каждом узле клиентской части, а также наличие популярных AI-фреймворков, таких как LM Studio или Ollama. Утилита поддерживает GeForce RTX 20-й серии и новее, DGX Spark, а также Mac с процессорами M4 и выше. Поддержка распространяется на Windows, macOS и Linux.

PAIR интегрируется с существующими AI-инструментами, создавая прокси для подключения к фронтендам, таким как LM Studio или Ollama. Это позволяет использовать распределённые вычислительные мощности без изменения привычного рабочего процесса.