NVIDIA анонсировала новое программное обеспечение PAIR, которое позволяет объединять компьютеры в домашней сети в единый кластер для выполнения задач искусственного интеллекта. Система автоматически распределяет запросы между доступными устройствами, выбирая наименее загруженный компьютер. Это решение призвано эффективнее использовать ресурсы игровых ПК, ноутбуков и других устройств, которые большую часть времени простаивают.
Как работает PAIR
Принцип работы PAIR основан на динамическом распределении отдельных запросов между компьютерами в сети. Например, если на основном ПК запущена игра или ресурсоёмкая программа, PAIR может перенаправить ИИ-задачу на другой свободный компьютер. Важно отметить, что PAIR не объединяет видеопамять и не разделяет одну модель между несколькими видеокартами — вместо этого он распределяет независимые запросы между устройствами.
В демонстрации NVIDIA кластер из двух видеокарт RTX 5090 выполнил многозадачный ИИ-сценарий за 3 минуты 48 секунд, тогда как одна RTX 5090 справилась с той же задачей за 6 минут 18 секунд. Это показывает потенциальный прирост производительности при использовании нескольких устройств.
PAIR поддерживает операционные системы Windows, Linux и macOS, а также работает с популярными инструментами для запуска ИИ-моделей, такими как Ollama и LM Studio. При этом ПО не ограничивается только видеокартами NVIDIA — оно может задействовать и другие GPU.
Программное обеспечение уже доступно в бета-версии с открытым исходным кодом. Это означает, что владельцы нескольких ПК могут опробовать технологию и превратить свои устройства в локальный ИИ-кластер без необходимости приобретать дополнительное оборудование. Решение NVIDIA открывает новые возможности для энтузиастов и профессионалов, желающих использовать вычислительные ресурсы своих домашних машин для задач искусственного интеллекта.

Комментарии
Оставляйте комментарии, отвечайте другим пользователям, ставьте плюсы и минусы и добавляйте быстрые реакции.
Войдите в аккаунт, чтобы оставлять комментарии, отвечать другим пользователям и ставить реакции.