В процессе сборки ML сервера я сравнил видеокарты RTX 2060 и RTX 1060. Выбор пал на две RTX 2060, так как RTX 1060 оказалась устаревшей для задач машинного обучения. С их помощью удалось достичь значительного ускорения работы — генерация изображений в Stable Diffusion на двух картах проходила за 35-40 секунд. Материнская плата Gigabyte Z390-D обеспечила поддержку dual-GPU и аппаратного RAID 1, что позволило эффективно организовать дисковую систему из шести дисков. В результате, система включает SSD для Windows и кэша, а также HDD для хранения данных.

На программном уровне я установил Python 3.12 и необходимые библиотеки, включая PyTorch с поддержкой CUDA. После настройки системы провел тесты, которые показали отличные результаты: скорость генерации изображений и обработка в реальном времени. Локальное решение оказалось выгоднее облачных аналогов, обеспечивая полный контроль и отсутствие задержек. Всего за один день я собрал ML сервер, готовый к интеграции с автоматизированными процессами, без дополнительных затрат.