Машинное обучение на ПК – руководство по выбору оптимальных комплектующих

Машинное обучение (Machine Learning) – вполне возможно, что это самое модное слово 21-го века, которое способно привести нас в футуристический мир, о котором мы все мечтаем.

Развившись из рудиментарных систем распознавания образов, машинное обучение позволяет компьютерам учиться так же, как человек, посредством повторных итераций.

Изучая, развивая, терпя неудачи и повторяя процесс снова и снова под чутким руководством программистов, машинное обучение может научиться выполнять процессы, которые раньше могли выполнять только люди.

Независимо от того, разрабатываете ли вы рекомендательные системы, чтобы выяснить, какая обжарка кофе может понравиться вашим клиентам, или создаете революционные алгоритмы, которые могли бы однажды привести в действие беспилотные автомобили, вам нужен хорошо спроектированный ПК, способный справиться с этой задачей.

Однако, для этого нам нужно сначала прояснить некоторые вещи.

Для разных проектов машинного обучения может потребоваться разное оборудование, и мы не можем перечислить все потенциальные проекты машинного обучения, которые вы, возможно, захотите реализовать.

Таким образом, это руководство будет охватывать основы того, что необходимо для отличной рабочей станции машинного обучения. Но мы также рассмотрим основы того, как разные машинные библиотеки могут по-разному использовать аппаратное обеспечение, и обсудим, как разные методы машинного обучения (контролируемые и неконтролируемые) могут повлиять на сборку ПК.

Итак, разобравшись с этим, давайте приступим.

Понимание библиотек машинного обучения и вариантов использования

Библиотеки машинного обучения

Машинное обучение использовалось для улучшения нашей жизни многими способами.

Распознавание изображений (Face ID), распознавание речи (Google), рекомендательные системы (YouTube, Netflix, TikTok), обнаружение мошенничества (спам-фильтры), виртуальные помощники (Алиса), автоматический языковой перевод, медицинская диагностика и многое другое зависит от его работы.

И все эти системы широко используют вещи, называемые библиотеками машинного обучения.

Различные библиотеки машинного обучения, такие как PyTorch, Keras, Scikit-Learn, OpenCV, NumPy и т.д., имеют разные цели и варианты использования, поэтому требования к оборудованию для каждой библиотеки отличаются друг от друга.

• PyTorch, например, посвящен компьютерному зрению и обработке естественного языка.
• Такие библиотеки, как Keras и Tensorflow, фокусируются на искусственных и глубоких нейронных сетях.
• Scikit-Learn фокусируется на прогнозном анализе данных, а OpenCV используется для приложений компьютерного зрения в реальном времени и так далее.

Из-за разных вариантов использования всех этих библиотек довольно сложно выбрать компоненты ПК, но одним из наиболее важных компонентов, когда речь идёт о рабочих нагрузках машинного обучения, независимо от того, что вы делаете, является графическая карта (GPU).

Большинство библиотек машинного обучения отдают предпочтение параллельным вычислениям (выполнение множества операций одновременно) возможностями графического процессора, а не тензорным операциям на центральных процессорах (ЦП).

Некоторые библиотеки машинного обучения, такие как OpenCV, могут использовать возможности CUDA графических процессоров Nvidia для выполнения определенных операций со скоростью, в 12-30 раз превышающей скорость ЦП.

Однако это не означает, что всё, что вам нужно, это хороший графический процессор.

Хорошие ЦП невероятно важны и для некоторых библиотек машинного обучения, но, как мы видим, когда дело доходит до машинного обучения, GPU является королем – точнее, тензорные процессоры (TPU) являются королем, но мы доберемся до этого.

Варианты использования машинного обучения

В машинном обучении используются два основных метода, которые называются обучением с учителем и обучением без учителя.

При обучении с учителем алгоритм обучается с использованием данных, которые хорошо помечены и описаны людьми, чтобы помочь алгоритму учиться.

Подумайте об обучении ИИ выявлению ключевых моментов в большом наборе счетов-фактур. Сначала вы должны помочь ИИ выяснить, где находятся все важные поля. Затем он использует эту информацию для прогнозирования и самостоятельного определения того, где могут находиться все важные поля в будущих счетах-фактурах.

На противоположном конце спектра неконтролируемое обучение, которое позволяет алгоритму обнаруживать характеристики данных и шаблоны самостоятельно.

Подумайте о 3D-программе, в которой создаются человеческие персонажи. У этих персонажей нет какой-либо врожденной логики передвижения, но они могут сокращать и расслаблять мышцы, как это может делать настоящий человек. Затем вы создаете ИИ, цель которого – сделать так, чтобы человеческие персонажи шли из точки А в точку Б, используя свои мышцы.

Вы запускаете симуляцию и видите, как ваши творения сначала падают лицом вниз, и вообще ничего не делают. Но, в конце концов, после того, как пройдёт достаточное количество поколений и полезных мутаций, ваши персонажи смогут медленно ходить самостоятельно. Научившись этому методом проб и ошибок.

Теперь, когда дело доходит до вычислительных требований двух методов, между ними нет никаких существенных различий.

Однако, некоторые проекты машинного обучения, требующие методов глубокого обучения (обучение без учителя), работы с изображениями и видео (с учителем или без учителя) и т.д., повышают требования к обработке из-за большего количества требуемых матричных вычислений.

Итак, давайте посмотрим, что нам нужно для работы с чем угодно, от небольших рекомендательных систем до больших сверточных сетей.

Лучшее аппаратное обеспечение ПК для машинного обучения

Теперь мы перейдём к тому, ради чего вы здесь. Сборка ПК для машинного обучения.

Отказ от ответственности: мы сосредоточены на общих задачах машинного обучения начального уровня для людей, начинающих работать в этой области. Если вы представляете организацию или хотите приобрести оборудование стоимостью выше 500 тысяч рублей, мы рекомендуем вам найти партнёра в этой области, который уже успешно развернул и использует такое оборудование профессионального уровня.

Мы опишем выбор оборудования по бюджету, стоимости и производительности для всех компонентов, чтобы вы могли создать ПК независимо от вашего бюджета.

Лучший процессор для машинного обучения

Несмотря на то, что производительность процессора может быть не так важна для машинного обучения, как производительность графического процессора, некоторые библиотеки по-прежнему работают лучше или работают только на центральных процессорах.

Из-за этого, а также из-за того, что мы не хотим создавать узкие места в нашем ПК, мы должны убедиться, что выбрали хороший процессор, который будет работать с остальной частью системы.

Есть также тот факт, что некоторые модели машинного обучения, работающие с такими вещами, как данные временных рядов, значительно выигрывают от наличия хорошего процессора.

Лучшие графические процессоры для машинного обучения

Из-за интенсивного характера этапа обучения использование графического процессора имеет решающее значение для более быстрого обучения за счёт одновременного выполнения всех операций, а не последовательно.

В зависимости от используемой библиотеки – CUDA или OpenCL – эффективность графического процессора может отличаться. Графические карты Nvidia обычно являются лучшим выбором для библиотек машинного обучения с поддержкой CUDA, а карты AMD лучше подходят для библиотек, поддерживающих OpenCL или не поддерживающих CUDA.

Поскольку большинство библиотек, таких как PyTorch, Tensorflow, OpenCV и Keras, предпочитают Nvidia гораздо больше, чем AMD, мы будем рассматривать только предложения Nvidia.

Учитывая все обстоятельства, я бы порекомендовал вам сэкономить и купить RTX 3060. Конечно, если вы используете её для собственной рабочей станции / ПК.

Лучшая оперативная память для машинного обучения

Алгоритмы машинного обучения выполняют множество процессов одновременно, и эти операции в значительной степени зависят от центрального процессора и видеокарты, поэтому большинство людей думают о них, когда речь идёт о важных компонентах.

Но, хорошая оперативная память также имеет решающее значение. Кэширование RAM, например, очень важно для всего процесса. Это ограничивает потери данных и ускоряет итерации между алгоритмом и данными.

Объём оперативной памяти также имеет значение. Если у вас ограниченный бюджет, обычно достаточно 16 ГБ ОЗУ. Тем не менее, я бы порекомендовал 32 ГБ или выше, так как в наши дни довольно легко проглотить 16 ГБ ОЗУ, а разница в цене не так уж велика.

Лучшее хранилище для машинного обучения

Обработка данных является неотъемлемой частью процесса машинного обучения.

Во время обучения некоторые из ваших наборов данных будут находиться на жестком диске, и к ним потребуется доступ. Достаточно быстрый и достаточно большой справиться с любыми объёмами.

Типы файлов, используемые в наборах данных, также имеют значение.

Для небольших битовых данных будет достаточно диска HDD. Однако, для больших 32-разрядных наборов данных потребуется накопитель SSD/NVMe, поскольку скорость механического диска будет слишком низкой, чтобы успевать за выводом данных.

Учитывая, насколько «дешёвыми» стали твердотельные накопители за эти годы, если вам нужно объёмное хранилище с достаточно разумными скоростями, твердотельный накопитель – очевидный вариант.

Диски NVMe тоже хороши – они лучше твердотельных накопителей во всех отношениях, кроме цены, – но преимущества, которые они предлагают, не являются абсолютно необходимыми для наших задач, поэтому, если вы не хотите лучшего из лучших, твердотельные накопители SATA, как правило, достаточно хороши.

Хотя в наши дни NVM лишь незначительно дороже, чем SSD, поэтому я рекомендую проверить оба, чтобы увидеть, какой из них лучше соответствует вашему бюджету.

Если разница между диском NVMe на 1 ТБ и твердотельным накопителем на 1 ТБ составляет пару тысяч рублей, просто возьмите диск NVMe.

Я бы также рекомендовал приобрести как минимум два диска и использовать один в качестве резервного. Мы не беспокоимся о потере данных, пока это не произойдет, и, поверьте мне, лучше быть готовым, чем столкнуться с кризисом в 3 часа ночи.

Если у вас действительно ограниченный бюджет, дополнительные диски не являются абсолютно необходимыми. Возможно, вы могли бы использовать облачное хранилище в качестве места для резервной копии. Но, при более высоком бюджете хорошо иметь от двух до четырех дисков SSD/NVMe.

Лучшая материнская плата для машинного обучения

Выбрать материнскую плату отдельно от других компонентов сложно, поэтому мы не рекомендуем выбирать материнскую плату первой.

Сначала определите, какой процессор вам нужен, а затем выбирайте материнскую плату для него.

Но, всё же есть определенные аспекты, на которые следует обратить внимание независимо от типа процессора, с которым вы работаете. Такие вещи, как слоты PCIe, слоты RAM и возможности ввода-вывода.

Лучшие блоки питания для машинного обучения

Блок питания довольно легко выбрать по сравнению с остальной частью ПК.

Просто рассчитайте общие требования к мощности вашего ПК, а затем выберите – как минимум – блок питания 80+ gold, который может обеспечить мощность на 100-250 Вт больше, чем общая потребность вашего ПК, чтобы гарантировать, что любые скачки мощности не выключат ПК.

Также не забудьте приобрести полностью модульный блок питания. Полумодульный или немодульный блок питания может быть немного дешевле, но с ним сложно работать. Так что потратьте немного больше и получите хороший модульный блок питания.

Блок питания часто переходит из сборки в сборку, поэтому что-то качественно сделанное прослужит вам годы.

Лучший корпус сборки для машинного обучения

Корпус не сильно повлияют на производительность. И любой корпус с приличным потоком воздуха будет работать нормально. Так что здесь многое зависит от ваших предпочтений.

Просто убедитесь, что в нём достаточно места для всего, что вы хотите в него положить, и что он имеет хорошую вентиляцию.

Сборка для машинного обучения – что в итоге

Надеюсь, это дало вам хорошее представление о том, что нужно учитывать при выборе компонентов ПК для целей машинного обучения.

Учитывая, сколько различных переменных необходимо иметь ввиду, непросто сказать, что нужно просто получить то или иное. Нужно разобраться, что для вас/вашей работы важнее всего.

Вам будет намного легче, когда вы знаете специфику того, что ищете, в отличие от ПК для всего – машинное обучение немного шире.