Вопрос:

Почему графические процессоры играют большую роль, чем CPUS, когда дело доходит до глубокого обучения?

machine-learning tensorflow gpu deep-learning cpu

48 просмотра

1 ответ

51 Репутация автора

Почти в большинстве случаев я сталкиваюсь с графическими процессорами, имея дело с любой частью исполнения в Deep Learning.

Автор: S. P Источник Размещён: 04.03.2017 03:08

Ответы (1)


2 плюса

1485 Репутация автора

Решение

Это связано с архитектурой графического процессора в сравнении с процессором. Оказывается, игры требуют большого умножения матриц, поэтому архитектура GPU была оптимизирована для этих типов операций, в частности, они оптимизированы для высокоскоростной арифметики с плавающей точкой. Подробнее об этом здесь

Так получилось, что нейронные сети в основном являются матричными умножениями.

Например:

простая нейронная сеть с 1 скрытым слоем

Это математическая формулировка простой нейронной сети с одним скрытым слоем. W_h - это матрица весов, которая умножает ваш ввод x, к которому мы добавляем смещение b_h. Линейное уравнение W_hx + b_h может быть сжато для умножения одной матрицы. Сигма - это нелинейная активация, подобная сигмоидальной. Внешняя сигмоидная матрица снова является умножением матрицы. Следовательно, графические процессоры

Автор: vega Размещён: 04.03.2017 03:42
Вопросы из категории :
32x32