Особенности использования GPU для параллельной обработки данных

Аннотация

Уже в нулевые было понятно, что закон Мура не будет работать вечно из-за фундаментальных физических ограничений. В то же время обсчитываемые модели становились все сложнее и появлялись новые ресурсоемкие задачи. Это обусловило появления разного рода аппаратный ускорителей вычислений. В виду относительно недавнего появления аппаратных ускорителей как класса и всплеска их популярности, работа с ними редко изучается в университетах, даже на профильных специальностях. Как следствие, базовое GPGPU обросло набором заблуждений и предрассудков. Автор разбирает аспекты программирования на наиболее распространенном аппаратном ускорителе среди простых пользователей – GPU. В статье приводятся основные архитектурные отличия CPU от GPU. Автор описывает возможные фреймворки и языки для GPGPU, отдавая предпочтение связки из CuPy (Python) и Google Colab в виду их доступности и удобства использования. Тем самым показывается, что порог входа для использования графического ускорителя для ускорения вычислений может быть весьма низким. Автор парирует распространенные заблуждения об недостатках использования GPU, такие как такие как пересылка данных из оперативной в видеопамять и обратно, узкая область применения такого класса устройств, относительно небольшой объем видеопамяти. Вместе с тем, в статье отмечается, что простой перенос вычислений с CPU на GPU без учета их особенностей архитектур может не дать желаемого результата. Приводится наглядный пример ситуации, в которой CPU справляется с вычислениями быстрее. Таким образом, решение нестандартной задачи может потребовать отдельного исследования оптимального для нее аппаратного комплекса.