CUDA to opracowana przez firmę NVIDIA równoległa architektura obliczeniowa, która zapewnia radykalny wzrost wydajności obliczeń, dzięki wykorzystaniu mocy układów GPU (graphics processing unit - jednostka przetwarzania graficznego).
Aby zrozumieć różnicę pomiędzy układem CPU i GPU należy porównać ich sposoby przetwarzania zadań. Jednostka CPU składa się z kilku rdzeni zoptymalizowanych pod kątem sekwencyjnego przetwarzania szeregowego, natomiast równoległa architektura jednostki GPU składa się z tysięcy mniejszych, bardziej efektywnych rdzeni zaprojektowanych z myślą o przetwarzaniu wielu zadań jednocześnie.(za nVidia).