mirror of
https://github.com/QuantumPackage/qp2.git
synced 2024-08-25 13:41:47 +02:00
Introducing gpu_x86
This commit is contained in:
parent
4b578d9849
commit
7e45c517d9
1
src/gpu_x86/NEED
Normal file
1
src/gpu_x86/NEED
Normal file
@ -0,0 +1 @@
|
|||||||
|
|
5
src/gpu_x86/README.rst
Normal file
5
src/gpu_x86/README.rst
Normal file
@ -0,0 +1,5 @@
|
|||||||
|
=======
|
||||||
|
gpu_x86
|
||||||
|
=======
|
||||||
|
|
||||||
|
x86 implementation of GPU routines. For use when GPUs are not available.
|
506
src/gpu_x86/gpu.c
Normal file
506
src/gpu_x86/gpu.c
Normal file
@ -0,0 +1,506 @@
|
|||||||
|
#include <stdint.h>
|
||||||
|
#include <stdio.h>
|
||||||
|
#include <stdlib.h>
|
||||||
|
#include <string.h>
|
||||||
|
#include <assert.h>
|
||||||
|
|
||||||
|
|
||||||
|
/* Generic functions */
|
||||||
|
|
||||||
|
int gpu_ndevices() {
|
||||||
|
return 1;
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_set_device(int32_t i) {
|
||||||
|
return;
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
/* Allocation functions */
|
||||||
|
|
||||||
|
void gpu_allocate(void** ptr, const int64_t n) {
|
||||||
|
*ptr = malloc((size_t) n);
|
||||||
|
if (*ptr == NULL) {
|
||||||
|
perror("Allocation failed");
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_free(void** ptr) {
|
||||||
|
free(*ptr);
|
||||||
|
*ptr = NULL;
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
/* Memory transfer functions */
|
||||||
|
|
||||||
|
void gpu_upload(const void* cpu_ptr, void* gpu_ptr, const int64_t n) {
|
||||||
|
memcpy(gpu_ptr, cpu_ptr, n);
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_download(const void* gpu_ptr, void* cpu_ptr, const int64_t n) {
|
||||||
|
memcpy(cpu_ptr, gpu_ptr, n);
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_copy(const void* gpu_ptr_src, void* gpu_ptr_dest, const int64_t n) {
|
||||||
|
memcpy(gpu_ptr_dest, gpu_ptr_src, n);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
/* Streams */
|
||||||
|
|
||||||
|
void gpu_stream_create(void** ptr) {
|
||||||
|
*ptr = (void*) 2;
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_stream_destroy(void** ptr) {
|
||||||
|
*ptr = NULL;
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_set_stream(void* handle, void* stream) {
|
||||||
|
return;
|
||||||
|
}
|
||||||
|
|
||||||
|
void gpu_synchronize() {
|
||||||
|
return;
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
/* BLAS functions */
|
||||||
|
|
||||||
|
void gpu_blas_create(void** handle) {
|
||||||
|
*handle = (void*) 1;
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
void gpu_blas_destroy(void** handle) {
|
||||||
|
*handle = NULL;
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
double ddot_(const int32_t* n, const double* x, const int32_t* incx, const double* y, const int32_t* incy);
|
||||||
|
|
||||||
|
void gpu_ddot(const void* handle, const int64_t n, const double* x, const int64_t incx, const double* y, const int64_t incy, double* result) {
|
||||||
|
assert (handle != NULL);
|
||||||
|
|
||||||
|
/* Convert to int32_t */
|
||||||
|
int32_t n_, incx_, incy_;
|
||||||
|
|
||||||
|
n_ = (int32_t) n;
|
||||||
|
incx_ = (int32_t) incx;
|
||||||
|
incy_ = (int32_t) incy;
|
||||||
|
|
||||||
|
/* Check for integer overflows */
|
||||||
|
assert ( (int64_t) n_ == n );
|
||||||
|
assert ( (int64_t) incx_ == incx);
|
||||||
|
assert ( (int64_t) incy_ == incy);
|
||||||
|
|
||||||
|
*result = ddot_(&n_, x, &incx_, y, &incy_);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
float sdot_(const int32_t* n, const float* x, const int32_t* incx, const float* y, const int32_t* incy);
|
||||||
|
|
||||||
|
void gpu_sdot(const void* handle, const int64_t n, const float* x, const int64_t incx, const float* y, const int64_t incy, float* result) {
|
||||||
|
assert (handle != NULL);
|
||||||
|
|
||||||
|
/* Convert to int32_t */
|
||||||
|
int32_t n_, incx_, incy_;
|
||||||
|
|
||||||
|
n_ = (int32_t) n;
|
||||||
|
incx_ = (int32_t) incx;
|
||||||
|
incy_ = (int32_t) incy;
|
||||||
|
|
||||||
|
/* Check for integer overflows */
|
||||||
|
assert ( (int64_t) n_ == n );
|
||||||
|
assert ( (int64_t) incx_ == incx);
|
||||||
|
assert ( (int64_t) incy_ == incy);
|
||||||
|
|
||||||
|
*result = sdot_(&n_, x, &incx_, y, &incy_);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
void dgemv_(const char* transa, const int32_t* m, const int32_t* n, const double* alpha,
|
||||||
|
const double* a, const int32_t* lda, const double* x, const int32_t* incx, const double* beta, double* y, const int32_t* incy);
|
||||||
|
|
||||||
|
void gpu_dgemv(const void* handle, const char transa, const int64_t m, const int64_t n, const double alpha,
|
||||||
|
const double* a, const int64_t lda, const double* x, const int64_t incx, const double beta, double* y, const int64_t incy) {
|
||||||
|
|
||||||
|
assert (handle != NULL);
|
||||||
|
|
||||||
|
/* Convert to int32_t */
|
||||||
|
int32_t m_, n_, lda_, incx_, incy_;
|
||||||
|
|
||||||
|
m_ = (int32_t) m;
|
||||||
|
n_ = (int32_t) n;
|
||||||
|
lda_ = (int32_t) lda;
|
||||||
|
incx_ = (int32_t) incx;
|
||||||
|
incy_ = (int32_t) incy;
|
||||||
|
|
||||||
|
/* Check for integer overflows */
|
||||||
|
assert ( (int64_t) m_ == m );
|
||||||
|
assert ( (int64_t) n_ == n );
|
||||||
|
assert ( (int64_t) lda_ == lda );
|
||||||
|
assert ( (int64_t) incx_ == incx);
|
||||||
|
assert ( (int64_t) incy_ == incy);
|
||||||
|
|
||||||
|
dgemv_(&transa, &m_, &n_, &alpha, a, &lda_, x, &incx_, &beta, y, &incy_);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
void sgemv_(const char* transa, const int32_t* m, const int32_t* n, const float* alpha,
|
||||||
|
const float* a, const int32_t* lda, const float* x, const int32_t* incx, const float* beta, float* y, const int32_t* incy);
|
||||||
|
|
||||||
|
void gpu_sgemv(const void* handle, const char transa, const int64_t m, const int64_t n, const float alpha,
|
||||||
|
const float* a, const int64_t lda, const float* x, const int64_t incx, const float beta, float* y, const int64_t incy) {
|
||||||
|
|
||||||
|
assert (handle != NULL);
|
||||||
|
|
||||||
|
/* Convert to int32_t */
|
||||||
|
int32_t m_, n_, lda_, incx_, incy_;
|
||||||
|
|
||||||
|
m_ = (int32_t) m;
|
||||||
|
n_ = (int32_t) n;
|
||||||
|
lda_ = (int32_t) lda;
|
||||||
|
incx_ = (int32_t) incx;
|
||||||
|
incy_ = (int32_t) incy;
|
||||||
|
|
||||||
|
/* Check for integer overflows */
|
||||||
|
assert ( (int64_t) m_ == m );
|
||||||
|
assert ( (int64_t) n_ == n );
|
||||||
|
assert ( (int64_t) lda_ == lda );
|
||||||
|
assert ( (int64_t) incx_ == incx);
|
||||||
|
assert ( (int64_t) incy_ == incy);
|
||||||
|
|
||||||
|
sgemv_(&transa, &m_, &n_, &alpha, a, &lda_, x, &incx_, &beta, y, &incy_);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
void dgemm_(const char* transa, const char* transb, const int32_t* m, const int32_t* n, const int32_t* k, const double* alpha,
|
||||||
|
const double* a, const int32_t* lda, const double* b, const int32_t* ldb, const double* beta, double* c, const int32_t* ldc);
|
||||||
|
|
||||||
|
void gpu_dgemm(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const int64_t k, const double alpha,
|
||||||
|
const double* a, const int64_t lda, const double* b, const int64_t ldb, const double beta, double* c, const int64_t ldc) {
|
||||||
|
|
||||||
|
assert (handle != NULL);
|
||||||
|
|
||||||
|
/* Convert to int32_t */
|
||||||
|
int32_t m_, n_, k_, lda_, ldb_, ldc_;
|
||||||
|
|
||||||
|
m_ = (int32_t) m;
|
||||||
|
n_ = (int32_t) n;
|
||||||
|
k_ = (int32_t) k;
|
||||||
|
lda_ = (int32_t) lda;
|
||||||
|
ldb_ = (int32_t) ldb;
|
||||||
|
ldc_ = (int32_t) ldc;
|
||||||
|
|
||||||
|
/* Check for integer overflows */
|
||||||
|
assert ( (int64_t) m_ == m );
|
||||||
|
assert ( (int64_t) n_ == n );
|
||||||
|
assert ( (int64_t) k_ == k );
|
||||||
|
assert ( (int64_t) lda_ == lda);
|
||||||
|
assert ( (int64_t) ldb_ == ldb);
|
||||||
|
assert ( (int64_t) ldc_ == ldc);
|
||||||
|
|
||||||
|
dgemm_(&transa, &transb, &m_, &n_, &k_, &alpha, a, &lda_, b, &ldb_, &beta, c, &ldc_);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
|
void sgemm_(const char* transa, const char* transb, const int32_t* m, const int32_t* n, const int32_t* k, const float* alpha,
|
||||||
|
const float* a, const int32_t* lda, const float* b, const int32_t* ldb, const float* beta, float* c, const int32_t* ldc);
|
||||||
|
|
||||||
|
void gpu_sgemm(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const int64_t k, const float alpha,
|
||||||
|
const float* a, const int64_t lda, const float* b, const int64_t ldb, const float beta, float* c, const int64_t ldc) {
|
||||||
|
|
||||||
|
assert (handle != NULL);
|
||||||
|
|
||||||
|
/* Convert to int32_t */
|
||||||
|
int32_t m_, n_, k_, lda_, ldb_, ldc_;
|
||||||
|
|
||||||
|
m_ = (int32_t) m;
|
||||||
|
n_ = (int32_t) n;
|
||||||
|
k_ = (int32_t) k;
|
||||||
|
lda_ = (int32_t) lda;
|
||||||
|
ldb_ = (int32_t) ldb;
|
||||||
|
ldc_ = (int32_t) ldc;
|
||||||
|
|
||||||
|
/* Check for integer overflows */
|
||||||
|
assert ( (int64_t) m_ == m );
|
||||||
|
assert ( (int64_t) n_ == n );
|
||||||
|
assert ( (int64_t) k_ == k );
|
||||||
|
assert ( (int64_t) lda_ == lda);
|
||||||
|
assert ( (int64_t) ldb_ == ldb);
|
||||||
|
assert ( (int64_t) ldc_ == ldc);
|
||||||
|
|
||||||
|
sgemm_(&transa, &transb, &m_, &n_, &k_, &alpha, a, &lda_, b, &ldb_, &beta, c, &ldc_);
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
void gpu_dgeam(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const double alpha,
|
||||||
|
const double* a, const int64_t lda, const double beta, const double* b, const int64_t ldb, double* c, const int64_t ldc) {
|
||||||
|
if (handle == NULL) {
|
||||||
|
perror("NULL handle");
|
||||||
|
exit(-1);
|
||||||
|
}
|
||||||
|
|
||||||
|
if ( (transa == 'N' && transb == 'N') ||
|
||||||
|
(transa == 'n' && transb == 'N') ||
|
||||||
|
(transa == 'N' && transb == 'n') ||
|
||||||
|
(transa == 'n' && transb == 'n') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i] + beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if ( (transa == 'N' && transb == 'T') ||
|
||||||
|
(transa == 'n' && transb == 'T') ||
|
||||||
|
(transa == 'N' && transb == 't') ||
|
||||||
|
(transa == 'n' && transb == 't') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i] + beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if ( (transa == 'T' && transb == 'N') ||
|
||||||
|
(transa == 't' && transb == 'N') ||
|
||||||
|
(transa == 'T' && transb == 'n') ||
|
||||||
|
(transa == 't' && transb == 'n') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j] + beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if ( (transa == 'T' && transb == 'T') ||
|
||||||
|
(transa == 't' && transb == 'T') ||
|
||||||
|
(transa == 'T' && transb == 't') ||
|
||||||
|
(transa == 't' && transb == 't') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j] + beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
void gpu_sgeam(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const float alpha,
|
||||||
|
const float* a, const int64_t lda, const float beta, const float* b, const int64_t ldb, float* c, const int64_t ldc) {
|
||||||
|
if (handle == NULL) {
|
||||||
|
perror("NULL handle");
|
||||||
|
exit(-1);
|
||||||
|
}
|
||||||
|
|
||||||
|
if ( (transa == 'N' && transb == 'N') ||
|
||||||
|
(transa == 'n' && transb == 'N') ||
|
||||||
|
(transa == 'N' && transb == 'n') ||
|
||||||
|
(transa == 'n' && transb == 'n') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i] + beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if ( (transa == 'N' && transb == 'T') ||
|
||||||
|
(transa == 'n' && transb == 'T') ||
|
||||||
|
(transa == 'N' && transb == 't') ||
|
||||||
|
(transa == 'n' && transb == 't') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[j*lda+i] + beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if ( (transa == 'T' && transb == 'N') ||
|
||||||
|
(transa == 't' && transb == 'N') ||
|
||||||
|
(transa == 'T' && transb == 'n') ||
|
||||||
|
(transa == 't' && transb == 'n') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j] + beta * b[j*ldb+i];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if ( (transa == 'T' && transb == 'T') ||
|
||||||
|
(transa == 't' && transb == 'T') ||
|
||||||
|
(transa == 'T' && transb == 't') ||
|
||||||
|
(transa == 't' && transb == 't') ) {
|
||||||
|
|
||||||
|
if (alpha == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else if (beta == 0.) {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
} else {
|
||||||
|
|
||||||
|
for (int64_t j=0 ; j<n ; ++j) {
|
||||||
|
for (int64_t i=0 ; i<n ; ++i) {
|
||||||
|
c[j*ldc+i] = alpha * a[i*lda+j] + beta * b[i*ldb+j];
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
}
|
||||||
|
}
|
41
src/gpu_x86/gpu.h
Normal file
41
src/gpu_x86/gpu.h
Normal file
@ -0,0 +1,41 @@
|
|||||||
|
#include <stdint.h>
|
||||||
|
|
||||||
|
int gpu_ndevices();
|
||||||
|
void gpu_set_device(int32_t i);
|
||||||
|
|
||||||
|
void gpu_allocate(void** ptr, const int64_t n);
|
||||||
|
void gpu_free(void** ptr);
|
||||||
|
|
||||||
|
void gpu_upload(const void* cpu_ptr, void* gpu_ptr, const int64_t n);
|
||||||
|
void gpu_download(const void* gpu_ptr, void* cpu_ptr, const int64_t n);
|
||||||
|
void gpu_copy(const void* gpu_ptr_src, void* gpu_ptr_dest, const int64_t n);
|
||||||
|
|
||||||
|
void gpu_stream_create(void** ptr);
|
||||||
|
void gpu_stream_destroy(void** ptr);
|
||||||
|
void gpu_set_stream(void* handle, void* stream);
|
||||||
|
void gpu_synchronize();
|
||||||
|
|
||||||
|
void gpu_blas_create(void** handle);
|
||||||
|
void gpu_blas_destroy(void** handle);
|
||||||
|
|
||||||
|
void gpu_ddot(const void* handle, const int64_t n, const double* x, const int64_t incx, const double* y, const int64_t incy, double* result);
|
||||||
|
|
||||||
|
void gpu_sdot(const void* handle, const int64_t n, const float* x, const int64_t incx, const float* y, const int64_t incy, float* result);
|
||||||
|
|
||||||
|
void gpu_dgemv(const void* handle, const char transa, const int64_t m, const int64_t n, const double alpha,
|
||||||
|
const double* a, const int64_t lda, const double* x, const int64_t incx, const double beta, double* y, const int64_t incy);
|
||||||
|
|
||||||
|
void gpu_sgemv(const void* handle, const char transa, const int64_t m, const int64_t n, const float alpha,
|
||||||
|
const float* a, const int64_t lda, const float* x, const int64_t incx, const float beta, float* y, const int64_t incy);
|
||||||
|
|
||||||
|
void gpu_dgemm(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const int64_t k, const double alpha,
|
||||||
|
const double* a, const int64_t lda, const double* b, const int64_t ldb, const double beta, double* c, const int64_t ldc);
|
||||||
|
|
||||||
|
void gpu_sgemm(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const int64_t k, const float alpha,
|
||||||
|
const float* a, const int64_t lda, const float* b, const int64_t ldb, const float beta, float* c, const int64_t ldc);
|
||||||
|
|
||||||
|
void gpu_dgeam(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const double alpha,
|
||||||
|
const double* a, const int64_t lda, const double beta, const double* b, const int64_t ldb, double* c, const int64_t ldc);
|
||||||
|
|
||||||
|
void gpu_sgeam(const void* handle, const char transa, const char transb, const int64_t m, const int64_t n, const float alpha,
|
||||||
|
const float* a, const int64_t lda, const float beta, const float* b, const int64_t ldb, float* c, const int64_t ldc);
|
141
src/gpu_x86/gpu_module.F90
Normal file
141
src/gpu_x86/gpu_module.F90
Normal file
@ -0,0 +1,141 @@
|
|||||||
|
module gpu
|
||||||
|
use, intrinsic :: iso_c_binding, only : c_int32_t, c_int64_t, c_double, c_size_t, c_char
|
||||||
|
implicit none
|
||||||
|
|
||||||
|
interface
|
||||||
|
integer function gpu_ndevices() bind(C)
|
||||||
|
end function
|
||||||
|
|
||||||
|
subroutine gpu_set_device(id) bind(C)
|
||||||
|
import
|
||||||
|
integer(c_int32_t), value :: id
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_allocate_c(ptr, n) bind(C, name='gpu_allocate')
|
||||||
|
import
|
||||||
|
type(c_ptr) :: ptr
|
||||||
|
integer(c_int64_t), value :: n
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_free_c(ptr) bind(C, name='gpu_free')
|
||||||
|
import
|
||||||
|
type(c_ptr) :: ptr
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_upload_c(cpu_ptr, gpu_ptr, n) bind(C, name='gpu_upload')
|
||||||
|
import
|
||||||
|
type(c_ptr), value :: cpu_ptr
|
||||||
|
type(c_ptr), value :: gpu_ptr
|
||||||
|
integer(c_int64_t), value :: n
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_download_c(gpu_ptr, cpu_ptr, n) bind(C, name='gpu_download')
|
||||||
|
import
|
||||||
|
type(c_ptr), value :: gpu_ptr
|
||||||
|
type(c_ptr), value :: cpu_ptr
|
||||||
|
integer(c_int64_t), value :: n
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_copy_c(gpu_ptr_src, gpu_ptr_dest, n) bind(C, name='gpu_copy')
|
||||||
|
import
|
||||||
|
type(c_ptr), value :: gpu_ptr_src
|
||||||
|
type(c_ptr), value :: gpu_ptr_dest
|
||||||
|
integer(c_int64_t), value :: n
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_stream_create(stream) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr) :: stream
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_stream_destroy(stream) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr) :: stream
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_set_stream(handle, stream) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr) :: handle, stream
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_synchronize()
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_blas_create(handle) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr) :: handle
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_blas_destroy(handle) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr) :: handle
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_ddot(handle, n, dx, incx, dy, incy, res) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr), intent(in) :: handle
|
||||||
|
integer(c_int64_t), value :: n, incx, incy
|
||||||
|
real(c_double), intent(in) :: dx(*), dy(*)
|
||||||
|
real(c_double), intent(out) :: res
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_sdot(handle, n, dx, incx, dy, incy, res) bind(C)
|
||||||
|
import
|
||||||
|
type(c_ptr), intent(in) :: handle
|
||||||
|
integer(c_int64_t), value :: n, incx, incy
|
||||||
|
real(c_float), intent(in) :: dx(*), dy(*)
|
||||||
|
real(c_float), intent(out) :: res
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
end interface
|
||||||
|
|
||||||
|
end module
|
||||||
|
|
||||||
|
subroutine gpu_allocate_double(ptr, s)
|
||||||
|
use gpu
|
||||||
|
implicit none
|
||||||
|
double precision, pointer, intent(inout) :: ptr
|
||||||
|
integer*8, intent(in) :: s(*)
|
||||||
|
type(c_ptr) :: cptr
|
||||||
|
|
||||||
|
call gpu_allocate_c(cptr, sum(s)*8_8)
|
||||||
|
call c_f_pointer(cptr, ptr, s)
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_free_double(ptr)
|
||||||
|
use gpu
|
||||||
|
implicit none
|
||||||
|
double precision, pointer, intent(inout) :: ptr
|
||||||
|
type(c_ptr) :: cptr
|
||||||
|
cptr = cloc(ptr)
|
||||||
|
call gpu_free(cptr)
|
||||||
|
NULLIFY(ptr)
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_upload_double(cpu_ptr, gpu_ptr, n)
|
||||||
|
use gpu
|
||||||
|
implicit none
|
||||||
|
double precision, intent(in) :: cpu_ptr(*)
|
||||||
|
double precision, intent(out) :: gpu_ptr(*)
|
||||||
|
integer(c_int64_t), intent(in) :: n
|
||||||
|
call gpu_upload_c(cpu_ptr, gpu_ptr, 8_8*n)
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_download_double(gpu_ptr, cpu_ptr, n)
|
||||||
|
use gpu
|
||||||
|
implicit none
|
||||||
|
double precision, intent(in) :: gpu_ptr(*)
|
||||||
|
double precision, intent(out) :: cpu_ptr(*)
|
||||||
|
integer(c_int64_t), intent(in) :: n
|
||||||
|
call gpu_download_c(gpu_ptr, cpu_ptr, 8_8*n)
|
||||||
|
end subroutine
|
||||||
|
|
||||||
|
subroutine gpu_copy_double(gpu_ptr_src, gpu_ptr_dest, n)
|
||||||
|
use gpu
|
||||||
|
implicit none
|
||||||
|
double precision, intent(in) :: gpu_ptr_src(*)
|
||||||
|
double precision, intent(out) :: gpu_ptr_dest(*)
|
||||||
|
integer(c_int64_t), intent(in) :: n
|
||||||
|
call gpu_copy_c(gpu_ptr_src, gpu_ptr_dest, 8_8*n)
|
||||||
|
end subroutine
|
||||||
|
|
Loading…
Reference in New Issue
Block a user