/oshmem/op/op.c

https://github.com/open-mpi/ompi · C · 510 lines · 405 code · 42 blank · 63 comment · 9 complexity · 689d1c5c1c0bd2719ceeb4ccfa389908 MD5 · raw file 

    

  1. /*
    2. 

  2.  * Copyright (c) 2013      Mellanox Technologies, Inc.
    3. 

  3.  *                         All rights reserved.
    4. 

  4.  * Copyright (c) 2013      Cisco Systems, Inc.  All rights reserved.
    5. 

  5.  * Copyright (c) 2015-2019 Research Organization for Information Science
    6. 

  6.  *                         and Technology (RIST).  All rights reserved.
    7. 

  7.  * $COPYRIGHT$
    8. 

  8.  *
    9. 

  9.  * Additional copyrights may follow
    10. 

  10.  *
    11. 

  11.  * $HEADER$
    12. 

  12.  */
    13. 

  13. 

  14. #include "oshmem_config.h"
    15. 

  15. #include <complex.h>
    16. 

  16. 

  17. #include "opal/datatype/opal_datatype.h"
    18. 

  18. #include "opal/datatype/opal_datatype_internal.h"
    19. 

  19. #include "opal/class/opal_pointer_array.h"
    20. 

  20. 

  21. #include "oshmem/constants.h"
    22. 

  22. #include "oshmem/op/op.h"
    23. 

  23. 

  24. /*
    25. 

  25.  * Table for op handle conversion
    26. 

  26.  */
    27. 

  27. opal_pointer_array_t oshmem_op_array = {{0}};
    28. 

  28. 

  29. /*
    30. 

  30.  * Class information
    31. 

  31.  */
    32. 

  32. static void oshmem_op_construct(oshmem_op_t *object);
    33. 

  33. static void oshmem_op_destruct(oshmem_op_t *object);
    34. 

  34. 

  35. /*
    36. 

  36.  * Class instance
    37. 

  37.  */
    38. 

  38. OBJ_CLASS_INSTANCE(oshmem_op_t,
    39. 

  39.                    opal_object_t,
    40. 

  40.                    oshmem_op_construct,
    41. 

  41.                    oshmem_op_destruct);
    42. 

  42. 

  43. /*
    44. 

  44.  * Intrinsic Operation objects
    45. 

  45.  */
    46. 

  46. /* Bitwise AND */
    47. 

  47. oshmem_op_t* oshmem_op_and_short = NULL;
    48. 

  48. oshmem_op_t* oshmem_op_and_int = NULL;
    49. 

  49. oshmem_op_t* oshmem_op_and_long = NULL;
    50. 

  50. oshmem_op_t* oshmem_op_and_longlong = NULL;
    51. 

  51. oshmem_op_t* oshmem_op_and_fint2 = NULL;
    52. 

  52. oshmem_op_t* oshmem_op_and_fint4 = NULL;
    53. 

  53. oshmem_op_t* oshmem_op_and_fint8 = NULL;
    54. 

  54. oshmem_op_t* oshmem_op_and_int16 = NULL;
    55. 

  55. oshmem_op_t* oshmem_op_and_int32 = NULL;
    56. 

  56. oshmem_op_t* oshmem_op_and_int64 = NULL;
    57. 

  57. 

  58. /* Bitwise OR */
    59. 

  59. oshmem_op_t* oshmem_op_or_short = NULL;
    60. 

  60. oshmem_op_t* oshmem_op_or_int = NULL;
    61. 

  61. oshmem_op_t* oshmem_op_or_long = NULL;
    62. 

  62. oshmem_op_t* oshmem_op_or_longlong = NULL;
    63. 

  63. oshmem_op_t* oshmem_op_or_fint2 = NULL;
    64. 

  64. oshmem_op_t* oshmem_op_or_fint4 = NULL;
    65. 

  65. oshmem_op_t* oshmem_op_or_fint8 = NULL;
    66. 

  66. oshmem_op_t* oshmem_op_or_int16 = NULL;
    67. 

  67. oshmem_op_t* oshmem_op_or_int32 = NULL;
    68. 

  68. oshmem_op_t* oshmem_op_or_int64 = NULL;
    69. 

  69. 

  70. /* Bitwise XOR */
    71. 

  71. oshmem_op_t* oshmem_op_xor_short = NULL;
    72. 

  72. oshmem_op_t* oshmem_op_xor_int = NULL;
    73. 

  73. oshmem_op_t* oshmem_op_xor_long = NULL;
    74. 

  74. oshmem_op_t* oshmem_op_xor_longlong = NULL;
    75. 

  75. oshmem_op_t* oshmem_op_xor_fint2 = NULL;
    76. 

  76. oshmem_op_t* oshmem_op_xor_fint4 = NULL;
    77. 

  77. oshmem_op_t* oshmem_op_xor_fint8 = NULL;
    78. 

  78. oshmem_op_t* oshmem_op_xor_int16 = NULL;
    79. 

  79. oshmem_op_t* oshmem_op_xor_int32 = NULL;
    80. 

  80. oshmem_op_t* oshmem_op_xor_int64 = NULL;
    81. 

  81. 

  82. /* MAX */
    83. 

  83. oshmem_op_t* oshmem_op_max_short = NULL;
    84. 

  84. oshmem_op_t* oshmem_op_max_int = NULL;
    85. 

  85. oshmem_op_t* oshmem_op_max_long = NULL;
    86. 

  86. oshmem_op_t* oshmem_op_max_longlong = NULL;
    87. 

  87. oshmem_op_t* oshmem_op_max_float = NULL;
    88. 

  88. oshmem_op_t* oshmem_op_max_double = NULL;
    89. 

  89. oshmem_op_t* oshmem_op_max_longdouble = NULL;
    90. 

  90. oshmem_op_t* oshmem_op_max_fint2 = NULL;
    91. 

  91. oshmem_op_t* oshmem_op_max_fint4 = NULL;
    92. 

  92. oshmem_op_t* oshmem_op_max_fint8 = NULL;
    93. 

  93. oshmem_op_t* oshmem_op_max_freal4 = NULL;
    94. 

  94. oshmem_op_t* oshmem_op_max_freal8 = NULL;
    95. 

  95. oshmem_op_t* oshmem_op_max_freal16 = NULL;
    96. 

  96. oshmem_op_t* oshmem_op_max_int16 = NULL;
    97. 

  97. oshmem_op_t* oshmem_op_max_int32 = NULL;
    98. 

  98. oshmem_op_t* oshmem_op_max_int64 = NULL;
    99. 

  99. 

  100. /* MIN */
    101. 

  101. oshmem_op_t* oshmem_op_min_short = NULL;
    102. 

  102. oshmem_op_t* oshmem_op_min_int = NULL;
    103. 

  103. oshmem_op_t* oshmem_op_min_long = NULL;
    104. 

  104. oshmem_op_t* oshmem_op_min_longlong = NULL;
    105. 

  105. oshmem_op_t* oshmem_op_min_float = NULL;
    106. 

  106. oshmem_op_t* oshmem_op_min_double = NULL;
    107. 

  107. oshmem_op_t* oshmem_op_min_longdouble = NULL;
    108. 

  108. oshmem_op_t* oshmem_op_min_fint2 = NULL;
    109. 

  109. oshmem_op_t* oshmem_op_min_fint4 = NULL;
    110. 

  110. oshmem_op_t* oshmem_op_min_fint8 = NULL;
    111. 

  111. oshmem_op_t* oshmem_op_min_freal4 = NULL;
    112. 

  112. oshmem_op_t* oshmem_op_min_freal8 = NULL;
    113. 

  113. oshmem_op_t* oshmem_op_min_freal16 = NULL;
    114. 

  114. oshmem_op_t* oshmem_op_min_int16 = NULL;
    115. 

  115. oshmem_op_t* oshmem_op_min_int32 = NULL;
    116. 

  116. oshmem_op_t* oshmem_op_min_int64 = NULL;
    117. 

  117. 

  118. /* SUM */
    119. 

  119. oshmem_op_t* oshmem_op_sum_short = NULL;
    120. 

  120. oshmem_op_t* oshmem_op_sum_int = NULL;
    121. 

  121. oshmem_op_t* oshmem_op_sum_long = NULL;
    122. 

  122. oshmem_op_t* oshmem_op_sum_longlong = NULL;
    123. 

  123. oshmem_op_t* oshmem_op_sum_float = NULL;
    124. 

  124. oshmem_op_t* oshmem_op_sum_double = NULL;
    125. 

  125. oshmem_op_t* oshmem_op_sum_longdouble = NULL;
    126. 

  126. oshmem_op_t* oshmem_op_sum_complexf = NULL;
    127. 

  127. oshmem_op_t* oshmem_op_sum_complexd = NULL;
    128. 

  128. oshmem_op_t* oshmem_op_sum_fint2 = NULL;
    129. 

  129. oshmem_op_t* oshmem_op_sum_fint4 = NULL;
    130. 

  130. oshmem_op_t* oshmem_op_sum_fint8 = NULL;
    131. 

  131. oshmem_op_t* oshmem_op_sum_freal4 = NULL;
    132. 

  132. oshmem_op_t* oshmem_op_sum_freal8 = NULL;
    133. 

  133. oshmem_op_t* oshmem_op_sum_freal16 = NULL;
    134. 

  134. oshmem_op_t* oshmem_op_sum_int16 = NULL;
    135. 

  135. oshmem_op_t* oshmem_op_sum_int32 = NULL;
    136. 

  136. oshmem_op_t* oshmem_op_sum_int64 = NULL;
    137. 

  137. 

  138. /* PROD */
    139. 

  139. oshmem_op_t* oshmem_op_prod_short = NULL;
    140. 

  140. oshmem_op_t* oshmem_op_prod_int = NULL;
    141. 

  141. oshmem_op_t* oshmem_op_prod_long = NULL;
    142. 

  142. oshmem_op_t* oshmem_op_prod_longlong = NULL;
    143. 

  143. oshmem_op_t* oshmem_op_prod_float = NULL;
    144. 

  144. oshmem_op_t* oshmem_op_prod_double = NULL;
    145. 

  145. oshmem_op_t* oshmem_op_prod_longdouble = NULL;
    146. 

  146. oshmem_op_t* oshmem_op_prod_complexf = NULL;
    147. 

  147. oshmem_op_t* oshmem_op_prod_complexd = NULL;
    148. 

  148. oshmem_op_t* oshmem_op_prod_fint2 = NULL;
    149. 

  149. oshmem_op_t* oshmem_op_prod_fint4 = NULL;
    150. 

  150. oshmem_op_t* oshmem_op_prod_fint8 = NULL;
    151. 

  151. oshmem_op_t* oshmem_op_prod_freal4 = NULL;
    152. 

  152. oshmem_op_t* oshmem_op_prod_freal8 = NULL;
    153. 

  153. oshmem_op_t* oshmem_op_prod_freal16 = NULL;
    154. 

  154. oshmem_op_t* oshmem_op_prod_int16 = NULL;
    155. 

  155. oshmem_op_t* oshmem_op_prod_int32 = NULL;
    156. 

  156. oshmem_op_t* oshmem_op_prod_int64 = NULL;
    157. 

  157. 

  158. /* SWAP */
    159. 

  159. oshmem_op_t* oshmem_op_swap_int = NULL;
    160. 

  160. oshmem_op_t* oshmem_op_swap_long = NULL;
    161. 

  161. oshmem_op_t* oshmem_op_swap_longlong = NULL;
    162. 

  162. oshmem_op_t* oshmem_op_swap_int32 = NULL;
    163. 

  163. oshmem_op_t* oshmem_op_swap_int64 = NULL;
    164. 

  164. 

  165. #define FUNC_OP_CREATE(name, type_name, type, calc)  \
    166. 

  166.     void oshmem_op_##name##_##type_name##_func(void *in, void *out, int count); \
    167. 

  167.     void oshmem_op_##name##_##type_name##_func(void *in, void *out, int count) \
    168. 

  168.     {                                                                       \
    169. 

  169.         int i;                                                              \
    170. 

  170.         type *a = (type *) in;                                              \
    171. 

  171.         type *b = (type *) out;                                             \
    172. 

  172.         for (i = 0; i < count; ++i) {                                       \
    173. 

  173.             *(b) = calc(*(b), *(a));                                        \
    174. 

  174.             ++b;                                                            \
    175. 

  175.             ++a;                                                            \
    176. 

  176.         }                                                                   \
    177. 

  177.     }
    178. 

  178. 

  179. #define OBJ_OP_CREATE(name, type_name, type, op_id, dt_id)  \
    180. 

  180.     oshmem_op_##name##_##type_name = OBJ_NEW(oshmem_op_t);                                      \
    181. 

  181.     if (oshmem_op_##name##_##type_name)                                                         \
    182. 

  182.     {                                                                                           \
    183. 

  183.         oshmem_op_##name##_##type_name->op = op_id;                                             \
    184. 

  184.         oshmem_op_##name##_##type_name->dt = dt_id;                                             \
    185. 

  185.         oshmem_op_##name##_##type_name->dt_size = sizeof(type);                                 \
    186. 

  186.         oshmem_op_##name##_##type_name->o_func.c_fn = oshmem_op_##name##_##type_name##_func;    \
    187. 

  187.     }                                                                                           \
    188. 

  188. 

  189. /* Bitwise AND */
    190. 

  190. #define __and_op(a, b) ((a) & (b))
    191. 

  191. FUNC_OP_CREATE(and, short, short, __and_op)
    192. 

  192. FUNC_OP_CREATE(and, int, int, __and_op)
    193. 

  193. FUNC_OP_CREATE(and, long, long, __and_op)
    194. 

  194. FUNC_OP_CREATE(and, longlong, long long, __and_op)
    195. 

  195. FUNC_OP_CREATE(and, fint2, ompi_fortran_integer4_t, __and_op)
    196. 

  196. FUNC_OP_CREATE(and, fint4, ompi_fortran_integer4_t, __and_op)
    197. 

  197. FUNC_OP_CREATE(and, fint8, ompi_fortran_integer8_t, __and_op)
    198. 

  198. FUNC_OP_CREATE(and, int16, int16_t, __and_op)
    199. 

  199. FUNC_OP_CREATE(and, int32, int32_t, __and_op)
    200. 

  200. FUNC_OP_CREATE(and, int64, int64_t, __and_op)
    201. 

  201. 

  202. /* Bitwise OR */
    203. 

  203. #define __or_op(a, b) ((a) | (b))
    204. 

  204. FUNC_OP_CREATE(or, short, short, __or_op)
    205. 

  205. FUNC_OP_CREATE(or, int, int, __or_op)
    206. 

  206. FUNC_OP_CREATE(or, long, long, __or_op)
    207. 

  207. FUNC_OP_CREATE(or, longlong, long long, __or_op)
    208. 

  208. FUNC_OP_CREATE(or, fint2, ompi_fortran_integer2_t, __or_op)
    209. 

  209. FUNC_OP_CREATE(or, fint4, ompi_fortran_integer4_t, __or_op)
    210. 

  210. FUNC_OP_CREATE(or, fint8, ompi_fortran_integer8_t, __or_op)
    211. 

  211. FUNC_OP_CREATE(or, int16, int16_t, __or_op)
    212. 

  212. FUNC_OP_CREATE(or, int32, int32_t, __or_op)
    213. 

  213. FUNC_OP_CREATE(or, int64, int64_t, __or_op)
    214. 

  214. 

  215. /* Bitwise XOR */
    216. 

  216. #define __xor_op(a, b) ((a) ^ (b))
    217. 

  217. FUNC_OP_CREATE(xor, short, short, __xor_op)
    218. 

  218. FUNC_OP_CREATE(xor, int, int, __xor_op)
    219. 

  219. FUNC_OP_CREATE(xor, long, long, __xor_op)
    220. 

  220. FUNC_OP_CREATE(xor, longlong, long long, __xor_op)
    221. 

  221. FUNC_OP_CREATE(xor, fint2, ompi_fortran_integer4_t, __xor_op)
    222. 

  222. FUNC_OP_CREATE(xor, fint4, ompi_fortran_integer4_t, __xor_op)
    223. 

  223. FUNC_OP_CREATE(xor, fint8, ompi_fortran_integer8_t, __xor_op)
    224. 

  224. FUNC_OP_CREATE(xor, int16, int16_t, __xor_op)
    225. 

  225. FUNC_OP_CREATE(xor, int32, int32_t, __xor_op)
    226. 

  226. FUNC_OP_CREATE(xor, int64, int64_t, __xor_op)
    227. 

  227. 

  228. /* MAX */
    229. 

  229. #define __max_op(a, b) ((a) > (b) ? (a) : (b))
    230. 

  230. FUNC_OP_CREATE(max, short, short, __max_op)
    231. 

  231. FUNC_OP_CREATE(max, int, int, __max_op)
    232. 

  232. FUNC_OP_CREATE(max, long, long, __max_op)
    233. 

  233. FUNC_OP_CREATE(max, longlong, long long, __max_op)
    234. 

  234. FUNC_OP_CREATE(max, float, float, __max_op)
    235. 

  235. FUNC_OP_CREATE(max, double, double, __max_op)
    236. 

  236. FUNC_OP_CREATE(max, longdouble, long double, __max_op)
    237. 

  237. FUNC_OP_CREATE(max, fint2, ompi_fortran_integer4_t, __max_op)
    238. 

  238. FUNC_OP_CREATE(max, fint4, ompi_fortran_integer4_t, __max_op)
    239. 

  239. FUNC_OP_CREATE(max, fint8, ompi_fortran_integer8_t, __max_op)
    240. 

  240. FUNC_OP_CREATE(max, freal4, ompi_fortran_real4_t, __max_op)
    241. 

  241. FUNC_OP_CREATE(max, freal8, ompi_fortran_real8_t, __max_op)
    242. 

  242. #if OMPI_HAVE_FORTRAN_REAL16
    243. 

  243. FUNC_OP_CREATE(max, freal16, ompi_fortran_real16_t, __max_op)
    244. 

  244. #endif
    245. 

  245. FUNC_OP_CREATE(max, int16, int16_t, __max_op)
    246. 

  246. FUNC_OP_CREATE(max, int32, int32_t, __max_op)
    247. 

  247. FUNC_OP_CREATE(max, int64, int64_t, __max_op)
    248. 

  248. 

  249. /* MIN */
    250. 

  250. #define __min_op(a, b) ((a) < (b) ? (a) : (b))
    251. 

  251. FUNC_OP_CREATE(min, short, short, __min_op)
    252. 

  252. FUNC_OP_CREATE(min, int, int, __min_op)
    253. 

  253. FUNC_OP_CREATE(min, long, long, __min_op)
    254. 

  254. FUNC_OP_CREATE(min, longlong, long long, __min_op)
    255. 

  255. FUNC_OP_CREATE(min, float, float, __min_op)
    256. 

  256. FUNC_OP_CREATE(min, double, double, __min_op)
    257. 

  257. FUNC_OP_CREATE(min, longdouble, long double, __min_op)
    258. 

  258. FUNC_OP_CREATE(min, fint2, ompi_fortran_integer4_t, __min_op)
    259. 

  259. FUNC_OP_CREATE(min, fint4, ompi_fortran_integer4_t, __min_op)
    260. 

  260. FUNC_OP_CREATE(min, fint8, ompi_fortran_integer8_t, __min_op)
    261. 

  261. FUNC_OP_CREATE(min, freal4, ompi_fortran_real4_t, __min_op)
    262. 

  262. FUNC_OP_CREATE(min, freal8, ompi_fortran_real8_t, __min_op)
    263. 

  263. #if OMPI_HAVE_FORTRAN_REAL16
    264. 

  264. FUNC_OP_CREATE(min, freal16, ompi_fortran_real16_t, __min_op)
    265. 

  265. #endif
    266. 

  266. FUNC_OP_CREATE(min, int16, int16_t, __min_op)
    267. 

  267. FUNC_OP_CREATE(min, int32, int32_t, __min_op)
    268. 

  268. FUNC_OP_CREATE(min, int64, int64_t, __min_op)
    269. 

  269. 

  270. /* SUM */
    271. 

  271. #define __sum_op(a, b) ((a) + (b))
    272. 

  272. FUNC_OP_CREATE(sum, short, short, __sum_op)
    273. 

  273. FUNC_OP_CREATE(sum, int, int, __sum_op)
    274. 

  274. FUNC_OP_CREATE(sum, long, long, __sum_op)
    275. 

  275. FUNC_OP_CREATE(sum, longlong, long long, __sum_op)
    276. 

  276. FUNC_OP_CREATE(sum, float, float, __sum_op)
    277. 

  277. FUNC_OP_CREATE(sum, double, double, __sum_op)
    278. 

  278. FUNC_OP_CREATE(sum, longdouble, long double, __sum_op)
    279. 

  279. FUNC_OP_CREATE(sum, complexf, float complex, __sum_op)
    280. 

  280. FUNC_OP_CREATE(sum, complexd, double complex, __sum_op)
    281. 

  281. FUNC_OP_CREATE(sum, fint2, ompi_fortran_integer4_t, __sum_op)
    282. 

  282. FUNC_OP_CREATE(sum, fint4, ompi_fortran_integer4_t, __sum_op)
    283. 

  283. FUNC_OP_CREATE(sum, fint8, ompi_fortran_integer8_t, __sum_op)
    284. 

  284. FUNC_OP_CREATE(sum, freal4, ompi_fortran_real4_t, __sum_op)
    285. 

  285. FUNC_OP_CREATE(sum, freal8, ompi_fortran_real8_t, __sum_op)
    286. 

  286. #if OMPI_HAVE_FORTRAN_REAL16
    287. 

  287. FUNC_OP_CREATE(sum, freal16, ompi_fortran_real16_t, __sum_op)
    288. 

  288. #endif
    289. 

  289. FUNC_OP_CREATE(sum, int16, int16_t, __sum_op)
    290. 

  290. FUNC_OP_CREATE(sum, int32, int32_t, __sum_op)
    291. 

  291. FUNC_OP_CREATE(sum, int64, int64_t, __sum_op)
    292. 

  292. 

  293. /* PROD */
    294. 

  294. #define __prod_op(a, b) ((a) * (b))
    295. 

  295. FUNC_OP_CREATE(prod, short, short, __prod_op)
    296. 

  296. FUNC_OP_CREATE(prod, int, int, __prod_op)
    297. 

  297. FUNC_OP_CREATE(prod, long, long, __prod_op)
    298. 

  298. FUNC_OP_CREATE(prod, longlong, long long, __prod_op)
    299. 

  299. FUNC_OP_CREATE(prod, float, float, __prod_op)
    300. 

  300. FUNC_OP_CREATE(prod, double, double, __prod_op)
    301. 

  301. FUNC_OP_CREATE(prod, longdouble, long double, __prod_op)
    302. 

  302. FUNC_OP_CREATE(prod, complexf, float complex, __prod_op)
    303. 

  303. FUNC_OP_CREATE(prod, complexd, double complex, __prod_op)
    304. 

  304. FUNC_OP_CREATE(prod, fint2, ompi_fortran_integer2_t, __prod_op)
    305. 

  305. FUNC_OP_CREATE(prod, fint4, ompi_fortran_integer4_t, __prod_op)
    306. 

  306. FUNC_OP_CREATE(prod, fint8, ompi_fortran_integer8_t, __prod_op)
    307. 

  307. FUNC_OP_CREATE(prod, freal4, ompi_fortran_real4_t, __prod_op)
    308. 

  308. FUNC_OP_CREATE(prod, freal8, ompi_fortran_real8_t, __prod_op)
    309. 

  309. #if OMPI_HAVE_FORTRAN_REAL16
    310. 

  310. FUNC_OP_CREATE(prod, freal16, ompi_fortran_real16_t, __prod_op)
    311. 

  311. #endif
    312. 

  312. FUNC_OP_CREATE(prod, int16, int16_t, __prod_op)
    313. 

  313. FUNC_OP_CREATE(prod, int32, int32_t, __prod_op)
    314. 

  314. FUNC_OP_CREATE(prod, int64, int64_t, __prod_op)
    315. 

  315. 

  316. /* SWAP */
    317. 

  317. #define __swap_op(a, b) (a)
    318. 

  318. FUNC_OP_CREATE(swap, int, int, __swap_op)
    319. 

  319. FUNC_OP_CREATE(swap, long, long, __swap_op)
    320. 

  320. FUNC_OP_CREATE(swap, longlong, long long, __swap_op)
    321. 

  321. FUNC_OP_CREATE(swap, int32, int32_t, __swap_op)
    322. 

  322. FUNC_OP_CREATE(swap, int64, int64_t, __swap_op)
    323. 

  323. 

  324. int oshmem_op_init(void)
    325. 

  325. {
    326. 

  326. 

  327.     /* Setup operation array */
    328. 

  328.     OBJ_CONSTRUCT(&oshmem_op_array, opal_pointer_array_t);
    329. 

  329.     if (OPAL_SUCCESS
    330. 

  330.             != opal_pointer_array_init(&oshmem_op_array,
    331. 

  331.                                        0,
    332. 

  332.                                        INT_MAX,
    333. 

  333.                                        1)) {
    334. 

  334.         return OSHMEM_ERROR;
    335. 

  335.     }
    336. 

  336. 

  337.     /* Bitwise AND */
    338. 

  338.     OBJ_OP_CREATE(and, short, short, OSHMEM_OP_AND, OSHMEM_OP_TYPE_SHORT);
    339. 

  339.     OBJ_OP_CREATE(and, int, int, OSHMEM_OP_AND, OSHMEM_OP_TYPE_INT);
    340. 

  340.     OBJ_OP_CREATE(and, long, long, OSHMEM_OP_AND, OSHMEM_OP_TYPE_LONG);
    341. 

  341.     OBJ_OP_CREATE(and, longlong, long long, OSHMEM_OP_AND, OSHMEM_OP_TYPE_LLONG);
    342. 

  342.     OBJ_OP_CREATE(and, fint2, ompi_fortran_integer2_t, OSHMEM_OP_AND, OSHMEM_OP_TYPE_FINT2);
    343. 

  343.     OBJ_OP_CREATE(and, fint4, ompi_fortran_integer4_t, OSHMEM_OP_AND, OSHMEM_OP_TYPE_FINT4);
    344. 

  344.     OBJ_OP_CREATE(and, fint8, ompi_fortran_integer8_t, OSHMEM_OP_AND, OSHMEM_OP_TYPE_FINT8);
    345. 

  345.     OBJ_OP_CREATE(and, int16, int16_t, OSHMEM_OP_AND, OSHMEM_OP_TYPE_INT16_T);
    346. 

  346.     OBJ_OP_CREATE(and, int32, int32_t, OSHMEM_OP_AND, OSHMEM_OP_TYPE_INT32_T);
    347. 

  347.     OBJ_OP_CREATE(and, int64, int64_t, OSHMEM_OP_AND, OSHMEM_OP_TYPE_INT64_T);
    348. 

  348. 

  349.     /* Bitwise OR */
    350. 

  350.     OBJ_OP_CREATE(or, short, short, OSHMEM_OP_OR, OSHMEM_OP_TYPE_SHORT);
    351. 

  351.     OBJ_OP_CREATE(or, int, int, OSHMEM_OP_OR, OSHMEM_OP_TYPE_INT);
    352. 

  352.     OBJ_OP_CREATE(or, long, long, OSHMEM_OP_OR, OSHMEM_OP_TYPE_LONG);
    353. 

  353.     OBJ_OP_CREATE(or, longlong, long long, OSHMEM_OP_OR, OSHMEM_OP_TYPE_LLONG);
    354. 

  354.     OBJ_OP_CREATE(or, fint2, ompi_fortran_integer2_t, OSHMEM_OP_OR, OSHMEM_OP_TYPE_FINT2);
    355. 

  355.     OBJ_OP_CREATE(or, fint4, ompi_fortran_integer4_t, OSHMEM_OP_OR, OSHMEM_OP_TYPE_FINT4);
    356. 

  356.     OBJ_OP_CREATE(or, fint8, ompi_fortran_integer8_t, OSHMEM_OP_OR, OSHMEM_OP_TYPE_FINT8);
    357. 

  357.     OBJ_OP_CREATE(or, int16, int16_t, OSHMEM_OP_OR, OSHMEM_OP_TYPE_INT16_T);
    358. 

  358.     OBJ_OP_CREATE(or, int32, int32_t, OSHMEM_OP_OR, OSHMEM_OP_TYPE_INT32_T);
    359. 

  359.     OBJ_OP_CREATE(or, int64, int64_t, OSHMEM_OP_OR, OSHMEM_OP_TYPE_INT64_T);
    360. 

  360. 

  361.     /* Bitwise XOR */
    362. 

  362.     OBJ_OP_CREATE(xor, short, short, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_SHORT);
    363. 

  363.     OBJ_OP_CREATE(xor, int, int, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_INT);
    364. 

  364.     OBJ_OP_CREATE(xor, long, long, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_LONG);
    365. 

  365.     OBJ_OP_CREATE(xor, longlong, long long, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_LLONG);
    366. 

  366.     OBJ_OP_CREATE(xor, fint2, ompi_fortran_integer2_t, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_FINT2);
    367. 

  367.     OBJ_OP_CREATE(xor, fint4, ompi_fortran_integer4_t, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_FINT4);
    368. 

  368.     OBJ_OP_CREATE(xor, fint8, ompi_fortran_integer8_t, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_FINT8);
    369. 

  369.     OBJ_OP_CREATE(xor, int16, int16_t, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_INT16_T);
    370. 

  370.     OBJ_OP_CREATE(xor, int32, int32_t, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_INT32_T);
    371. 

  371.     OBJ_OP_CREATE(xor, int64, int64_t, OSHMEM_OP_XOR, OSHMEM_OP_TYPE_INT64_T);
    372. 

  372. 

  373.     /* MAX */
    374. 

  374.     OBJ_OP_CREATE(max, short, short, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_SHORT);
    375. 

  375.     OBJ_OP_CREATE(max, int, int, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_INT);
    376. 

  376.     OBJ_OP_CREATE(max, long, long, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_LONG);
    377. 

  377.     OBJ_OP_CREATE(max, longlong, long long, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_LLONG);
    378. 

  378.     OBJ_OP_CREATE(max, float, float, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FLOAT);
    379. 

  379.     OBJ_OP_CREATE(max, double, double, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_DOUBLE);
    380. 

  380.     OBJ_OP_CREATE(max, longdouble, long double, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_LDOUBLE);
    381. 

  381.     OBJ_OP_CREATE(max, fint2, ompi_fortran_integer2_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FINT2);
    382. 

  382.     OBJ_OP_CREATE(max, fint4, ompi_fortran_integer4_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FINT4);
    383. 

  383.     OBJ_OP_CREATE(max, fint8, ompi_fortran_integer8_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FINT8);
    384. 

  384.     OBJ_OP_CREATE(max, freal4, ompi_fortran_real4_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FREAL4);
    385. 

  385.     OBJ_OP_CREATE(max, freal8, ompi_fortran_real8_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FREAL8);
    386. 

  386. #if OMPI_HAVE_FORTRAN_REAL16
    387. 

  387.     OBJ_OP_CREATE(max, freal16, ompi_fortran_real16_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_FREAL16);
    388. 

  388. #endif
    389. 

  389.     OBJ_OP_CREATE(max, int16, int16_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_INT16_T);
    390. 

  390.     OBJ_OP_CREATE(max, int32, int32_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_INT32_T);
    391. 

  391.     OBJ_OP_CREATE(max, int64, int64_t, OSHMEM_OP_MAX, OSHMEM_OP_TYPE_INT64_T);
    392. 

  392. 

  393.     /* MIN */
    394. 

  394.     OBJ_OP_CREATE(min, short, short, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_SHORT);
    395. 

  395.     OBJ_OP_CREATE(min, int, int, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_INT);
    396. 

  396.     OBJ_OP_CREATE(min, long, long, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_LONG);
    397. 

  397.     OBJ_OP_CREATE(min, longlong, long long, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_LLONG);
    398. 

  398.     OBJ_OP_CREATE(min, float, float, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FLOAT);
    399. 

  399.     OBJ_OP_CREATE(min, double, double, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_DOUBLE);
    400. 

  400.     OBJ_OP_CREATE(min, longdouble, long double, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_LDOUBLE);
    401. 

  401.     OBJ_OP_CREATE(min, fint2, ompi_fortran_integer2_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FINT2);
    402. 

  402.     OBJ_OP_CREATE(min, fint4, ompi_fortran_integer4_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FINT4);
    403. 

  403.     OBJ_OP_CREATE(min, fint8, ompi_fortran_integer8_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FINT8);
    404. 

  404.     OBJ_OP_CREATE(min, freal4, ompi_fortran_real4_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FREAL4);
    405. 

  405.     OBJ_OP_CREATE(min, freal8, ompi_fortran_real8_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FREAL8);
    406. 

  406. #if OMPI_HAVE_FORTRAN_REAL16
    407. 

  407.     OBJ_OP_CREATE(min, freal16, ompi_fortran_real16_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_FREAL16);
    408. 

  408. #endif
    409. 

  409.     OBJ_OP_CREATE(min, int16, int16_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_INT16_T);
    410. 

  410.     OBJ_OP_CREATE(min, int32, int32_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_INT32_T);
    411. 

  411.     OBJ_OP_CREATE(min, int64, int64_t, OSHMEM_OP_MIN, OSHMEM_OP_TYPE_INT64_T);
    412. 

  412. 

  413.     /* SUM */
    414. 

  414.     OBJ_OP_CREATE(sum, short, short, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_SHORT);
    415. 

  415.     OBJ_OP_CREATE(sum, int, int, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_INT);
    416. 

  416.     OBJ_OP_CREATE(sum, long, long, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_LONG);
    417. 

  417.     OBJ_OP_CREATE(sum, longlong, long long, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_LLONG);
    418. 

  418.     OBJ_OP_CREATE(sum, float, float, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FLOAT);
    419. 

  419.     OBJ_OP_CREATE(sum, double, double, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_DOUBLE);
    420. 

  420.     OBJ_OP_CREATE(sum, longdouble, long double, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_LDOUBLE);
    421. 

  421.     OBJ_OP_CREATE(sum, complexf, float complex, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FCOMPLEX);
    422. 

  422.     OBJ_OP_CREATE(sum, complexd, double complex, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_DCOMPLEX);
    423. 

  423.     OBJ_OP_CREATE(sum, fint2, ompi_fortran_integer2_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FINT2);
    424. 

  424.     OBJ_OP_CREATE(sum, fint4, ompi_fortran_integer4_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FINT4);
    425. 

  425.     OBJ_OP_CREATE(sum, fint8, ompi_fortran_integer8_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FINT8);
    426. 

  426.     OBJ_OP_CREATE(sum, freal4, ompi_fortran_real4_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FREAL4);
    427. 

  427.     OBJ_OP_CREATE(sum, freal8, ompi_fortran_real8_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FREAL8);
    428. 

  428. #if OMPI_HAVE_FORTRAN_REAL16
    429. 

  429.     OBJ_OP_CREATE(sum, freal16, ompi_fortran_real16_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_FREAL16);
    430. 

  430. #endif
    431. 

  431.     OBJ_OP_CREATE(sum, int16, int16_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_INT16_T);
    432. 

  432.     OBJ_OP_CREATE(sum, int32, int32_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_INT32_T);
    433. 

  433.     OBJ_OP_CREATE(sum, int64, int64_t, OSHMEM_OP_SUM, OSHMEM_OP_TYPE_INT64_T);
    434. 

  434. 

  435.     /* PROD */
    436. 

  436.     OBJ_OP_CREATE(prod, short, short, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_SHORT);
    437. 

  437.     OBJ_OP_CREATE(prod, int, int, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_INT);
    438. 

  438.     OBJ_OP_CREATE(prod, long, long, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_LONG);
    439. 

  439.     OBJ_OP_CREATE(prod, longlong, long long, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_LLONG);
    440. 

  440.     OBJ_OP_CREATE(prod, float, float, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FLOAT);
    441. 

  441.     OBJ_OP_CREATE(prod, double, double, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_DOUBLE);
    442. 

  442.     OBJ_OP_CREATE(prod, longdouble, long double, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_LDOUBLE);
    443. 

  443.     OBJ_OP_CREATE(prod, complexf, float complex, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FCOMPLEX);
    444. 

  444.     OBJ_OP_CREATE(prod, complexd, double complex, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_DCOMPLEX);
    445. 

  445.     OBJ_OP_CREATE(prod, fint2, ompi_fortran_integer2_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FINT2);
    446. 

  446.     OBJ_OP_CREATE(prod, fint4, ompi_fortran_integer4_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FINT4);
    447. 

  447.     OBJ_OP_CREATE(prod, fint8, ompi_fortran_integer8_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FINT8);
    448. 

  448.     OBJ_OP_CREATE(prod, freal4, ompi_fortran_real4_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FREAL4);
    449. 

  449.     OBJ_OP_CREATE(prod, freal8, ompi_fortran_real8_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FREAL8);
    450. 

  450. #if OMPI_HAVE_FORTRAN_REAL16
    451. 

  451.     OBJ_OP_CREATE(prod, freal16, ompi_fortran_real16_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_FREAL16);
    452. 

  452. #endif
    453. 

  453.     OBJ_OP_CREATE(prod, int16, int16_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_INT16_T);
    454. 

  454.     OBJ_OP_CREATE(prod, int32, int32_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_INT32_T);
    455. 

  455.     OBJ_OP_CREATE(prod, int64, int64_t, OSHMEM_OP_PROD, OSHMEM_OP_TYPE_INT64_T);
    456. 

  456. 

  457.     /* SWAP */
    458. 

  458.     /* swap op is not used in reduce operations, let's set ID to invalid
    459. 

  459.      * value (will not affect to any collective) */
    460. 

  460.     OBJ_OP_CREATE(swap, int, int, OSHMEM_OP_NUMBER, OSHMEM_OP_TYPE_INT);
    461. 

  461.     OBJ_OP_CREATE(swap, long, long, OSHMEM_OP_NUMBER, OSHMEM_OP_TYPE_LONG);
    462. 

  462.     OBJ_OP_CREATE(swap, longlong, long long, OSHMEM_OP_NUMBER, OSHMEM_OP_TYPE_LLONG);
    463. 

  463.     OBJ_OP_CREATE(swap, int32, int32_t, OSHMEM_OP_NUMBER, OSHMEM_OP_TYPE_INT32_T);
    464. 

  464.     OBJ_OP_CREATE(swap, int64, int64_t, OSHMEM_OP_NUMBER, OSHMEM_OP_TYPE_INT64_T);
    465. 

  465. 

  466.     return OSHMEM_SUCCESS;
    467. 

  467. }
    468. 

  468. 

  469. int oshmem_op_finalize(void)
    470. 

  470. {
    471. 

  471.     int max, i;
    472. 

  472.     oshmem_op_t *op;
    473. 

  473. 

  474.     /* Check whether we have some left */
    475. 

  475.     max = opal_pointer_array_get_size(&oshmem_op_array);
    476. 

  476.     for (i = 0; i < max; i++) {
    477. 

  477.         op = (oshmem_op_t *) opal_pointer_array_get_item(&oshmem_op_array, i);
    478. 

  478.         if (NULL != op) {
    479. 

  479.             OBJ_RELEASE(op);
    480. 

  480.         }
    481. 

  481.     }
    482. 

  482. 

  483.     OBJ_DESTRUCT(&oshmem_op_array);
    484. 

  484. 

  485.     return OSHMEM_SUCCESS;
    486. 

  486. }
    487. 

  487. 

  488. /**************************************************************************
    489. 

  489.  *
    490. 

  490.  * Static functions
    491. 

  491.  *
    492. 

  492.  **************************************************************************/
    493. 

  493. 

  494. /*
    495. 

  495.  * Op constructor
    496. 

  496.  */
    497. 

  497. static void oshmem_op_construct(oshmem_op_t *object)
    498. 

  498. {
    499. 

  499.     object->id = opal_pointer_array_add(&oshmem_op_array, object);
    500. 

  500. }
    501. 

  501. 

  502. /*
    503. 

  503.  * Op destructor
    504. 

  504.  */
    505. 

  505. static void oshmem_op_destruct(oshmem_op_t *object)
    506. 

  506. {
    507. 

  507.     if (NULL != opal_pointer_array_get_item(&oshmem_op_array, object->id)) {
    508. 

  508.         opal_pointer_array_set_item(&oshmem_op_array, object->id, NULL );
    509. 

  509.     }
    510. 

  510. }
    511.