source: palm/trunk/SOURCE/exchange_horiz.f90 @ 4180

Last change on this file since 4180 was 4180, checked in by scharf, 2 years ago

removed comments in 'Former revisions' section that are older than 01.01.2019

  • Property svn:keywords set to Id
File size: 13.1 KB
Line 
1!> @file exchange_horiz.f90
2!------------------------------------------------------------------------------!
3! This file is part of the PALM model system.
4!
5! PALM is free software: you can redistribute it and/or modify it under the
6! terms of the GNU General Public License as published by the Free Software
7! Foundation, either version 3 of the License, or (at your option) any later
8! version.
9!
10! PALM is distributed in the hope that it will be useful, but WITHOUT ANY
11! WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS FOR
12! A PARTICULAR PURPOSE.  See the GNU General Public License for more details.
13!
14! You should have received a copy of the GNU General Public License along with
15! PALM. If not, see <http://www.gnu.org/licenses/>.
16!
17! Copyright 1997-2019 Leibniz Universitaet Hannover
18!------------------------------------------------------------------------------!
19!
20! Current revisions:
21! -----------------
22!
23!
24! Former revisions:
25! -----------------
26! $Id: exchange_horiz.f90 4180 2019-08-21 14:37:54Z scharf $
27! OpenACC directives re-formatted
28!
29! 3657 2019-01-07 20:14:18Z knoop
30! OpenACC port for SPEC
31!
32!
33! Description:
34! ------------
35!> Exchange of lateral boundary values (parallel computers) and cyclic
36!> lateral boundary conditions, respectively.
37!------------------------------------------------------------------------------!
38 SUBROUTINE exchange_horiz( ar, nbgp_local)
39 
40
41    USE control_parameters,                                                    &
42        ONLY:  bc_lr_cyc, bc_ns_cyc, grid_level, mg_switch_to_pe0, synchronous_exchange
43               
44    USE cpulog,                                                                &
45        ONLY:  cpu_log, log_point_s
46       
47    USE indices,                                                               &
48        ONLY:  nxl, nxr, nyn, nys, nzb, nzt
49       
50    USE kinds
51   
52    USE pegrid
53
54    IMPLICIT NONE
55
56
57#if defined( _OPENACC )
58    INTEGER(iwp) ::  i           !<
59#endif
60
61    INTEGER(iwp) ::  nbgp_local  !<
62   
63    REAL(wp), DIMENSION(nzb:nzt+1,nys-nbgp_local:nyn+nbgp_local,               &
64                        nxl-nbgp_local:nxr+nbgp_local) ::  ar  !<
65                       
66
67    CALL cpu_log( log_point_s(2), 'exchange_horiz', 'start' )
68
69#if defined( _OPENACC )
70    !$ACC UPDATE IF_PRESENT ASYNC(1) &
71    !$ACC HOST(ar(:,:,nxr-nbgp_local+1:nxr)) &
72    !$ACC HOST(ar(:,:,nxl:nxl+nbgp_local-1))
73
74!
75!-- Wait for first UPDATE to complete before starting the others.
76    !$ACC WAIT(1) ASYNC(2)
77    ! ar(:,:,nxl-nbgp_local:nxl-1) is overwritten by first part below
78    ! ar(:,:,nxl:nxl+nbgp_local-1) has been transferred above
79    DO i = nxl+nbgp_local, nxr-nbgp_local
80       !$ACC UPDATE IF_PRESENT ASYNC(2) &
81       !$ACC HOST(ar(:,nyn-nbgp_local+1:nyn,i)) &
82       !$ACC HOST(ar(:,nys:nys+nbgp_local-1,i))
83    ENDDO
84    ! ar(:,:,nxr-nbgp_local+1:nxr) has been transferred above
85    ! ar(:,:,nxr+1:nxr+nbgp_local) is overwritten by first part below
86
87!
88!-- Wait for first UPDATE to complete before starting MPI.
89    !$ACC WAIT(1)
90#endif
91
92#if defined( __parallel )
93
94!
95!-- Exchange in x-direction of lateral boundaries
96    IF ( pdims(1) == 1  .OR.  mg_switch_to_pe0 )  THEN
97!
98!--    One-dimensional decomposition along y, boundary values can be exchanged
99!--    within the PE memory
100       IF ( bc_lr_cyc )  THEN
101          ar(:,:,nxl-nbgp_local:nxl-1) = ar(:,:,nxr-nbgp_local+1:nxr)
102          ar(:,:,nxr+1:nxr+nbgp_local) = ar(:,:,nxl:nxl+nbgp_local-1)
103       ENDIF
104
105    ELSE
106
107       IF ( synchronous_exchange )  THEN
108!
109!--       Send left boundary, receive right one (synchronous)
110          CALL MPI_SENDRECV(                                                   &
111              ar(nzb,nys-nbgp_local,nxl),   1, type_yz(grid_level), pleft,  0, &
112              ar(nzb,nys-nbgp_local,nxr+1), 1, type_yz(grid_level), pright, 0, &
113              comm2d, status, ierr )
114!
115!--       Send right boundary, receive left one (synchronous)
116          CALL MPI_SENDRECV( ar(nzb,nys-nbgp_local,nxr+1-nbgp_local), 1,       &
117                             type_yz(grid_level), pright, 1,                   &
118                             ar(nzb,nys-nbgp_local,nxl-nbgp_local), 1,         &
119                             type_yz(grid_level), pleft,  1,                   &
120                             comm2d, status, ierr )
121
122       ELSE
123
124!
125!--       Asynchroneous exchange
126          IF ( send_receive == 'lr'  .OR.  send_receive == 'al' )  THEN
127
128             req(1:4)  = 0
129             req_count = 0
130!
131!--          Send left boundary, receive right one (asynchronous)
132             CALL MPI_ISEND( ar(nzb,nys-nbgp_local,nxl),   1, type_yz(grid_level), &
133                             pleft, req_count, comm2d, req(req_count+1), ierr )
134             CALL MPI_IRECV( ar(nzb,nys-nbgp_local,nxr+1), 1, type_yz(grid_level), &
135                             pright, req_count, comm2d, req(req_count+2), ierr )
136!
137!--          Send right boundary, receive left one (asynchronous)
138             CALL MPI_ISEND( ar(nzb,nys-nbgp_local,nxr+1-nbgp_local), 1,       &
139                             type_yz(grid_level), pright, req_count+1, comm2d, &
140                             req(req_count+3), ierr )
141             CALL MPI_IRECV( ar(nzb,nys-nbgp_local,nxl-nbgp_local),   1,       &
142                             type_yz(grid_level), pleft,  req_count+1, comm2d, &
143                             req(req_count+4), ierr )
144
145             CALL MPI_WAITALL( 4, req, wait_stat, ierr )
146
147          ENDIF
148
149       ENDIF
150
151    ENDIF
152
153    !$ACC UPDATE IF_PRESENT ASYNC(1) &
154    !$ACC DEVICE(ar(:,:,nxl-nbgp_local:nxl-1)) &
155    !$ACC DEVICE(ar(:,:,nxr+1:nxr+nbgp_local))
156
157!
158!-- Wait for UPDATES above to complete before starting MPI.
159    !$ACC WAIT(2)
160
161    IF ( pdims(2) == 1  .OR.  mg_switch_to_pe0 )  THEN
162!
163!--    One-dimensional decomposition along x, boundary values can be exchanged
164!--    within the PE memory
165       IF ( bc_ns_cyc )  THEN
166          ar(:,nys-nbgp_local:nys-1,:) = ar(:,nyn-nbgp_local+1:nyn,:)
167          ar(:,nyn+1:nyn+nbgp_local,:) = ar(:,nys:nys+nbgp_local-1,:)
168       ENDIF
169
170    ELSE
171
172       IF ( synchronous_exchange )  THEN
173!
174!--       Send front boundary, receive rear one (synchronous)
175          CALL MPI_SENDRECV(                                                   &
176              ar(nzb,nys,nxl-nbgp_local),   1, type_xz(grid_level), psouth, 0, &
177              ar(nzb,nyn+1,nxl-nbgp_local), 1, type_xz(grid_level), pnorth, 0, &
178              comm2d, status, ierr )
179!
180!--       Send rear boundary, receive front one (synchronous)
181          CALL MPI_SENDRECV( ar(nzb,nyn-nbgp_local+1,nxl-nbgp_local), 1,       &
182                             type_xz(grid_level), pnorth, 1,                   &
183                             ar(nzb,nys-nbgp_local,nxl-nbgp_local),   1,       &
184                             type_xz(grid_level), psouth, 1,                   &
185                             comm2d, status, ierr )
186
187       ELSE
188
189!
190!--       Asynchroneous exchange
191          IF ( send_receive == 'ns'  .OR.  send_receive == 'al' )  THEN
192
193             req(1:4)  = 0
194             req_count = 0
195
196!
197!--          Send front boundary, receive rear one (asynchronous)
198             CALL MPI_ISEND( ar(nzb,nys,nxl-nbgp_local),   1, type_xz(grid_level), &
199                             psouth, req_count, comm2d, req(req_count+1), ierr )
200             CALL MPI_IRECV( ar(nzb,nyn+1,nxl-nbgp_local), 1, type_xz(grid_level), &
201                             pnorth, req_count, comm2d, req(req_count+2), ierr )
202!
203!--          Send rear boundary, receive front one (asynchronous)
204             CALL MPI_ISEND( ar(nzb,nyn-nbgp_local+1,nxl-nbgp_local), 1,       &
205                             type_xz(grid_level), pnorth, req_count+1, comm2d, &
206                             req(req_count+3), ierr )
207             CALL MPI_IRECV( ar(nzb,nys-nbgp_local,nxl-nbgp_local),   1,       &
208                             type_xz(grid_level), psouth, req_count+1, comm2d, &
209                             req(req_count+4), ierr )
210
211             CALL MPI_WAITALL( 4, req, wait_stat, ierr )
212
213          ENDIF
214
215       ENDIF
216
217    ENDIF
218
219#else
220
221!
222!-- Lateral boundary conditions in the non-parallel case.
223!-- Case dependent, because in GPU mode still not all arrays are on device. This
224!-- workaround has to be removed later. Also, since PGI compiler 12.5 has problems
225!-- with array syntax, explicit loops are used.
226    IF ( bc_lr_cyc )  THEN
227       ar(:,:,nxl-nbgp_local:nxl-1) = ar(:,:,nxr-nbgp_local+1:nxr)
228       ar(:,:,nxr+1:nxr+nbgp_local) = ar(:,:,nxl:nxl+nbgp_local-1)
229    ENDIF
230
231    !$ACC UPDATE IF_PRESENT ASYNC(1) &
232    !$ACC DEVICE(ar(:,:,nxl-nbgp_local:nxl-1)) &
233    !$ACC DEVICE(ar(:,:,nxr+1:nxr+nbgp_local))
234
235!
236!-- Wait for UPDATES above to complete before starting MPI.
237    !$ACC WAIT(2)
238
239    IF ( bc_ns_cyc )  THEN
240       ar(:,nys-nbgp_local:nys-1,:) = ar(:,nyn-nbgp_local+1:nyn,:)
241       ar(:,nyn+1:nyn+nbgp_local,:) = ar(:,nys:nys+nbgp_local-1,:)
242    ENDIF
243
244#endif
245
246#if defined( _OPENACC )
247    DO i = nxl-nbgp_local, nxr+nbgp_local
248       !$ACC UPDATE IF_PRESENT ASYNC(2) &
249       !$ACC DEVICE(ar(:,nys-nbgp_local:nys-1,i)) &
250       !$ACC DEVICE(ar(:,nyn+1:nyn+nbgp_local,i))
251    ENDDO
252
253!
254!-- Wait for all UPDATEs to finish.
255    !$ACC WAIT
256#endif
257
258    CALL cpu_log( log_point_s(2), 'exchange_horiz', 'stop' )
259
260 END SUBROUTINE exchange_horiz
261
262
263!------------------------------------------------------------------------------!
264! Description:
265! ------------
266!> @todo Missing subroutine description.
267!------------------------------------------------------------------------------!
268 SUBROUTINE exchange_horiz_int( ar, nys_l, nyn_l, nxl_l, nxr_l, nzt_l, nbgp_local)
269
270    USE control_parameters,                                                    &
271        ONLY:  bc_lr_cyc, bc_ns_cyc, grid_level
272                       
273    USE indices,                                                               &
274        ONLY:  nzb
275       
276    USE kinds
277   
278    USE pegrid
279
280    IMPLICIT NONE
281
282    INTEGER(iwp) ::  nxl_l       !< local index bound at current grid level, left side
283    INTEGER(iwp) ::  nxr_l       !< local index bound at current grid level, right side
284    INTEGER(iwp) ::  nyn_l       !< local index bound at current grid level, north side
285    INTEGER(iwp) ::  nys_l       !< local index bound at current grid level, south side
286    INTEGER(iwp) ::  nzt_l       !< local index bound at current grid level, top
287    INTEGER(iwp) ::  nbgp_local  !< number of ghost points
288   
289    INTEGER(iwp), DIMENSION(nzb:nzt_l+1,nys_l-nbgp_local:nyn_l+nbgp_local,     &
290                            nxl_l-nbgp_local:nxr_l+nbgp_local) ::  ar  !< treated array
291
292
293#if defined( __parallel )
294    IF ( pdims(1) == 1 )  THEN
295!
296!--    One-dimensional decomposition along y, boundary values can be exchanged
297!--    within the PE memory
298       IF ( bc_lr_cyc )  THEN
299          ar(:,:,nxl_l-nbgp_local:nxl_l-1) = ar(:,:,nxr_l-nbgp_local+1:nxr_l)
300          ar(:,:,nxr_l+1:nxr_l+nbgp_local) = ar(:,:,nxl_l:nxl_l+nbgp_local-1)
301       ENDIF
302    ELSE
303!
304!--    Send left boundary, receive right one (synchronous)
305       CALL MPI_SENDRECV(                                                          &
306           ar(nzb,nys_l-nbgp_local,nxl_l),   1, type_yz_int(grid_level), pleft,  0,&
307           ar(nzb,nys_l-nbgp_local,nxr_l+1), 1, type_yz_int(grid_level), pright, 0,&
308           comm2d, status, ierr )
309!
310!--    Send right boundary, receive left one (synchronous)
311       CALL MPI_SENDRECV(                                                          &
312           ar(nzb,nys_l-nbgp_local,nxr_l+1-nbgp_local), 1, type_yz_int(grid_level),&
313           pright, 1,                                                              &
314           ar(nzb,nys_l-nbgp_local,nxl_l-nbgp_local),   1, type_yz_int(grid_level),&
315           pleft,  1,                                                              &
316           comm2d, status, ierr )
317    ENDIF
318
319
320    IF ( pdims(2) == 1 )  THEN
321!
322!--    One-dimensional decomposition along x, boundary values can be exchanged
323!--    within the PE memory
324       IF ( bc_ns_cyc )  THEN
325          ar(:,nys_l-nbgp_local:nys_l-1,:) = ar(:,nyn_l-nbgp_local+1:nyn_l,:)
326          ar(:,nyn_l+1:nyn_l+nbgp_local,:) = ar(:,nys_l:nys_l+nbgp_local-1,:)
327       ENDIF
328
329    ELSE
330
331!
332!--    Send front boundary, receive rear one (synchronous)
333       CALL MPI_SENDRECV(                                                          &
334           ar(nzb,nys_l,nxl_l-nbgp_local),   1, type_xz_int(grid_level), psouth, 0,&
335           ar(nzb,nyn_l+1,nxl_l-nbgp_local), 1, type_xz_int(grid_level), pnorth, 0,&
336           comm2d, status, ierr )
337!
338!--    Send rear boundary, receive front one (synchronous)
339       CALL MPI_SENDRECV( ar(nzb,nyn_l-nbgp_local+1,nxl_l-nbgp_local), 1,          &
340                          type_xz_int(grid_level), pnorth, 1,                      &
341                          ar(nzb,nys_l-nbgp_local,nxl_l-nbgp_local),   1,          &
342                          type_xz_int(grid_level), psouth, 1,                      &
343                          comm2d, status, ierr )
344
345    ENDIF
346
347#else
348
349    IF ( bc_lr_cyc )  THEN
350       ar(:,:,nxl_l-nbgp_local:nxl_l-1) = ar(:,:,nxr_l-nbgp_local+1:nxr_l)
351       ar(:,:,nxr_l+1:nxr_l+nbgp_local) = ar(:,:,nxl_l:nxl_l+nbgp_local-1)
352    ENDIF
353
354    IF ( bc_ns_cyc )  THEN
355       ar(:,nys_l-nbgp_local:nys_l-1,:) = ar(:,nyn_l-nbgp_local+1:nyn_l,:)
356       ar(:,nyn_l+1:nyn_l+nbgp_local,:) = ar(:,nys_l:nys_l+nbgp_local-1,:)
357    ENDIF
358
359#endif
360
361
362 END SUBROUTINE exchange_horiz_int
Note: See TracBrowser for help on using the repository browser.