source: palm/trunk/SOURCE/flow_statistics.f90 @ 4671

Last change on this file since 4671 was 4671, checked in by pavelkrc, 4 years ago

Radiative transfer model RTM version 4.1

  • Property svn:keywords set to Id
File size: 117.5 KB
Line 
1!> @file flow_statistics.f90
2!--------------------------------------------------------------------------------------------------!
3! This file is part of the PALM model system.
4!
5! PALM is free software: you can redistribute it and/or modify it under the terms of the GNU General
6! Public License as published by the Free Software Foundation, either version 3 of the License, or
7! (at your option) any later version.
8!
9! PALM is distributed in the hope that it will be useful, but WITHOUT ANY WARRANTY; without even the
10! implied warranty of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General
11! Public License for more details.
12!
13! You should have received a copy of the GNU General Public License along with PALM. If not, see
14! <http://www.gnu.org/licenses/>.
15!
16! Copyright 1997-2020 Leibniz Universitaet Hannover
17!--------------------------------------------------------------------------------------------------!
18!
19! Current revisions:
20! ------------------
21!
22!
23! Former revisions:
24! -----------------
25! $Id: flow_statistics.f90 4671 2020-09-09 20:27:58Z pavelkrc $
26! Implementation of downward facing USM and LSM surfaces
27!
28! 4646 2020-08-24 16:02:40Z raasch
29! file re-formatted to follow the PALM coding standard
30!
31! 4581 2020-06-29 08:49:58Z suehring
32! Formatting adjustment
33!
34! 4551 2020-06-02 10:22:25Z suehring
35! Bugfix in summation for statistical regions
36!
37! 4521 2020-05-06 11:39:49Z schwenkel
38! Rename variable
39!
40! 4502 2020-04-17 16:14:16Z schwenkel
41! Implementation of ice microphysics
42!
43! 4472 2020-03-24 12:21:00Z Giersch
44! Calculations of the Kolmogorov lengt scale eta implemented
45!
46! 4464 2020-03-17 11:08:46Z Giersch
47! Reset last change (r4463)
48!
49! 4463 2020-03-17 09:27:36Z Giersch
50! Calculate horizontally averaged profiles of all velocity components at the same place
51!
52! 4444 2020-03-05 15:59:50Z raasch
53! bugfix: cpp-directives for serial mode added
54!
55! 4442 2020-03-04 19:21:13Z suehring
56! Change order of dimension in surface array %frac to allow for better vectorization.
57!
58! 4441 2020-03-04 19:20:35Z suehring
59! Introduction of wall_flags_total_0, which currently sets bits based on static topography
60! information used in wall_flags_static_0
61!
62! 4329 2019-12-10 15:46:36Z motisi
63! Renamed wall_flags_0 to wall_flags_static_0
64!
65! 4182 2019-08-22 15:20:23Z scharf
66! Corrected "Former revisions" section
67!
68! 4131 2019-08-02 11:06:18Z monakurppa
69! Allow profile output for salsa variables.
70!
71! 4039 2019-06-18 10:32:41Z suehring
72! Correct conversion to kinematic scalar fluxes in case of pw-scheme and statistic regions
73!
74! 3828 2019-03-27 19:36:23Z raasch
75! unused variables removed
76!
77! 3676 2019-01-16 15:07:05Z knoop
78! Bugfix, terminate OMP Parallel block
79!
80! Revision 1.1  1997/08/11 06:15:17  raasch
81! Initial revision
82!
83!
84! Description:
85! ------------
86!> Compute average profiles and further average flow quantities for the different user-defined
87!> (sub-)regions. The region indexed 0 is the total model domain.
88!>
89!> @note For simplicity, nzb_s_inner and nzb_diff_s_inner are used as a lower vertical index for
90!>       k-loops for all variables, although strictly speaking the k-loops would have to be split
91!>       up according to the staggered grid. However, this implies no error since staggered velocity
92!>       components are zero at the walls and inside buildings.
93!--------------------------------------------------------------------------------------------------!
94 SUBROUTINE flow_statistics
95
96
97    USE arrays_3d,                                                                                 &
98        ONLY:  ddzu, ddzw, d_exner, e, heatflux_output_conversion, hyp, km, kh,                    &
99               momentumflux_output_conversion, nc, ni, nr, p, prho, prr, pt, q, qc, qi, ql, qr,    &
100               rho_air, rho_air_zw, rho_ocean, s, sa, u, ug, v, vg, vpt, w, w_subs,                &
101               waterflux_output_conversion, zw
102
103    USE basic_constants_and_equations_mod,                                                         &
104        ONLY:  g, lv_d_cp
105
106    USE bulk_cloud_model_mod,                                                                      &
107        ONLY: bulk_cloud_model, microphysics_morrison, microphysics_seifert, microphysics_ice_phase
108
109    USE chem_modules,                                                                              &
110        ONLY:  max_pr_cs
111
112    USE control_parameters,                                                                        &
113        ONLY:   air_chemistry, average_count_pr, cloud_droplets, do_sum, dt_3d, humidity,          &
114                initializing_actions, kolmogorov_length_scale, land_surface, large_scale_forcing,  &
115                large_scale_subsidence, max_pr_salsa, max_pr_user, message_string, neutral,        &
116                ocean_mode, passive_scalar, salsa, simulated_time, simulated_time_at_begin,        &
117                use_subsidence_tendencies, use_surface_fluxes, use_top_fluxes, ws_scheme_mom,      &
118                ws_scheme_sca
119
120    USE cpulog,                                                                                    &
121        ONLY:   cpu_log, log_point
122
123    USE grid_variables,                                                                            &
124        ONLY:   ddx, ddy
125
126    USE indices,                                                                                   &
127        ONLY:   ngp_2dh, ngp_2dh_s_inner, ngp_3d, ngp_3d_inner, nxl, nxr, nyn, nys, nzb, nzt,      &
128                topo_min_level, wall_flags_total_0
129
130#if defined( __parallel )
131    USE indices,                                                                                   &
132        ONLY:  ngp_sums, ngp_sums_ls
133#endif
134
135    USE kinds
136
137    USE land_surface_model_mod,                                                                    &
138        ONLY:   m_soil_h, nzb_soil, nzt_soil, t_soil_h
139
140    USE lsf_nudging_mod,                                                                           &
141        ONLY:   td_lsa_lpt, td_lsa_q, td_sub_lpt, td_sub_q, time_vert
142
143    USE module_interface,                                                                          &
144        ONLY:  module_interface_statistics
145
146    USE netcdf_interface,                                                                          &
147        ONLY:  dots_rad, dots_soil, dots_max
148
149    USE pegrid
150
151    USE radiation_model_mod,                                                                       &
152        ONLY:  radiation, radiation_scheme,                                                        &
153               rad_lw_in, rad_lw_out, rad_lw_cs_hr, rad_lw_hr,                                     &
154               rad_sw_in, rad_sw_out, rad_sw_cs_hr, rad_sw_hr
155
156    USE statistics
157
158    USE surface_mod,                                                                               &
159        ONLY :  surf_def_h, surf_lsm_h, surf_usm_h
160
161
162    IMPLICIT NONE
163
164    INTEGER(iwp) ::  i                   !<
165    INTEGER(iwp) ::  j                   !<
166    INTEGER(iwp) ::  k                   !<
167    INTEGER(iwp) ::  ki                  !<
168    INTEGER(iwp) ::  k_surface_level     !<
169    INTEGER(iwp) ::  m                   !< loop variable over all horizontal wall elements
170    INTEGER(iwp) ::  l                   !< loop variable over surface facing -- up- or downward-facing
171    INTEGER(iwp) ::  nt                  !<
172!$  INTEGER(iwp) ::  omp_get_thread_num  !<
173    INTEGER(iwp) ::  sr                  !<
174    INTEGER(iwp) ::  tn                  !<
175
176    LOGICAL ::  first  !<
177
178    REAL(wp) ::  dissipation      !< dissipation rate
179    REAL(wp) ::  dptdz_threshold  !<
180    REAL(wp) ::  du_dx            !< Derivative of u fluctuations with respect to x
181    REAL(wp) ::  du_dy            !< Derivative of u fluctuations with respect to y
182    REAL(wp) ::  du_dz            !< Derivative of u fluctuations with respect to z
183    REAL(wp) ::  dv_dx            !< Derivative of v fluctuations with respect to x
184    REAL(wp) ::  dv_dy            !< Derivative of v fluctuations with respect to y
185    REAL(wp) ::  dv_dz            !< Derivative of v fluctuations with respect to z
186    REAL(wp) ::  dw_dx            !< Derivative of w fluctuations with respect to x
187    REAL(wp) ::  dw_dy            !< Derivative of w fluctuations with respect to y
188    REAL(wp) ::  dw_dz            !< Derivative of w fluctuations with respect to z
189    REAL(wp) ::  eta              !< Kolmogorov length scale
190    REAL(wp) ::  fac              !<
191    REAL(wp) ::  flag             !<
192    REAL(wp) ::  height           !<
193    REAL(wp) ::  pts              !<
194    REAL(wp) ::  s11              !< fluctuating rate-of-strain tensor component 11
195    REAL(wp) ::  s21              !< fluctuating rate-of-strain tensor component 21
196    REAL(wp) ::  s31              !< fluctuating rate-of-strain tensor component 31
197    REAL(wp) ::  s12              !< fluctuating rate-of-strain tensor component 12
198    REAL(wp) ::  s22              !< fluctuating rate-of-strain tensor component 22
199    REAL(wp) ::  s32              !< fluctuating rate-of-strain tensor component 32
200    REAL(wp) ::  s13              !< fluctuating rate-of-strain tensor component 13
201    REAL(wp) ::  s23              !< fluctuating rate-of-strain tensor component 23
202    REAL(wp) ::  s33              !< fluctuating rate-of-strain tensor component 33
203    REAL(wp) ::  sums_l_etot      !<
204    REAL(wp) ::  ust              !<
205    REAL(wp) ::  ust2             !<
206    REAL(wp) ::  u2               !<
207    REAL(wp) ::  vst              !<
208    REAL(wp) ::  vst2             !<
209    REAL(wp) ::  v2               !<
210    REAL(wp) ::  w2               !<
211
212    REAL(wp) ::  dptdz(nzb+1:nzt+1)    !<
213    REAL(wp) ::  sums_ll(nzb:nzt+1,2)  !<
214
215
216    CALL cpu_log( log_point(10), 'flow_statistics', 'start' )
217
218
219!
220!-- To be on the safe side, check whether flow_statistics has already been called once after the
221!-- current time step.
222    IF ( flow_statistics_called )  THEN
223
224       message_string = 'flow_statistics is called two times within one ' // 'timestep'
225       CALL message( 'flow_statistics', 'PA0190', 1, 2, 0, 6, 0 )
226
227    ENDIF
228
229!
230!-- Compute statistics for each (sub-)region
231    DO  sr = 0, statistic_regions
232
233!
234!--    Initialize (local) summation array
235       sums_l = 0.0_wp
236#ifdef _OPENACC
237       !$ACC KERNELS PRESENT(sums_l)
238       sums_l = 0.0_wp
239       !$ACC END KERNELS
240#endif
241
242!
243!--    Store sums that have been computed in other subroutines in summation array
244       sums_l(:,11,:) = sums_l_l(:,sr,:)      ! mixing length from diffusivities
245!--    WARNING: next line still has to be adjusted for OpenMP
246       sums_l(:,21,0) = sums_wsts_bc_l(:,sr) *                                                     &
247                        heatflux_output_conversion  ! heat flux from advec_s_bc
248       sums_l(nzb+9,pr_palm,0)  = sums_divold_l(sr)  ! old divergence from pres
249       sums_l(nzb+10,pr_palm,0) = sums_divnew_l(sr)  ! new divergence from pres
250
251!
252!--    When calcuating horizontally-averaged total (resolved- plus subgrid-scale) vertical fluxes
253!--    and velocity variances by using commonly-applied Reynolds-based methods
254!--    ( e.g. <w'pt'> = (w-<w>)*(pt-<pt>) ) in combination with the 5th order advection scheme,
255!--    pronounced artificial kinks could be observed in the vertical profiles near the surface.
256!--    Please note: these kinks were not related to the model truth, i.e. these kinks are just
257!--    related to an evaluation problem.
258!--    In order avoid these kinks, vertical fluxes and horizontal as well vertical velocity
259!--    variances are calculated directly within the advection routines, according to the numerical
260!--    discretization, to evaluate the statistical quantities as they will appear within the
261!--    prognostic equations.
262!--    Copy the turbulent quantities, evaluated in the advection routines to the local array
263!--    sums_l() for further computations.
264       IF ( ws_scheme_mom .AND. sr == 0 )  THEN
265
266!
267!--       According to the Neumann bc for the horizontal velocity components, the corresponding
268!--       fluxes has to satisfiy the same bc.
269          IF ( ocean_mode )  THEN
270             sums_us2_ws_l(nzt+1,:) = sums_us2_ws_l(nzt,:)
271             sums_vs2_ws_l(nzt+1,:) = sums_vs2_ws_l(nzt,:)
272          ENDIF
273
274          DO  i = 0, threads_per_task-1
275!
276!--          Swap the turbulent quantities evaluated in advec_ws.
277             sums_l(:,13,i) = sums_wsus_ws_l(:,i) * momentumflux_output_conversion ! w*u*
278             sums_l(:,15,i) = sums_wsvs_ws_l(:,i) * momentumflux_output_conversion ! w*v*
279             sums_l(:,30,i) = sums_us2_ws_l(:,i)                                   ! u*2
280             sums_l(:,31,i) = sums_vs2_ws_l(:,i)                                   ! v*2
281             sums_l(:,32,i) = sums_ws2_ws_l(:,i)                                   ! w*2
282             sums_l(:,34,i) = sums_l(:,34,i) + 0.5_wp *                                            &
283                              ( sums_us2_ws_l(:,i) + sums_vs2_ws_l(:,i) + sums_ws2_ws_l(:,i) )  ! e*
284          ENDDO
285
286       ENDIF
287
288       IF ( ws_scheme_sca .AND. sr == 0 )  THEN
289
290          DO  i = 0, threads_per_task-1
291             sums_l(:,17,i)                        = sums_wspts_ws_l(:,i)                          &
292                                                     * heatflux_output_conversion   ! w*pt*
293             IF ( ocean_mode     ) sums_l(:,66,i)  = sums_wssas_ws_l(:,i)           ! w*sa*
294             IF ( humidity       ) sums_l(:,49,i)  = sums_wsqs_ws_l(:,i)                           &
295                                                     * waterflux_output_conversion  ! w*q*
296             IF ( passive_scalar ) sums_l(:,114,i) = sums_wsss_ws_l(:,i)            ! w*s*
297          ENDDO
298
299       ENDIF
300!
301!--    Horizontally averaged profiles of horizontal velocities and temperature.
302!--    They must have been computed before, because they are already required for other horizontal
303!--    averages.
304       tn = 0
305       !$OMP PARALLEL PRIVATE( i, j, k, tn, flag )
306       !$ tn = omp_get_thread_num()
307       !$OMP DO
308       !$ACC PARALLEL LOOP COLLAPSE(3) PRIVATE(i, j, k, flag) &
309       !$ACC PRESENT(wall_flags_total_0, u, v, pt, rmask, sums_l)
310       DO  i = nxl, nxr
311          DO  j =  nys, nyn
312             DO  k = nzb, nzt+1
313                flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
314                !$ACC ATOMIC
315                sums_l(k,1,tn)  = sums_l(k,1,tn)  + u(k,j,i)  * rmask(j,i,sr) * flag
316                !$ACC ATOMIC
317                sums_l(k,2,tn)  = sums_l(k,2,tn)  + v(k,j,i)  * rmask(j,i,sr) * flag
318                !$ACC ATOMIC
319                sums_l(k,4,tn)  = sums_l(k,4,tn)  + pt(k,j,i) * rmask(j,i,sr) * flag
320             ENDDO
321          ENDDO
322       ENDDO
323       !$ACC UPDATE HOST(sums_l(:,1,tn), sums_l(:,2,tn), sums_l(:,4,tn))
324
325!
326!--    Horizontally averaged profile of salinity
327       IF ( ocean_mode )  THEN
328          !$OMP DO
329          DO  i = nxl, nxr
330             DO  j =  nys, nyn
331                DO  k = nzb, nzt+1
332                   sums_l(k,23,tn)  = sums_l(k,23,tn) + sa(k,j,i)                                  &
333                                      * rmask(j,i,sr)                                              &
334                                      * MERGE( 1.0_wp, 0.0_wp,                                     &
335                                               BTEST( wall_flags_total_0(k,j,i), 22 ) )
336                ENDDO
337             ENDDO
338          ENDDO
339       ENDIF
340
341!
342!--    Horizontally averaged profiles of virtual potential temperature, total water content, water
343!--    vapor mixing ratio and liquid water potential temperature
344       IF ( humidity )  THEN
345          !$OMP DO
346          DO  i = nxl, nxr
347             DO  j =  nys, nyn
348                DO  k = nzb, nzt+1
349                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
350                   sums_l(k,44,tn)  = sums_l(k,44,tn) + vpt(k,j,i) * rmask(j,i,sr) * flag
351                   sums_l(k,41,tn)  = sums_l(k,41,tn) + q(k,j,i) * rmask(j,i,sr)   * flag
352                ENDDO
353             ENDDO
354          ENDDO
355          IF ( bulk_cloud_model )  THEN
356             !$OMP DO
357             DO  i = nxl, nxr
358                DO  j =  nys, nyn
359                   DO  k = nzb, nzt+1
360                      flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
361                      sums_l(k,42,tn) = sums_l(k,42,tn) +                      &
362                                        ( q(k,j,i) - ql(k,j,i) ) * rmask(j,i,sr) * flag
363                      sums_l(k,43,tn) = sums_l(k,43,tn) + (                                        &
364                                           pt(k,j,i) + lv_d_cp * d_exner(k) * ql(k,j,i)            &
365                                                          ) * rmask(j,i,sr) * flag
366                   ENDDO
367                ENDDO
368             ENDDO
369          ENDIF
370       ENDIF
371
372!
373!--    Horizontally averaged profiles of passive scalar
374       IF ( passive_scalar )  THEN
375          !$OMP DO
376          DO  i = nxl, nxr
377             DO  j =  nys, nyn
378                DO  k = nzb, nzt+1
379                   sums_l(k,115,tn)  = sums_l(k,115,tn) + s(k,j,i)                                 &
380                                       * rmask(j,i,sr)                                             &
381                                       * MERGE( 1.0_wp, 0.0_wp,                                    &
382                                                BTEST( wall_flags_total_0(k,j,i), 22 ) )
383                ENDDO
384             ENDDO
385          ENDDO
386       ENDIF
387       !$OMP END PARALLEL
388!
389!--    Summation of thread sums
390       IF ( threads_per_task > 1 )  THEN
391          DO  i = 1, threads_per_task-1
392             sums_l(:,1,0) = sums_l(:,1,0) + sums_l(:,1,i)
393             sums_l(:,2,0) = sums_l(:,2,0) + sums_l(:,2,i)
394             sums_l(:,4,0) = sums_l(:,4,0) + sums_l(:,4,i)
395             IF ( ocean_mode )  THEN
396                sums_l(:,23,0) = sums_l(:,23,0) + sums_l(:,23,i)
397             ENDIF
398             IF ( humidity )  THEN
399                sums_l(:,41,0) = sums_l(:,41,0) + sums_l(:,41,i)
400                sums_l(:,44,0) = sums_l(:,44,0) + sums_l(:,44,i)
401                IF ( bulk_cloud_model )  THEN
402                   sums_l(:,42,0) = sums_l(:,42,0) + sums_l(:,42,i)
403                   sums_l(:,43,0) = sums_l(:,43,0) + sums_l(:,43,i)
404                ENDIF
405             ENDIF
406             IF ( passive_scalar )  THEN
407                sums_l(:,115,0) = sums_l(:,115,0) + sums_l(:,115,i)
408             ENDIF
409          ENDDO
410       ENDIF
411
412#if defined( __parallel )
413!
414!--    Compute total sum from local sums
415       IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
416       CALL MPI_ALLREDUCE( sums_l(nzb,1,0), sums(nzb,1), nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d,     &
417                           ierr )
418       IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
419       CALL MPI_ALLREDUCE( sums_l(nzb,2,0), sums(nzb,2), nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d,     &
420                           ierr )
421       IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
422       CALL MPI_ALLREDUCE( sums_l(nzb,4,0), sums(nzb,4), nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d,     &
423                           ierr )
424       IF ( ocean_mode )  THEN
425          IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
426          CALL MPI_ALLREDUCE( sums_l(nzb,23,0), sums(nzb,23), nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d,&
427                              ierr )
428       ENDIF
429       IF ( humidity ) THEN
430          IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
431          CALL MPI_ALLREDUCE( sums_l(nzb,44,0), sums(nzb,44), nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d,&
432                              ierr )
433          IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
434          CALL MPI_ALLREDUCE( sums_l(nzb,41,0), sums(nzb,41), nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d,&
435                              ierr )
436          IF ( bulk_cloud_model ) THEN
437             IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
438             CALL MPI_ALLREDUCE( sums_l(nzb,42,0), sums(nzb,42), nzt+2-nzb, MPI_REAL, MPI_SUM,     &
439                                 comm2d, ierr )
440             IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
441             CALL MPI_ALLREDUCE( sums_l(nzb,43,0), sums(nzb,43), nzt+2-nzb, MPI_REAL, MPI_SUM,     &
442                                 comm2d, ierr )
443          ENDIF
444       ENDIF
445
446       IF ( passive_scalar )  THEN
447          IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
448          CALL MPI_ALLREDUCE( sums_l(nzb,115,0), sums(nzb,115), nzt+2-nzb, MPI_REAL, MPI_SUM,      &
449                              comm2d, ierr )
450       ENDIF
451#else
452       sums(:,1) = sums_l(:,1,0)
453       sums(:,2) = sums_l(:,2,0)
454       sums(:,4) = sums_l(:,4,0)
455       IF ( ocean_mode )  sums(:,23) = sums_l(:,23,0)
456       IF ( humidity ) THEN
457          sums(:,44) = sums_l(:,44,0)
458          sums(:,41) = sums_l(:,41,0)
459          IF ( bulk_cloud_model ) THEN
460             sums(:,42) = sums_l(:,42,0)
461             sums(:,43) = sums_l(:,43,0)
462          ENDIF
463       ENDIF
464       IF ( passive_scalar )  sums(:,115) = sums_l(:,115,0)
465#endif
466
467!
468!--    Final values are obtained by division by the total number of grid points used for summation.
469!--    After that store profiles.
470       sums(:,1) = sums(:,1) / ngp_2dh(sr)
471       sums(:,2) = sums(:,2) / ngp_2dh(sr)
472       sums(:,4) = sums(:,4) / ngp_2dh_s_inner(:,sr)
473       hom(:,1,1,sr) = sums(:,1)             ! u
474       hom(:,1,2,sr) = sums(:,2)             ! v
475       hom(:,1,4,sr) = sums(:,4)             ! pt
476       !$ACC UPDATE DEVICE(hom(:,1,1,sr), hom(:,1,2,sr), hom(:,1,4,sr))
477
478
479!
480!--    Salinity
481       IF ( ocean_mode )  THEN
482          sums(:,23) = sums(:,23) / ngp_2dh_s_inner(:,sr)
483          hom(:,1,23,sr) = sums(:,23)             ! sa
484       ENDIF
485
486!
487!--    Humidity and cloud parameters
488       IF ( humidity ) THEN
489          sums(:,44) = sums(:,44) / ngp_2dh_s_inner(:,sr)
490          sums(:,41) = sums(:,41) / ngp_2dh_s_inner(:,sr)
491          hom(:,1,44,sr) = sums(:,44)             ! vpt
492          hom(:,1,41,sr) = sums(:,41)             ! qv (q)
493          IF ( bulk_cloud_model ) THEN
494             sums(:,42) = sums(:,42) / ngp_2dh_s_inner(:,sr)
495             sums(:,43) = sums(:,43) / ngp_2dh_s_inner(:,sr)
496             hom(:,1,42,sr) = sums(:,42)             ! qv
497             hom(:,1,43,sr) = sums(:,43)             ! pt
498          ENDIF
499       ENDIF
500
501!
502!--    Passive scalar
503       IF ( passive_scalar )  hom(:,1,115,sr) = sums(:,115) / ngp_2dh_s_inner(:,sr)  ! s
504
505!
506!--    Horizontally averaged profiles of the remaining prognostic variables, variances, the total
507!--    and the perturbation energy (single values in last column of sums_l) and some diagnostic
508!--    quantities.
509!--    NOTE: for simplicity, nzb_s_inner is used below, although strictly speaking the following
510!--    ----  k-loop would have to be split up and rearranged according to the staggered grid.
511!--          However, this implies no error since staggered velocity components are zero at the
512!--          walls and inside buildings.
513       tn = 0
514       !$OMP PARALLEL PRIVATE( i, j, k, pts, sums_ll,                          &
515       !$OMP                   sums_l_etot, tn, ust, ust2, u2, vst, vst2, v2,  &
516       !$OMP                   w2, flag, m, ki, l )
517       !$ tn = omp_get_thread_num()
518       !$OMP DO
519       !$ACC PARALLEL LOOP COLLAPSE(2) PRIVATE(i, j, k, m) &
520       !$ACC PRIVATE(sums_l_etot, flag, du_dx, du_dy, du_dz) &
521       !$ACC PRIVATE(dv_dx, dv_dy, dv_dz, dw_dx, dw_dy, dw_dz) &
522       !$ACC PRIVATE(s11, s21, s31, s12, s22, s32, s13, s23, s33) &
523       !$ACC PRIVATE(dissipation, eta) &
524       !$ACC PRESENT(wall_flags_total_0, rmask, momentumflux_output_conversion) &
525       !$ACC PRESENT(hom(:,1,1:2,sr), hom(:,1,4,sr)) &
526       !$ACC PRESENT(e, u, v, w, km, kh, p, pt) &
527       !$ACC PRESENT(ddx, ddy, ddzu, ddzw) &
528       !$ACC PRESENT(surf_def_h(0), surf_lsm_h(0), surf_usm_h(0)) &
529       !$ACC PRESENT(sums_l)
530       DO  i = nxl, nxr
531          DO  j =  nys, nyn
532             sums_l_etot = 0.0_wp
533             DO  k = nzb, nzt+1
534                flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
535!
536!--             Prognostic and diagnostic variables
537                !$ACC ATOMIC
538                sums_l(k,3,tn)  = sums_l(k,3,tn)  + w(k,j,i)  * rmask(j,i,sr) * flag
539                !$ACC ATOMIC
540                sums_l(k,8,tn)  = sums_l(k,8,tn)  + e(k,j,i)  * rmask(j,i,sr) * flag
541                !$ACC ATOMIC
542                sums_l(k,9,tn)  = sums_l(k,9,tn)  + km(k,j,i) * rmask(j,i,sr) * flag
543                !$ACC ATOMIC
544                sums_l(k,10,tn) = sums_l(k,10,tn) + kh(k,j,i) * rmask(j,i,sr) * flag
545                !$ACC ATOMIC
546                sums_l(k,40,tn) = sums_l(k,40,tn) + ( p(k,j,i)                                     &
547                                         / momentumflux_output_conversion(k) ) * flag
548
549                !$ACC ATOMIC
550                sums_l(k,33,tn) = sums_l(k,33,tn) + &
551                                  ( pt(k,j,i)-hom(k,1,4,sr) )**2 * rmask(j,i,sr) * flag
552#ifndef _OPENACC
553                IF ( humidity )  THEN
554                   sums_l(k,70,tn) = sums_l(k,70,tn) +                                             &
555                                     ( q(k,j,i)-hom(k,1,41,sr) )**2 * rmask(j,i,sr) * flag
556                ENDIF
557                IF ( passive_scalar )  THEN
558                   sums_l(k,116,tn) = sums_l(k,116,tn) +                                           &
559                                      ( s(k,j,i)-hom(k,1,115,sr) )**2 * rmask(j,i,sr) * flag
560                ENDIF
561#endif
562!
563!--             Higher moments
564!--             (Computation of the skewness of w further below)
565                !$ACC ATOMIC
566                sums_l(k,38,tn) = sums_l(k,38,tn) + w(k,j,i)**3 * rmask(j,i,sr) * flag
567
568                sums_l_etot  = sums_l_etot + 0.5_wp * ( u(k,j,i)**2 + v(k,j,i)**2 + w(k,j,i)**2 )  &
569                                             * rmask(j,i,sr) * flag
570
571!
572!--             Computation of the Kolmogorov length scale. Calculation is based on gradients of the
573!--             deviations from the horizontal mean.
574!--             Kolmogorov scale at the boundaries (k=0/z=0m and k=nzt+1) is set to zero.
575                IF ( kolmogorov_length_scale .AND. k /= nzb .AND. k /= nzt+1) THEN
576                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
577
578!
579!--                Calculate components of the fluctuating rate-of-strain tensor
580!--                (0.5*(del u'_i/del x_j + del u'_j/del x_i)) defined in the center of each grid
581!--                box.
582                   du_dx = ( ( u(k,j,i+1) - hom(k,1,1,sr) ) -                                      &
583                             ( u(k,j,i) - hom(k,1,1,sr) ) ) * ddx
584                   du_dy = 0.25_wp * ddy *                                                         &
585                           ( ( u(k,j+1,i) - hom(k,1,1,sr) ) -                                      &
586                             ( u(k,j-1,i) - hom(k,1,1,sr) ) +                                      &
587                             ( u(k,j+1,i+1) - hom(k,1,1,sr) ) -                                    &
588                             ( u(k,j-1,i+1) - hom(k,1,1,sr) ) )
589                   du_dz = 0.25_wp * ( ( ( u(k+1,j,i) - hom(k+1,1,1,sr) ) -                        &
590                                         ( u(k,j,i) - hom(k,1,1,sr) ) ) *                          &
591                                       ddzu(k+1) +                                                 &
592                                       ( ( u(k,j,i) - hom(k,1,1,sr) ) -                            &
593                                         ( u(k-1,j,i) - hom(k-1,1,1,sr) ) ) *                      &
594                                       ddzu(k) +                                                   &
595                                       ( ( u(k+1,j,i+1) - hom(k+1,1,1,sr) ) -                      &
596                                         ( u(k,j,i+1) - hom(k,1,1,sr) ) ) *                        &
597                                       ddzu(k+1) +                                                 &
598                                       ( ( u(k,j,i+1) - hom(k,1,1,sr) ) -                          &
599                                         ( u(k-1,j,i+1) - hom(k-1,1,1,sr) ) ) *                    &
600                                       ddzu(k) )
601
602                   dv_dx = 0.25_wp * ddx *                                                         &
603                           ( ( v(k,j,i+1) - hom(k,1,2,sr) ) -                                      &
604                             ( v(k,j,i-1) - hom(k,1,2,sr) ) +                                      &
605                             ( v(k,j+1,i+1) - hom(k,1,2,sr) ) -                                    &
606                             ( v(k,j+1,i-1) - hom(k,1,2,sr) ) )
607                   dv_dy = ( ( v(k,j+1,i) - hom(k,1,2,sr) ) - ( v(k,j,i) - hom(k,1,2,sr) ) ) * ddy
608                   dv_dz = 0.25_wp * ( ( ( v(k+1,j,i) - hom(k+1,1,2,sr) ) -                        &
609                                         ( v(k,j,i) - hom(k,1,2,sr) ) ) *                          &
610                                       ddzu(k+1) +                                                 &
611                                       ( ( v(k,j,i) - hom(k,1,2,sr) ) -                            &
612                                         ( v(k-1,j,i) - hom(k-1,1,2,sr) ) ) *                      &
613                                       ddzu(k) +                                                   &
614                                       ( ( v(k+1,j+1,i) - hom(k+1,1,2,sr) ) -                      &
615                                         ( v(k,j+1,i) - hom(k,1,2,sr) ) ) *                        &
616                                       ddzu(k+1) +                                                 &
617                                       ( ( v(k,j+1,i) - hom(k,1,2,sr) ) -                          &
618                                         ( v(k-1,j+1,i) - hom(k-1,1,2,sr) ) ) *                    &
619                                       ddzu(k) )
620
621                   dw_dx = 0.25_wp * ddx * ( w(k,j,i+1) - w(k,j,i-1) + w(k-1,j,i+1) - w(k-1,j,i-1) )
622                   dw_dy = 0.25_wp * ddy * ( w(k,j+1,i) - w(k,j-1,i) + w(k-1,j+1,i) - w(k-1,j-1,i) )
623                   dw_dz = ( w(k,j,i) - w(k-1,j,i) ) * ddzw(k)
624
625                   s11 = 0.5_wp * ( du_dx + du_dx )
626                   s21 = 0.5_wp * ( dv_dx + du_dy )
627                   s31 = 0.5_wp * ( dw_dx + du_dz )
628
629                   s12 = s21
630                   s22 = 0.5 * ( dv_dy + dv_dy )
631                   s32 = 0.5 * ( dw_dy + dv_dz )
632
633                   s13 = s31
634                   s23 = s32
635                   s33 = 0.5_wp * ( dw_dz + dw_dz )
636
637!--                Calculate 3D instantaneous energy dissipation rate following Pope (2000):
638!--                Turbulent flows, p.259. It is defined in the center of each grid volume.
639                   dissipation = 2.0_wp * km(k,j,i) *                                              &
640                                ( s11*s11 + s21*s21 + s31*s31 +                                    &
641                                  s12*s12 + s22*s22 + s32*s32 +                                    &
642                                  s13*s13 + s23*s23 + s33*s33 )
643                   eta         = ( km(k,j,i)**3.0_wp / ( dissipation+1.0E-12 ) )**(1.0_wp/4.0_wp)
644
645                   !$ACC ATOMIC
646                   sums_l(k,121,tn) = sums_l(k,121,tn) + eta * rmask(j,i,sr) * flag
647
648
649                ENDIF !Kolmogorov length scale
650
651             ENDDO !k-loop
652!
653!--          Total and perturbation energy for the total domain (being collected in the last column
654!--          of sums_l). Summation of these quantities is seperated from the previous loop in order
655!--          to allow vectorization of that loop.
656             !$ACC ATOMIC
657             sums_l(nzb+4,pr_palm,tn) = sums_l(nzb+4,pr_palm,tn) + sums_l_etot
658!
659!--          2D-arrays (being collected in the last column of sums_l)
660             IF ( surf_def_h(0)%end_index(j,i) >= surf_def_h(0)%start_index(j,i) )  THEN
661                m = surf_def_h(0)%start_index(j,i)
662                !$ACC ATOMIC
663                sums_l(nzb,pr_palm,tn)   = sums_l(nzb,pr_palm,tn) +                                &
664                                           surf_def_h(0)%us(m)   * rmask(j,i,sr)
665                !$ACC ATOMIC
666                sums_l(nzb+1,pr_palm,tn) = sums_l(nzb+1,pr_palm,tn) +                              &
667                                           surf_def_h(0)%usws(m) * rmask(j,i,sr)
668                !$ACC ATOMIC
669                sums_l(nzb+2,pr_palm,tn) = sums_l(nzb+2,pr_palm,tn) +                              &
670                                           surf_def_h(0)%vsws(m) * rmask(j,i,sr)
671                !$ACC ATOMIC
672                sums_l(nzb+3,pr_palm,tn) = sums_l(nzb+3,pr_palm,tn) +                              &
673                                           surf_def_h(0)%ts(m)   * rmask(j,i,sr)
674#ifndef _OPENACC
675                IF ( humidity )  THEN
676                   sums_l(nzb+12,pr_palm,tn) = sums_l(nzb+12,pr_palm,tn) +                         &
677                                               surf_def_h(0)%qs(m)   * rmask(j,i,sr)
678                ENDIF
679                IF ( passive_scalar )  THEN
680                   sums_l(nzb+13,pr_palm,tn) = sums_l(nzb+13,pr_palm,tn) +                         &
681                                               surf_def_h(0)%ss(m)   * rmask(j,i,sr)
682                ENDIF
683#endif
684!
685!--             Summation of surface temperature.
686                !$ACC ATOMIC
687                sums_l(nzb+14,pr_palm,tn) = sums_l(nzb+14,pr_palm,tn)   +                          &
688                                            surf_def_h(0)%pt_surface(m) * rmask(j,i,sr)
689             ENDIF
690             IF ( surf_lsm_h(0)%end_index(j,i) >= surf_lsm_h(0)%start_index(j,i) )  THEN
691                m = surf_lsm_h(0)%start_index(j,i)
692                !$ACC ATOMIC
693                sums_l(nzb,pr_palm,tn)   = sums_l(nzb,pr_palm,tn) +                                &
694                                           surf_lsm_h(0)%us(m)   * rmask(j,i,sr)
695                !$ACC ATOMIC
696                sums_l(nzb+1,pr_palm,tn) = sums_l(nzb+1,pr_palm,tn) +                              &
697                                           surf_lsm_h(0)%usws(m) * rmask(j,i,sr)
698                !$ACC ATOMIC
699                sums_l(nzb+2,pr_palm,tn) = sums_l(nzb+2,pr_palm,tn) +                              &
700                                           surf_lsm_h(0)%vsws(m) * rmask(j,i,sr)
701                !$ACC ATOMIC
702                sums_l(nzb+3,pr_palm,tn) = sums_l(nzb+3,pr_palm,tn) +                              &
703                                           surf_lsm_h(0)%ts(m)   * rmask(j,i,sr)
704#ifndef _OPENACC
705                IF ( humidity )  THEN
706                   sums_l(nzb+12,pr_palm,tn) = sums_l(nzb+12,pr_palm,tn) +                         &
707                                               surf_lsm_h(0)%qs(m)   * rmask(j,i,sr)
708                ENDIF
709                IF ( passive_scalar )  THEN
710                   sums_l(nzb+13,pr_palm,tn) = sums_l(nzb+13,pr_palm,tn) +                         &
711                                               surf_lsm_h(0)%ss(m)   * rmask(j,i,sr)
712                ENDIF
713#endif
714!
715!--             Summation of surface temperature.
716                !$ACC ATOMIC
717                sums_l(nzb+14,pr_palm,tn) = sums_l(nzb+14,pr_palm,tn) +                            &
718                                            surf_lsm_h(0)%pt_surface(m) * rmask(j,i,sr)
719             ENDIF
720             IF ( surf_usm_h(0)%end_index(j,i) >= surf_usm_h(0)%start_index(j,i) )  THEN
721                m = surf_usm_h(0)%start_index(j,i)
722                !$ACC ATOMIC
723                sums_l(nzb,pr_palm,tn)   = sums_l(nzb,pr_palm,tn) +                                &
724                                           surf_usm_h(0)%us(m)   * rmask(j,i,sr)
725                !$ACC ATOMIC
726                sums_l(nzb+1,pr_palm,tn) = sums_l(nzb+1,pr_palm,tn) +                              &
727                                           surf_usm_h(0)%usws(m) * rmask(j,i,sr)
728                !$ACC ATOMIC
729                sums_l(nzb+2,pr_palm,tn) = sums_l(nzb+2,pr_palm,tn) +                              &
730                                           surf_usm_h(0)%vsws(m) * rmask(j,i,sr)
731                !$ACC ATOMIC
732                sums_l(nzb+3,pr_palm,tn) = sums_l(nzb+3,pr_palm,tn) +                              &
733                                           surf_usm_h(0)%ts(m)   * rmask(j,i,sr)
734#ifndef _OPENACC
735                IF ( humidity )  THEN
736                   sums_l(nzb+12,pr_palm,tn) = sums_l(nzb+12,pr_palm,tn) +                         &
737                                               surf_usm_h(0)%qs(m)   * rmask(j,i,sr)
738                ENDIF
739                IF ( passive_scalar )  THEN
740                   sums_l(nzb+13,pr_palm,tn) = sums_l(nzb+13,pr_palm,tn) +                         &
741                                               surf_usm_h(0)%ss(m) * rmask(j,i,sr)
742                ENDIF
743#endif
744!
745!--             Summation of surface temperature.
746                !$ACC ATOMIC
747                sums_l(nzb+14,pr_palm,tn) = sums_l(nzb+14,pr_palm,tn) +                            &
748                                            surf_usm_h(0)%pt_surface(m)  * rmask(j,i,sr)
749             ENDIF
750          ENDDO !j-loop
751       ENDDO !i-loop
752       !$ACC UPDATE &
753       !$ACC HOST(sums_l(:,3,tn), sums_l(:,8,tn), sums_l(:,9,tn)) &
754       !$ACC HOST(sums_l(:,10,tn), sums_l(:,40,tn), sums_l(:,33,tn)) &
755       !$ACC HOST(sums_l(:,38,tn), sums_l(:,121,tn)) &
756       !$ACC HOST(sums_l(nzb:nzb+4,pr_palm,tn), sums_l(nzb+14:nzb+14,pr_palm,tn))
757
758!
759!--    Computation of statistics when ws-scheme is not used. Else these
760!--    quantities are evaluated in the advection routines.
761       IF ( .NOT. ws_scheme_mom .OR. sr /= 0 .OR. simulated_time == 0.0_wp )  THEN
762          !$OMP DO
763          DO  i = nxl, nxr
764             DO  j =  nys, nyn
765                DO  k = nzb, nzt+1
766                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
767
768                   u2   = u(k,j,i)**2
769                   v2   = v(k,j,i)**2
770                   w2   = w(k,j,i)**2
771                   ust2 = ( u(k,j,i) - hom(k,1,1,sr) )**2
772                   vst2 = ( v(k,j,i) - hom(k,1,2,sr) )**2
773
774                   sums_l(k,30,tn) = sums_l(k,30,tn) + ust2 * rmask(j,i,sr) * flag
775                   sums_l(k,31,tn) = sums_l(k,31,tn) + vst2 * rmask(j,i,sr) * flag
776                   sums_l(k,32,tn) = sums_l(k,32,tn) + w2   * rmask(j,i,sr) * flag
777!
778!--                Perturbation energy
779                   sums_l(k,34,tn) = sums_l(k,34,tn) +                                             &
780                                     0.5_wp * ( ust2 + vst2 + w2 ) * rmask(j,i,sr) * flag
781                ENDDO
782             ENDDO
783          ENDDO
784       ENDIF
785!
786!--    Computaion of domain-averaged perturbation energy. Please note, to prevent that perturbation
787!--    energy is larger (even if only slightly) than the total kinetic energy, calculation is based
788!--    on deviations from the horizontal mean, instead of spatial descretization of the advection
789!--    term.
790       !$OMP DO
791       !$ACC PARALLEL LOOP COLLAPSE(3) PRIVATE(i, j, k, flag, w2, ust2, vst2) &
792       !$ACC PRESENT(wall_flags_total_0, u, v, w, rmask, hom(:,1,1:2,sr)) &
793       !$ACC PRESENT(sums_l)
794       DO  i = nxl, nxr
795          DO  j =  nys, nyn
796             DO  k = nzb, nzt+1
797                flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
798
799                w2   = w(k,j,i)**2
800                ust2 = ( u(k,j,i) - hom(k,1,1,sr) )**2
801                vst2 = ( v(k,j,i) - hom(k,1,2,sr) )**2
802                w2   = w(k,j,i)**2
803
804                !$ACC ATOMIC
805                sums_l(nzb+5,pr_palm,tn) = sums_l(nzb+5,pr_palm,tn)                                &
806                                           + 0.5_wp * ( ust2 + vst2 + w2 ) * rmask(j,i,sr) * flag
807
808             ENDDO
809          ENDDO
810       ENDDO
811       !$ACC UPDATE HOST(sums_l(nzb+5:nzb+5,pr_palm,tn))
812
813!
814!--    Horizontally averaged profiles of the vertical fluxes
815       !$OMP DO
816       !$ACC PARALLEL LOOP COLLAPSE(2) PRIVATE(i, j, k, l, m) &
817       !$ACC PRIVATE(ki, flag, ust, vst, pts) &
818       !$ACC PRESENT(kh, km, u, v, w, pt) &
819       !$ACC PRESENT(wall_flags_total_0, rmask, ddzu, rho_air_zw, hom(:,1,1:4,sr)) &
820       !$ACC PRESENT(heatflux_output_conversion, momentumflux_output_conversion) &
821       !$ACC PRESENT(surf_def_h(0:2), surf_lsm_h(0:1), surf_usm_h(0:1) &
822       !$ACC PRESENT(sums_l)
823       DO  i = nxl, nxr
824          DO  j = nys, nyn
825!
826!--          Subgridscale fluxes (without Prandtl layer from k=nzb, oterwise from k=nzb+1)
827!--          NOTE: for simplicity, nzb_diff_s_inner is used below, although strictly speaking the
828!--          ----  following k-loop would have to be split up according to the staggered grid.
829!--                However, this implies no error since staggered velocity components are zero at
830!--                the walls and inside buildings.
831!--          Flag 23 is used to mask surface fluxes as well as model-top fluxes, which are added
832!--          further below.
833             DO  k = nzb, nzt
834                flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 23 ) ) *           &
835                       MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 9  ) )
836!
837!--             Momentum flux w"u"
838                !$ACC ATOMIC
839                sums_l(k,12,tn) = sums_l(k,12,tn) - 0.25_wp * (                                    &
840                                  km(k,j,i) + km(k+1,j,i) + km(k,j,i-1) + km(k+1,j,i-1)            &
841                                                              ) * (                                &
842                                      ( u(k+1,j,i) - u(k,j,i)   ) * ddzu(k+1)                      &
843                                    + ( w(k,j,i)   - w(k,j,i-1) ) * ddx                            &
844                                                                  ) * rmask(j,i,sr)                &
845                                            * rho_air_zw(k)                                        &
846                                            * momentumflux_output_conversion(k)                    &
847                                            * flag
848!
849!--             Momentum flux w"v"
850                !$ACC ATOMIC
851                sums_l(k,14,tn) = sums_l(k,14,tn) - 0.25_wp * (                                    &
852                                  km(k,j,i) + km(k+1,j,i) + km(k,j-1,i) + km(k+1,j-1,i)            &
853                                                              ) * (                                &
854                                      ( v(k+1,j,i) - v(k,j,i)   ) * ddzu(k+1)                      &
855                                    + ( w(k,j,i)   - w(k,j-1,i) ) * ddy                            &
856                                                                  ) * rmask(j,i,sr)                &
857                                            * rho_air_zw(k)                                        &
858                                            * momentumflux_output_conversion(k)                    &
859                                            * flag
860!
861!--             Heat flux w"pt"
862                !$ACC ATOMIC
863                sums_l(k,16,tn) = sums_l(k,16,tn)                                                  &
864                                         - 0.5_wp * ( kh(k,j,i) + kh(k+1,j,i) )                    &
865                                               * ( pt(k+1,j,i) - pt(k,j,i) )                       &
866                                               * rho_air_zw(k)                                     &
867                                               * heatflux_output_conversion(k)                     &
868                                               * ddzu(k+1) * rmask(j,i,sr)                         &
869                                               * flag
870
871!
872!--             Salinity flux w"sa"
873#ifndef _OPENACC
874                IF ( ocean_mode )  THEN
875                   sums_l(k,65,tn) = sums_l(k,65,tn)                                               &
876                                         - 0.5_wp * ( kh(k,j,i) + kh(k+1,j,i) )                    &
877                                               * ( sa(k+1,j,i) - sa(k,j,i) )                       &
878                                               * ddzu(k+1) * rmask(j,i,sr)                         &
879                                               * flag
880                ENDIF
881
882!
883!--             Buoyancy flux, water flux (humidity flux) w"q"
884                IF ( humidity ) THEN
885                   sums_l(k,45,tn) = sums_l(k,45,tn)                                               &
886                                         - 0.5_wp * ( kh(k,j,i) + kh(k+1,j,i) )                    &
887                                               * ( vpt(k+1,j,i) - vpt(k,j,i) )                     &
888                                               * rho_air_zw(k)                                     &
889                                               * heatflux_output_conversion(k)                     &
890                                               * ddzu(k+1) * rmask(j,i,sr) * flag
891                   sums_l(k,48,tn) = sums_l(k,48,tn)                                               &
892                                         - 0.5_wp * ( kh(k,j,i) + kh(k+1,j,i) )                    &
893                                               * ( q(k+1,j,i) - q(k,j,i) )                         &
894                                               * rho_air_zw(k)                                     &
895                                               * waterflux_output_conversion(k)                    &
896                                               * ddzu(k+1) * rmask(j,i,sr) * flag
897
898                   IF ( bulk_cloud_model ) THEN
899                      sums_l(k,51,tn) = sums_l(k,51,tn)                                            &
900                                         - 0.5_wp * ( kh(k,j,i) + kh(k+1,j,i) )                    &
901                                               * ( ( q(k+1,j,i) - ql(k+1,j,i) )                    &
902                                                - ( q(k,j,i) - ql(k,j,i) ) )                       &
903                                               * rho_air_zw(k)                                     &
904                                               * waterflux_output_conversion(k)                    &
905                                               * ddzu(k+1) * rmask(j,i,sr) * flag
906                   ENDIF
907                ENDIF
908
909!
910!--             Passive scalar flux
911                IF ( passive_scalar )  THEN
912                   sums_l(k,117,tn) = sums_l(k,117,tn)                                             &
913                                         - 0.5_wp * ( kh(k,j,i) + kh(k+1,j,i) )                    &
914                                                  * ( s(k+1,j,i) - s(k,j,i) )                      &
915                                                  * ddzu(k+1) * rmask(j,i,sr)                      &
916                                                              * flag
917                ENDIF
918#endif
919
920             ENDDO
921
922!
923!--          Subgridscale fluxes in the Prandtl layer
924             IF ( use_surface_fluxes )  THEN
925                DO  l = 0, 1
926                   ! The original code using MERGE doesn't work with the PGI
927                   ! compiler when running on the GPU.
928                   ! This is submitted as a compiler Bug in PGI ticket TPR#26718
929                   ! ki = MERGE( -1, 0, l == 0 )
930                   ki = -1 + l
931                   IF ( surf_def_h(l)%ns >= 1 )  THEN
932                      DO  m = surf_def_h(l)%start_index(j,i),                                      &
933                              surf_def_h(l)%end_index(j,i)
934                         k = surf_def_h(l)%k(m)
935
936                         !$ACC ATOMIC
937                         sums_l(k+ki,12,tn) = sums_l(k+ki,12,tn) +                                 &
938                                              momentumflux_output_conversion(k+ki) *               &
939                                              surf_def_h(l)%usws(m) * rmask(j,i,sr)     ! w"u"
940                         !$ACC ATOMIC
941                         sums_l(k+ki,14,tn) = sums_l(k+ki,14,tn) +                                 &
942                                              momentumflux_output_conversion(k+ki) *               &
943                                              surf_def_h(l)%vsws(m) * rmask(j,i,sr)     ! w"v"
944                         !$ACC ATOMIC
945                         sums_l(k+ki,16,tn) = sums_l(k+ki,16,tn) +                                 &
946                                              heatflux_output_conversion(k+ki) *                   &
947                                              surf_def_h(l)%shf(m)  * rmask(j,i,sr)     ! w"pt"
948#if 0
949                         sums_l(k+ki,58,tn) = sums_l(k+ki,58,tn) +                                 &
950                                              0.0_wp * rmask(j,i,sr)                    ! u"pt"
951                         sums_l(k+ki,61,tn) = sums_l(k+ki,61,tn) +                                 &
952                                              0.0_wp * rmask(j,i,sr)                    ! v"pt"
953#endif
954#ifndef _OPENACC
955                         IF ( ocean_mode )  THEN
956                            sums_l(k+ki,65,tn) = sums_l(k+ki,65,tn) +                              &
957                                                 surf_def_h(l)%sasws(m) * rmask(j,i,sr)  ! w"sa"
958                         ENDIF
959                         IF ( humidity )  THEN
960                            sums_l(k+ki,48,tn) = sums_l(k+ki,48,tn) +                              &
961                                                 waterflux_output_conversion(k+ki) *               &
962                                                 surf_def_h(l)%qsws(m) * rmask(j,i,sr)  ! w"q" (w"qv")
963                            sums_l(k+ki,45,tn) = sums_l(k+ki,45,tn) +  (                           &
964                                                 ( 1.0_wp + 0.61_wp * q(k+ki,j,i) ) *              &
965                                                 surf_def_h(l)%shf(m) + 0.61_wp * pt(k+ki,j,i) *   &
966                                                 surf_def_h(l)%qsws(m) )                           &
967                                                 * heatflux_output_conversion(k+ki)
968                            IF ( cloud_droplets )  THEN
969                               sums_l(k+ki,45,tn) = sums_l(k+ki,45,tn) +      (                    &
970                                                    ( 1.0_wp + 0.61_wp * q(k+ki,j,i) -             &
971                                                      ql(k+ki,j,i) ) * surf_def_h(l)%shf(m) +      &
972                                                      0.61_wp * pt(k+ki,j,i)                       &
973                                                      * surf_def_h(l)%qsws(m) )                    &
974                                                    * heatflux_output_conversion(k+ki)
975                            ENDIF
976                            IF ( bulk_cloud_model )  THEN
977!
978!--                            Formula does not work if ql(k+ki) /= 0.0
979                               sums_l(k+ki,51,tn) = sums_l(k+ki,51,tn) +                           &
980                                                    waterflux_output_conversion(k+ki) *            &
981                                                    surf_def_h(l)%qsws(m) * rmask(j,i,sr) ! w"q" (w"qv")
982                            ENDIF
983                         ENDIF
984                         IF ( passive_scalar )  THEN
985                            sums_l(k+ki,117,tn) = sums_l(k+ki,117,tn) +                            &
986                                                  surf_def_h(l)%ssws(m) * rmask(j,i,sr) ! w"s"
987                         ENDIF
988#endif
989
990                      ENDDO
991
992                   ENDIF
993                   IF ( surf_lsm_h(l)%end_index(j,i) >= surf_lsm_h(l)%start_index(j,i) )  THEN
994                      m = surf_lsm_h(l)%start_index(j,i)
995                      !$ACC ATOMIC
996                      sums_l(nzb,12,tn) = sums_l(nzb,12,tn) +                                         &
997                                          momentumflux_output_conversion(nzb) *                       &
998                                          surf_lsm_h(l)%usws(m) * rmask(j,i,sr)     ! w"u"
999                      !$ACC ATOMIC
1000                      sums_l(nzb,14,tn) = sums_l(nzb,14,tn) +                                         &
1001                                          momentumflux_output_conversion(nzb) *                       &
1002                                          surf_lsm_h(l)%vsws(m) * rmask(j,i,sr)     ! w"v"
1003                      !$ACC ATOMIC
1004                      sums_l(nzb,16,tn) = sums_l(nzb,16,tn) +                                         &
1005                                          heatflux_output_conversion(nzb) *                           &
1006                                          surf_lsm_h(l)%shf(m)  * rmask(j,i,sr)     ! w"pt"
1007#if 0
1008                      sums_l(nzb,58,tn) = sums_l(nzb,58,tn) +                                         &
1009                                          0.0_wp * rmask(j,i,sr)        ! u"pt"
1010                      sums_l(nzb,61,tn) = sums_l(nzb,61,tn) +                                         &
1011                                          0.0_wp * rmask(j,i,sr)        ! v"pt"
1012#endif
1013#ifndef _OPENACC
1014                      IF ( ocean_mode )  THEN
1015                         sums_l(nzb,65,tn) = sums_l(nzb,65,tn) +                                      &
1016                                             surf_lsm_h(l)%sasws(m) * rmask(j,i,sr)  ! w"sa"
1017                      ENDIF
1018                      IF ( humidity )  THEN
1019                         sums_l(nzb,48,tn) = sums_l(nzb,48,tn) +                                      &
1020                                             waterflux_output_conversion(nzb) *                       &
1021                                             surf_lsm_h(l)%qsws(m) * rmask(j,i,sr)  ! w"q" (w"qv")
1022                         sums_l(nzb,45,tn) = sums_l(nzb,45,tn) + (                                    &
1023                                             ( 1.0_wp + 0.61_wp * q(nzb,j,i) ) * surf_lsm_h(l)%shf(m) +  &
1024                                               0.61_wp * pt(nzb,j,i) * surf_lsm_h(l)%qsws(m) )           &
1025                                             * heatflux_output_conversion(nzb)
1026                         IF ( cloud_droplets )  THEN
1027                            sums_l(nzb,45,tn) = sums_l(nzb,45,tn) + (                                 &
1028                                                ( 1.0_wp + 0.61_wp * q(nzb,j,i) -                     &
1029                                                  ql(nzb,j,i) ) * surf_lsm_h(l)%shf(m) +                 &
1030                                                  0.61_wp * pt(nzb,j,i) * surf_lsm_h(l)%qsws(m) )        &
1031                                                * heatflux_output_conversion(nzb)
1032                         ENDIF
1033                         IF ( bulk_cloud_model )  THEN
1034!
1035!--                         Formula does not work if ql(nzb) /= 0.0
1036                            sums_l(nzb,51,tn) = sums_l(nzb,51,tn) +                                   &
1037                                                waterflux_output_conversion(nzb) *                    &
1038                                                surf_lsm_h(l)%qsws(m) * rmask(j,i,sr) ! w"q" (w"qv")
1039                         ENDIF
1040                      ENDIF
1041                      IF ( passive_scalar )  THEN
1042                         sums_l(nzb,117,tn) = sums_l(nzb,117,tn) +                                    &
1043                                              surf_lsm_h(l)%ssws(m) * rmask(j,i,sr) ! w"s"
1044                      ENDIF
1045#endif
1046
1047                   ENDIF
1048                   IF ( surf_usm_h(l)%end_index(j,i) >= surf_usm_h(l)%start_index(j,i) )  THEN
1049                      m = surf_usm_h(l)%start_index(j,i)
1050                      !$ACC ATOMIC
1051                      sums_l(nzb,12,tn) = sums_l(nzb,12,tn) +                                         &
1052                                          momentumflux_output_conversion(nzb) *                       &
1053                                          surf_usm_h(l)%usws(m) * rmask(j,i,sr)                ! w"u"
1054                      !$ACC ATOMIC
1055                      sums_l(nzb,14,tn) = sums_l(nzb,14,tn) +                                         &
1056                                          momentumflux_output_conversion(nzb) *                       &
1057                                          surf_usm_h(l)%vsws(m) * rmask(j,i,sr)                ! w"v"
1058                      !$ACC ATOMIC
1059                      sums_l(nzb,16,tn) = sums_l(nzb,16,tn) +                                         &
1060                                          heatflux_output_conversion(nzb) *                           &
1061                                          surf_usm_h(l)%shf(m)  * rmask(j,i,sr)                ! w"pt"
1062#if 0
1063                      sums_l(nzb,58,tn) = sums_l(nzb,58,tn) + 0.0_wp * rmask(j,i,sr)        ! u"pt"
1064                      sums_l(nzb,61,tn) = sums_l(nzb,61,tn) + 0.0_wp * rmask(j,i,sr)        ! v"pt"
1065#endif
1066#ifndef _OPENACC
1067                      IF ( ocean_mode )  THEN
1068                         sums_l(nzb,65,tn) = sums_l(nzb,65,tn) +                                      &
1069                                             surf_usm_h(l)%sasws(m) * rmask(j,i,sr)            ! w"sa"
1070                      ENDIF
1071                      IF ( humidity )  THEN
1072                         sums_l(nzb,48,tn) = sums_l(nzb,48,tn) +                                      &
1073                                             waterflux_output_conversion(nzb) *                       &
1074                                             surf_usm_h(l)%qsws(m) * rmask(j,i,sr)             ! w"q" (w"qv")
1075                         sums_l(nzb,45,tn) = sums_l(nzb,45,tn) + (                                    &
1076                                             ( 1.0_wp + 0.61_wp * q(nzb,j,i) ) *                      &
1077                                             surf_usm_h(l)%shf(m) + 0.61_wp * pt(nzb,j,i) *              &
1078                                             surf_usm_h(l)%qsws(m)  )                                    &
1079                                             * heatflux_output_conversion(nzb)
1080                         IF ( cloud_droplets )  THEN
1081                            sums_l(nzb,45,tn) = sums_l(nzb,45,tn) + (                                 &
1082                                                ( 1.0_wp + 0.61_wp * q(nzb,j,i) -                     &
1083                                                 ql(nzb,j,i) ) * surf_usm_h(l)%shf(m) +                  &
1084                                                 0.61_wp * pt(nzb,j,i) * surf_usm_h(l)%qsws(m) )         &
1085                                                * heatflux_output_conversion(nzb)
1086                         ENDIF
1087                         IF ( bulk_cloud_model )  THEN
1088!
1089!--                         Formula does not work if ql(nzb) /= 0.0
1090                            sums_l(nzb,51,tn) = sums_l(nzb,51,tn) +                                   &
1091                                                waterflux_output_conversion(nzb) *                    &
1092                                                surf_usm_h(l)%qsws(m) * rmask(j,i,sr)          ! w"q" (w"qv")
1093                         ENDIF
1094                      ENDIF
1095                      IF ( passive_scalar )  THEN
1096                         sums_l(nzb,117,tn) = sums_l(nzb,117,tn) +                                    &
1097                                              surf_usm_h(l)%ssws(m) * rmask(j,i,sr)            ! w"s"
1098                      ENDIF
1099#endif
1100
1101                   ENDIF
1102                ENDDO
1103             ENDIF
1104
1105#ifndef _OPENACC
1106             IF ( .NOT. neutral )  THEN
1107                IF ( surf_def_h(0)%end_index(j,i) >= surf_def_h(0)%start_index(j,i) )  THEN
1108                   m = surf_def_h(0)%start_index(j,i)
1109                   sums_l(nzb,112,tn) = sums_l(nzb,112,tn) + surf_def_h(0)%ol(m) * rmask(j,i,sr) ! L
1110                ENDIF
1111                IF ( surf_lsm_h(0)%end_index(j,i) >= surf_lsm_h(0)%start_index(j,i) )  THEN
1112                   m = surf_lsm_h(0)%start_index(j,i)
1113                   sums_l(nzb,112,tn) = sums_l(nzb,112,tn) + surf_lsm_h(0)%ol(m)    * rmask(j,i,sr) ! L
1114                ENDIF
1115                IF ( surf_usm_h(0)%end_index(j,i) >= surf_usm_h(0)%start_index(j,i) )  THEN
1116                   m = surf_usm_h(0)%start_index(j,i)
1117                   sums_l(nzb,112,tn) = sums_l(nzb,112,tn) + surf_usm_h(0)%ol(m)    * rmask(j,i,sr) ! L
1118                ENDIF
1119             ENDIF
1120
1121             IF ( radiation )  THEN
1122                IF ( surf_def_h(0)%end_index(j,i) >= surf_def_h(0)%start_index(j,i) )  THEN
1123                   m = surf_def_h(0)%start_index(j,i)
1124                   sums_l(nzb,99,tn)  = sums_l(nzb,99,tn)   +                                      &
1125                                        surf_def_h(0)%rad_net(m)    * rmask(j,i,sr)
1126                   sums_l(nzb,100,tn) = sums_l(nzb,100,tn)  +                                      &
1127                                        surf_def_h(0)%rad_lw_in(m)  * rmask(j,i,sr)
1128                   sums_l(nzb,101,tn) = sums_l(nzb,101,tn)  +                                      &
1129                                        surf_def_h(0)%rad_lw_out(m) * rmask(j,i,sr)
1130                   sums_l(nzb,102,tn) = sums_l(nzb,102,tn)  +                                      &
1131                                        surf_def_h(0)%rad_sw_in(m)  * rmask(j,i,sr)
1132                   sums_l(nzb,103,tn) = sums_l(nzb,103,tn)  +                                      &
1133                                        surf_def_h(0)%rad_sw_out(m) * rmask(j,i,sr)
1134                ENDIF
1135                IF ( surf_lsm_h(0)%end_index(j,i) >= surf_lsm_h(0)%start_index(j,i) )  THEN
1136                   m = surf_lsm_h(0)%start_index(j,i)
1137                   sums_l(nzb,99,tn)  = sums_l(nzb,99,tn)   +                                      &
1138                                        surf_lsm_h(0)%rad_net(m)    * rmask(j,i,sr)
1139                   sums_l(nzb,100,tn) = sums_l(nzb,100,tn)  +                                      &
1140                                        surf_lsm_h(0)%rad_lw_in(m)  * rmask(j,i,sr)
1141                   sums_l(nzb,101,tn) = sums_l(nzb,101,tn)  +                                      &
1142                                        surf_lsm_h(0)%rad_lw_out(m) * rmask(j,i,sr)
1143                   sums_l(nzb,102,tn) = sums_l(nzb,102,tn)  +                                      &
1144                                        surf_lsm_h(0)%rad_sw_in(m)  * rmask(j,i,sr)
1145                   sums_l(nzb,103,tn) = sums_l(nzb,103,tn)  +                                      &
1146                                        surf_lsm_h(0)%rad_sw_out(m) * rmask(j,i,sr)
1147                ENDIF
1148                IF ( surf_usm_h(0)%end_index(j,i) >= surf_usm_h(0)%start_index(j,i) )  THEN
1149                   m = surf_usm_h(0)%start_index(j,i)
1150                   sums_l(nzb,99,tn)  = sums_l(nzb,99,tn)   +                                      &
1151                                        surf_usm_h(0)%rad_net(m)    * rmask(j,i,sr)
1152                   sums_l(nzb,100,tn) = sums_l(nzb,100,tn)  +                                      &
1153                                        surf_usm_h(0)%rad_lw_in(m)  * rmask(j,i,sr)
1154                   sums_l(nzb,101,tn) = sums_l(nzb,101,tn)  +                                      &
1155                                        surf_usm_h(0)%rad_lw_out(m) * rmask(j,i,sr)
1156                   sums_l(nzb,102,tn) = sums_l(nzb,102,tn)  +                                      &
1157                                        surf_usm_h(0)%rad_sw_in(m)  * rmask(j,i,sr)
1158                   sums_l(nzb,103,tn) = sums_l(nzb,103,tn)  +                                      &
1159                                        surf_usm_h(0)%rad_sw_out(m) * rmask(j,i,sr)
1160                ENDIF
1161
1162#if defined ( __rrtmg )
1163                IF ( radiation_scheme == 'rrtmg' )  THEN
1164
1165                   IF ( surf_def_h(0)%end_index(j,i) >= surf_def_h(0)%start_index(j,i) )  THEN
1166                      m = surf_def_h(0)%start_index(j,i)
1167                      sums_l(nzb,108,tn)  = sums_l(nzb,108,tn)  +                                  &
1168                                            surf_def_h(0)%rrtm_aldif(m,0) * rmask(j,i,sr)
1169                      sums_l(nzb,109,tn) = sums_l(nzb,109,tn)  +                                   &
1170                                           surf_def_h(0)%rrtm_aldir(m,0) * rmask(j,i,sr)
1171                      sums_l(nzb,110,tn) = sums_l(nzb,110,tn)  +                                   &
1172                                           surf_def_h(0)%rrtm_asdif(m,0) * rmask(j,i,sr)
1173                      sums_l(nzb,111,tn) = sums_l(nzb,111,tn)  +                                   &
1174                                           surf_def_h(0)%rrtm_asdir(m,0) * rmask(j,i,sr)
1175                   ENDIF
1176                   IF ( surf_lsm_h(0)%end_index(j,i) >= surf_lsm_h(0)%start_index(j,i) )  THEN
1177                      m = surf_lsm_h(0)%start_index(j,i)
1178                      sums_l(nzb,108,tn)  = sums_l(nzb,108,tn)  +                                  &
1179                                            SUM( surf_lsm_h(0)%frac(m,:) *                            &
1180                                                 surf_lsm_h(0)%rrtm_aldif(m,:) ) * rmask(j,i,sr)
1181                      sums_l(nzb,109,tn) = sums_l(nzb,109,tn)  +                                   &
1182                                           SUM( surf_lsm_h(0)%frac(m,:) *                             &
1183                                                surf_lsm_h(0)%rrtm_aldir(m,:) ) * rmask(j,i,sr)
1184                      sums_l(nzb,110,tn) = sums_l(nzb,110,tn)  +                                   &
1185                                           SUM( surf_lsm_h(0)%frac(m,:) *                             &
1186                                                surf_lsm_h(0)%rrtm_asdif(m,:) ) * rmask(j,i,sr)
1187                      sums_l(nzb,111,tn) = sums_l(nzb,111,tn)  +                                   &
1188                                           SUM( surf_lsm_h(0)%frac(m,:) *                             &
1189                                                surf_lsm_h(0)%rrtm_asdir(m,:) ) * rmask(j,i,sr)
1190                   ENDIF
1191                   IF ( surf_usm_h(0)%end_index(j,i) >= surf_usm_h(0)%start_index(j,i) )  THEN
1192                      m = surf_usm_h(0)%start_index(j,i)
1193                      sums_l(nzb,108,tn)  = sums_l(nzb,108,tn)  +                                  &
1194                                            SUM( surf_usm_h(0)%frac(m,:) *                            &
1195                                                 surf_usm_h(0)%rrtm_aldif(m,:) ) * rmask(j,i,sr)
1196                      sums_l(nzb,109,tn) = sums_l(nzb,109,tn)  +                                   &
1197                                           SUM( surf_usm_h(0)%frac(m,:) *                             &
1198                                                surf_usm_h(0)%rrtm_aldir(m,:) ) * rmask(j,i,sr)
1199                      sums_l(nzb,110,tn) = sums_l(nzb,110,tn)  +                                   &
1200                                           SUM( surf_usm_h(0)%frac(m,:) *                             &
1201                                                surf_usm_h(0)%rrtm_asdif(m,:) ) * rmask(j,i,sr)
1202                      sums_l(nzb,111,tn) = sums_l(nzb,111,tn)  +                                   &
1203                                           SUM( surf_usm_h(0)%frac(m,:) *                             &
1204                                                surf_usm_h(0)%rrtm_asdir(m,:) ) * rmask(j,i,sr)
1205                   ENDIF
1206
1207                ENDIF
1208#endif
1209             ENDIF
1210#endif
1211!
1212!--          Subgridscale fluxes at the top surface
1213             IF ( use_top_fluxes )  THEN
1214                m = surf_def_h(2)%start_index(j,i)
1215                !$ACC ATOMIC
1216                sums_l(nzt,12,tn) = sums_l(nzt,12,tn) +                                            &
1217                                    momentumflux_output_conversion(nzt) *                          &
1218                                    surf_def_h(2)%usws(m) * rmask(j,i,sr)    ! w"u"
1219                !$ACC ATOMIC
1220                sums_l(nzt+1,12,tn) = sums_l(nzt+1,12,tn) +                                        &
1221                                      momentumflux_output_conversion(nzt+1) *                      &
1222                                      surf_def_h(2)%usws(m) * rmask(j,i,sr)  ! w"u"
1223                !$ACC ATOMIC
1224                sums_l(nzt,14,tn) = sums_l(nzt,14,tn) +                                            &
1225                                    momentumflux_output_conversion(nzt) *                          &
1226                                    surf_def_h(2)%vsws(m) * rmask(j,i,sr)    ! w"v"
1227                !$ACC ATOMIC
1228                sums_l(nzt+1,14,tn) = sums_l(nzt+1,14,tn) +                                        &
1229                                      momentumflux_output_conversion(nzt+1) *                      &
1230                                      surf_def_h(2)%vsws(m) * rmask(j,i,sr)  ! w"v"
1231                !$ACC ATOMIC
1232                sums_l(nzt,16,tn) = sums_l(nzt,16,tn) +                                            &
1233                                    heatflux_output_conversion(nzt) *                              &
1234                                    surf_def_h(2)%shf(m)  * rmask(j,i,sr)    ! w"pt"
1235                !$ACC ATOMIC
1236                sums_l(nzt+1,16,tn) = sums_l(nzt+1,16,tn) +                                        &
1237                                      heatflux_output_conversion(nzt+1) *                          &
1238                                      surf_def_h(2)%shf(m)  * rmask(j,i,sr)  ! w"pt"
1239#if 0
1240                sums_l(nzt:nzt+1,58,tn) = sums_l(nzt:nzt+1,58,tn) +                                &
1241                                          0.0_wp * rmask(j,i,sr)             ! u"pt"
1242                sums_l(nzt:nzt+1,61,tn) = sums_l(nzt:nzt+1,61,tn) +                                &
1243                                          0.0_wp * rmask(j,i,sr)             ! v"pt"
1244#endif
1245#ifndef _OPENACC
1246                IF ( ocean_mode )  THEN
1247                   sums_l(nzt,65,tn) = sums_l(nzt,65,tn) + &
1248                                       surf_def_h(2)%sasws(m) * rmask(j,i,sr)  ! w"sa"
1249                ENDIF
1250                IF ( humidity )  THEN
1251                   sums_l(nzt,48,tn) = sums_l(nzt,48,tn) +                                         &
1252                                       waterflux_output_conversion(nzt) *                          &
1253                                       surf_def_h(2)%qsws(m) * rmask(j,i,sr) ! w"q" (w"qv")
1254                   sums_l(nzt,45,tn) = sums_l(nzt,45,tn) +   (                                     &
1255                                       ( 1.0_wp + 0.61_wp * q(nzt,j,i) ) *                         &
1256                                       surf_def_h(2)%shf(m) +                                      &
1257                                       0.61_wp * pt(nzt,j,i) *                                     &
1258                                       surf_def_h(2)%qsws(m) )                                     &
1259                                       * heatflux_output_conversion(nzt)
1260                   IF ( cloud_droplets )  THEN
1261                      sums_l(nzt,45,tn) = sums_l(nzt,45,tn) +    (                                 &
1262                                          ( 1.0_wp + 0.61_wp * q(nzt,j,i) -                        &
1263                                            ql(nzt,j,i) ) *                                        &
1264                                            surf_def_h(2)%shf(m) +                                 &
1265                                           0.61_wp * pt(nzt,j,i) *                                 &
1266                                           surf_def_h(2)%qsws(m) )                                 &
1267                                           * heatflux_output_conversion(nzt)
1268                   ENDIF
1269                   IF ( bulk_cloud_model )  THEN
1270!
1271!--                   Formula does not work if ql(nzb) /= 0.0
1272                      sums_l(nzt,51,tn) = sums_l(nzt,51,tn) +              &  ! w"q" (w"qv")
1273                                          waterflux_output_conversion(nzt) *                       &
1274                                          surf_def_h(2)%qsws(m) * rmask(j,i,sr)
1275                   ENDIF
1276                ENDIF
1277                IF ( passive_scalar )  THEN
1278                   sums_l(nzt,117,tn) = sums_l(nzt,117,tn) +                                       &
1279                                        surf_def_h(2)%ssws(m) * rmask(j,i,sr) ! w"s"
1280                ENDIF
1281#endif
1282             ENDIF
1283
1284!
1285!--          Resolved fluxes (can be computed for all horizontal points)
1286!--          NOTE: for simplicity, nzb_s_inner is used below, although strictly speaking the
1287!--          ----  following k-loop would have to be split up and rearranged according to the
1288!--                staggered grid.
1289             DO  k = nzb, nzt
1290                flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 22 ) )
1291                ust = 0.5_wp * ( u(k,j,i)   - hom(k,1,1,sr) +                                      &
1292                                 u(k+1,j,i) - hom(k+1,1,1,sr) )
1293                vst = 0.5_wp * ( v(k,j,i)   - hom(k,1,2,sr) +                                      &
1294                                 v(k+1,j,i) - hom(k+1,1,2,sr) )
1295                pts = 0.5_wp * ( pt(k,j,i)   - hom(k,1,4,sr) +                                     &
1296                                 pt(k+1,j,i) - hom(k+1,1,4,sr) )
1297!
1298!--             Higher moments
1299                !$ACC ATOMIC
1300                sums_l(k,35,tn) = sums_l(k,35,tn) + pts * w(k,j,i)**2 * rmask(j,i,sr) * flag
1301                !$ACC ATOMIC
1302                sums_l(k,36,tn) = sums_l(k,36,tn) + pts**2 * w(k,j,i) * rmask(j,i,sr) * flag
1303
1304!
1305!--             Salinity flux and density (density does not belong to here, but so far there is no
1306!--             other suitable place to calculate)
1307#ifndef _OPENACC
1308                IF ( ocean_mode )  THEN
1309                   IF( .NOT. ws_scheme_sca .OR. sr /= 0 )  THEN
1310                      pts = 0.5_wp * ( sa(k,j,i)   - hom(k,1,23,sr) +                              &
1311                                       sa(k+1,j,i) - hom(k+1,1,23,sr) )
1312                      sums_l(k,66,tn) = sums_l(k,66,tn) + pts * w(k,j,i) *                         &
1313                                        rmask(j,i,sr) * flag
1314                   ENDIF
1315                   sums_l(k,64,tn) = sums_l(k,64,tn) + rho_ocean(k,j,i) * rmask(j,i,sr) * flag
1316                   sums_l(k,71,tn) = sums_l(k,71,tn) + prho(k,j,i)      * rmask(j,i,sr) * flag
1317                ENDIF
1318
1319!
1320!--             Buoyancy flux, water flux, humidity flux, liquid water content, rain drop
1321!--             concentration and rain water content
1322                IF ( humidity )  THEN
1323                   IF ( bulk_cloud_model  .OR.  cloud_droplets )  THEN
1324                      pts = 0.5_wp * ( vpt(k,j,i)   - hom(k,1,44,sr) +                             &
1325                                       vpt(k+1,j,i) - hom(k+1,1,44,sr) )
1326                      sums_l(k,46,tn) = sums_l(k,46,tn) + pts * w(k,j,i) *                         &
1327                                                          rho_air_zw(k) *                          &
1328                                                          heatflux_output_conversion(k) *          &
1329                                                          rmask(j,i,sr) * flag
1330                      sums_l(k,54,tn) = sums_l(k,54,tn) + ql(k,j,i) * rmask(j,i,sr) * flag
1331
1332                      IF ( .NOT. cloud_droplets )  THEN
1333                         pts = 0.5_wp *                                                            &
1334                               ( ( q(k,j,i) - ql(k,j,i) ) -                                        &
1335                               hom(k,1,42,sr) +                                                    &
1336                               ( q(k+1,j,i) - ql(k+1,j,i) ) -                                      &
1337                               hom(k+1,1,42,sr) )
1338                         sums_l(k,52,tn) = sums_l(k,52,tn) + pts * w(k,j,i) *                      &
1339                                             rho_air_zw(k) *                                       &
1340                                             waterflux_output_conversion(k) *                      &
1341                                             rmask(j,i,sr) * flag
1342                         sums_l(k,75,tn) = sums_l(k,75,tn) + qc(k,j,i)  * rmask(j,i,sr) * flag
1343                         sums_l(k,76,tn) = sums_l(k,76,tn) + prr(k,j,i) * rmask(j,i,sr) * flag
1344                         IF ( microphysics_morrison )  THEN
1345                            sums_l(k,123,tn) = sums_l(k,123,tn) + nc(k,j,i) * rmask(j,i,sr) * flag
1346                         ENDIF
1347                         IF ( microphysics_ice_phase )  THEN
1348                            sums_l(k,124,tn) = sums_l(k,124,tn) + ni(k,j,i) * rmask(j,i,sr) * flag
1349                            sums_l(k,125,tn) = sums_l(k,125,tn) + qi(k,j,i) * rmask(j,i,sr) * flag
1350                         ENDIF
1351
1352                         IF ( microphysics_seifert )  THEN
1353                            sums_l(k,73,tn) = sums_l(k,73,tn) + nr(k,j,i) * rmask(j,i,sr) * flag
1354                            sums_l(k,74,tn) = sums_l(k,74,tn) + qr(k,j,i) * rmask(j,i,sr) * flag
1355                         ENDIF
1356                      ENDIF
1357
1358                   ELSE
1359                      IF( .NOT. ws_scheme_sca  .OR.  sr /= 0 )  THEN
1360                         pts = 0.5_wp * ( vpt(k,j,i)   - hom(k,1,44,sr) +                          &
1361                                          vpt(k+1,j,i) - hom(k+1,1,44,sr) )
1362                         sums_l(k,46,tn) = sums_l(k,46,tn) + pts * w(k,j,i) *                      &
1363                                                             rho_air_zw(k)  *                      &
1364                                                             heatflux_output_conversion(k) *       &
1365                                                             rmask(j,i,sr)  * flag
1366                      ELSE IF ( ws_scheme_sca  .AND.  sr == 0 )  THEN
1367                         sums_l(k,46,tn) = ( ( 1.0_wp + 0.61_wp *                                  &
1368                                               hom(k,1,41,sr) ) *                                  &
1369                                             sums_l(k,17,tn) +                                     &
1370                                             0.61_wp * hom(k,1,4,sr) *                             &
1371                                             sums_l(k,49,tn)                                       &
1372                                           ) * heatflux_output_conversion(k) * flag
1373                      END IF
1374                   END IF
1375                ENDIF
1376!
1377!--             Passive scalar flux
1378                IF ( passive_scalar  .AND.  ( .NOT. ws_scheme_sca .OR. sr /= 0 ) )  THEN
1379                   pts = 0.5_wp * ( s(k,j,i)   - hom(k,1,115,sr) +                                 &
1380                                    s(k+1,j,i) - hom(k+1,1,115,sr) )
1381                   sums_l(k,114,tn) = sums_l(k,114,tn) + pts * w(k,j,i) * rmask(j,i,sr) * flag
1382                ENDIF
1383#endif
1384
1385!
1386!--             Energy flux w*e*
1387!--             has to be adjusted
1388                !$ACC ATOMIC
1389                sums_l(k,37,tn) = sums_l(k,37,tn) + w(k,j,i) * 0.5_wp *                            &
1390                                                    ( ust**2 + vst**2 + w(k,j,i)**2 )              &
1391                                                    * rho_air_zw(k)                                &
1392                                                    * momentumflux_output_conversion(k)            &
1393                                                    * rmask(j,i,sr) * flag
1394             ENDDO
1395          ENDDO
1396       ENDDO
1397       !$OMP END PARALLEL
1398
1399       !$ACC UPDATE &
1400       !$ACC HOST(sums_l(:,12,tn), sums_l(:,14,tn), sums_l(:,16,tn)) &
1401       !$ACC HOST(sums_l(:,35,tn), sums_l(:,36,tn), sums_l(:,37,tn))
1402!
1403!--    Treat land-surface quantities according to new wall model structure.
1404       IF ( land_surface )  THEN
1405          tn = 0
1406          !$OMP PARALLEL PRIVATE( i, j, m, tn )
1407          !$ tn = omp_get_thread_num()
1408          !$OMP DO
1409          DO  m = 1, surf_lsm_h(0)%ns
1410             i = surf_lsm_h(0)%i(m)
1411             j = surf_lsm_h(0)%j(m)
1412
1413             IF ( i >= nxl  .AND.  i <= nxr  .AND.  j >= nys  .AND.  j <= nyn )  THEN
1414                sums_l(nzb,93,tn)  = sums_l(nzb,93,tn) + surf_lsm_h(0)%ghf(m)       * rmask(j,i,sr)
1415                sums_l(nzb,94,tn)  = sums_l(nzb,94,tn) + surf_lsm_h(0)%qsws_liq(m)  * rmask(j,i,sr)
1416                sums_l(nzb,95,tn)  = sums_l(nzb,95,tn) + surf_lsm_h(0)%qsws_soil(m) * rmask(j,i,sr)
1417                sums_l(nzb,96,tn)  = sums_l(nzb,96,tn) + surf_lsm_h(0)%qsws_veg(m)  * rmask(j,i,sr)
1418                sums_l(nzb,97,tn)  = sums_l(nzb,97,tn) + surf_lsm_h(0)%r_a(m)       * rmask(j,i,sr)
1419                sums_l(nzb,98,tn)  = sums_l(nzb,98,tn) + surf_lsm_h(0)%r_s(m)       * rmask(j,i,sr)
1420             ENDIF
1421          ENDDO
1422          !$OMP END PARALLEL
1423
1424          tn = 0
1425          !$OMP PARALLEL PRIVATE( i, j, k, m, tn )
1426          !$ tn = omp_get_thread_num()
1427          !$OMP DO
1428          DO  m = 1, surf_lsm_h(0)%ns
1429
1430             i = surf_lsm_h(0)%i(m)
1431             j = surf_lsm_h(0)%j(m)
1432
1433             IF ( i >= nxl  .AND.  i <= nxr  .AND.  j >= nys  .AND.  j <= nyn )  THEN
1434
1435                DO  k = nzb_soil, nzt_soil
1436                   sums_l(k,89,tn)  = sums_l(k,89,tn)  + t_soil_h(0)%var_2d(k,m) * rmask(j,i,sr)
1437                   sums_l(k,91,tn)  = sums_l(k,91,tn)  + m_soil_h(0)%var_2d(k,m) * rmask(j,i,sr)
1438                ENDDO
1439             ENDIF
1440          ENDDO
1441          !$OMP END PARALLEL
1442       ENDIF
1443!
1444!--    For speed optimization fluxes which have been computed in part directly inside the WS
1445!--    advection routines are treated seperatly.
1446!--    Momentum fluxes first:
1447
1448       tn = 0
1449       !$OMP PARALLEL PRIVATE( i, j, k, tn, flag )
1450       !$ tn = omp_get_thread_num()
1451       IF ( .NOT. ws_scheme_mom .OR. sr /= 0  )  THEN
1452          !$OMP DO
1453          DO  i = nxl, nxr
1454             DO  j = nys, nyn
1455                DO  k = nzb, nzt
1456!
1457!--                Flag 23 is used to mask surface fluxes as well as model-top fluxes, which are
1458!--                added further below.
1459                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 23 ) ) *        &
1460                          MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 9  ) )
1461
1462                   ust = 0.5_wp * ( u(k,j,i)   - hom(k,1,1,sr) +                                   &
1463                                    u(k+1,j,i) - hom(k+1,1,1,sr) )
1464                   vst = 0.5_wp * ( v(k,j,i)   - hom(k,1,2,sr) +                                   &
1465                                    v(k+1,j,i) - hom(k+1,1,2,sr) )
1466!
1467!--                Momentum flux w*u*
1468                   sums_l(k,13,tn) = sums_l(k,13,tn) + 0.5_wp *                                    &
1469                                                     ( w(k,j,i-1) + w(k,j,i) )                     &
1470                                                     * rho_air_zw(k)                               &
1471                                                     * momentumflux_output_conversion(k)           &
1472                                                     * ust * rmask(j,i,sr)                         &
1473                                                           * flag
1474!
1475!--                Momentum flux w*v*
1476                   sums_l(k,15,tn) = sums_l(k,15,tn) + 0.5_wp * ( w(k,j-1,i) + w(k,j,i) )          &
1477                                                     * rho_air_zw(k)                               &
1478                                                     * momentumflux_output_conversion(k)           &
1479                                                     * vst * rmask(j,i,sr)                         &
1480                                                           * flag
1481                ENDDO
1482             ENDDO
1483          ENDDO
1484
1485       ENDIF
1486       IF ( .NOT. ws_scheme_sca .OR. sr /= 0 )  THEN
1487          !$OMP DO
1488          DO  i = nxl, nxr
1489             DO  j = nys, nyn
1490                DO  k = nzb, nzt
1491                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 23 ) ) *        &
1492                          MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 9  ) )
1493!
1494!--                Vertical heat flux
1495                   sums_l(k,17,tn) = sums_l(k,17,tn) + 0.5_wp *                                    &
1496                                     ( pt(k,j,i)   - hom(k,1,4,sr) +                               &
1497                                       pt(k+1,j,i) - hom(k+1,1,4,sr) )                             &
1498                                     * rho_air_zw(k)                                               &
1499                                     * heatflux_output_conversion(k)                               &
1500                                     * w(k,j,i) * rmask(j,i,sr) * flag
1501                   IF ( humidity )  THEN
1502                      pts = 0.5_wp * ( q(k,j,i)   - hom(k,1,41,sr) +                               &
1503                                       q(k+1,j,i) - hom(k+1,1,41,sr) )
1504                      sums_l(k,49,tn) = sums_l(k,49,tn) + pts * w(k,j,i) *                         &
1505                                                          rho_air_zw(k)  *                         &
1506                                                          waterflux_output_conversion(k) *         &
1507                                                          rmask(j,i,sr)  * flag
1508                   ENDIF
1509                   IF ( passive_scalar )  THEN
1510                      pts = 0.5_wp * ( s(k,j,i)   - hom(k,1,115,sr) +                              &
1511                                       s(k+1,j,i) - hom(k+1,1,115,sr) )
1512                      sums_l(k,114,tn) = sums_l(k,114,tn) + pts * w(k,j,i) *  rmask(j,i,sr) * flag
1513                   ENDIF
1514                ENDDO
1515             ENDDO
1516          ENDDO
1517
1518       ENDIF
1519
1520!
1521!--    Density at top follows Neumann condition
1522       IF ( ocean_mode )  THEN
1523          sums_l(nzt+1,64,tn) = sums_l(nzt,64,tn)
1524          sums_l(nzt+1,71,tn) = sums_l(nzt,71,tn)
1525       ENDIF
1526
1527!
1528!--    Divergence of vertical flux of resolved scale energy and pressure fluctuations as well as
1529!--    flux of pressure fluctuation itself (68).
1530!--    First calculate the products, then the divergence.
1531!--    Calculation is time consuming. Do it only, if profiles shall be plotted.
1532       IF ( hom(nzb+1,2,55,0) /= 0.0_wp  .OR.  hom(nzb+1,2,68,0) /= 0.0_wp )  THEN
1533          sums_ll = 0.0_wp  ! local array
1534
1535          !$OMP DO
1536          DO  i = nxl, nxr
1537             DO  j = nys, nyn
1538                DO  k = nzb+1, nzt
1539                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 0 ) )
1540
1541                   sums_ll(k,1) = sums_ll(k,1) + 0.5_wp * w(k,j,i) * (                             &
1542                                    ( 0.25_wp * ( u(k,j,i)+u(k+1,j,i)+u(k,j,i+1)+u(k+1,j,i+1) )    &
1543                                              - 0.5_wp * ( hom(k,1,1,sr) + hom(k+1,1,1,sr) ) )**2  &
1544                                  + ( 0.25_wp * ( v(k,j,i)+v(k+1,j,i)+v(k,j+1,i)+v(k+1,j+1,i) )    &
1545                                              - 0.5_wp * ( hom(k,1,2,sr) + hom(k+1,1,2,sr) ) )**2  &
1546                                  + w(k,j,i)**2                      ) * flag * rmask(j,i,sr)
1547
1548                   sums_ll(k,2) = sums_ll(k,2) + 0.5_wp * w(k,j,i)                                 &
1549                                       * ( ( p(k,j,i) + p(k+1,j,i) )                               &
1550                                         / momentumflux_output_conversion(k) )                     &
1551                                       * flag * rmask(j,i,sr)
1552
1553                ENDDO
1554             ENDDO
1555          ENDDO
1556          sums_ll(0,1)     = 0.0_wp    ! because w is zero at the bottom
1557          sums_ll(nzt+1,1) = 0.0_wp
1558          sums_ll(0,2)     = 0.0_wp
1559          sums_ll(nzt+1,2) = 0.0_wp
1560
1561          DO  k = nzb+1, nzt
1562             sums_l(k,55,tn) = ( sums_ll(k,1) - sums_ll(k-1,1) ) * ddzw(k)
1563             sums_l(k,56,tn) = ( sums_ll(k,2) - sums_ll(k-1,2) ) * ddzw(k)
1564             sums_l(k,68,tn) = sums_ll(k,2)
1565          ENDDO
1566          sums_l(nzb,55,tn) = sums_l(nzb+1,55,tn)
1567          sums_l(nzb,56,tn) = sums_l(nzb+1,56,tn)
1568          sums_l(nzb,68,tn) = 0.0_wp    ! because w* = 0 at nzb
1569
1570       ENDIF
1571
1572!
1573!--    Divergence of vertical flux of SGS TKE and the flux itself (69)
1574       IF ( hom(nzb+1,2,57,0) /= 0.0_wp  .OR.  hom(nzb+1,2,69,0) /= 0.0_wp )  THEN
1575          !$OMP DO
1576          DO  i = nxl, nxr
1577             DO  j = nys, nyn
1578                DO  k = nzb+1, nzt
1579
1580                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 0 ) )
1581
1582                   sums_l(k,57,tn) = sums_l(k,57,tn) - 0.5_wp * (                                  &
1583                                       (km(k,j,i)+km(k+1,j,i)) * (e(k+1,j,i)-e(k,j,i)) * ddzu(k+1) &
1584                                     - (km(k-1,j,i)+km(k,j,i)) * (e(k,j,i)-e(k-1,j,i)) * ddzu(k)   &
1585                                                                ) * ddzw(k)                        &
1586                                                                  * flag * rmask(j,i,sr)
1587
1588                   sums_l(k,69,tn) = sums_l(k,69,tn) - 0.5_wp * (                                  &
1589                                        ( km(k,j,i) + km(k+1,j,i) ) *                              &
1590                                        ( e(k+1,j,i) - e(k,j,i) ) * ddzu(k+1)                      &
1591                                                                ) * flag * rmask(j,i,sr)
1592
1593                ENDDO
1594             ENDDO
1595          ENDDO
1596          sums_l(nzb,57,tn) = sums_l(nzb+1,57,tn)
1597          sums_l(nzb,69,tn) = sums_l(nzb+1,69,tn)
1598
1599       ENDIF
1600
1601!
1602!--    Horizontal heat fluxes (subgrid, resolved, total).
1603!--    Do it only, if profiles shall be plotted.
1604       IF ( hom(nzb+1,2,58,0) /= 0.0_wp ) THEN
1605
1606          !$OMP DO
1607          DO  i = nxl, nxr
1608             DO  j = nys, nyn
1609                DO  k = nzb+1, nzt
1610                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 0 ) )
1611!
1612!--                Subgrid horizontal heat fluxes u"pt", v"pt"
1613                   sums_l(k,58,tn) = sums_l(k,58,tn) - 0.5_wp *                                    &
1614                                                        ( kh(k,j,i) + kh(k,j,i-1) )                &
1615                                                      * ( pt(k,j,i-1) - pt(k,j,i) )                &
1616                                                      * rho_air_zw(k)                              &
1617                                                      * heatflux_output_conversion(k)              &
1618                                                      * ddx * rmask(j,i,sr) * flag
1619                   sums_l(k,61,tn) = sums_l(k,61,tn) - 0.5_wp *                                    &
1620                                                        ( kh(k,j,i) + kh(k,j-1,i) )                &
1621                                                      * ( pt(k,j-1,i) - pt(k,j,i) )                &
1622                                                      * rho_air_zw(k)                              &
1623                                                      * heatflux_output_conversion(k)              &
1624                                                      * ddy * rmask(j,i,sr) * flag
1625!
1626!--                Resolved horizontal heat fluxes u*pt*, v*pt*
1627                   sums_l(k,59,tn) = sums_l(k,59,tn) +              ( u(k,j,i) - hom(k,1,1,sr) )   &
1628                                                      * 0.5_wp * ( pt(k,j,i-1) - hom(k,1,4,sr) +   &
1629                                                                   pt(k,j,i)   - hom(k,1,4,sr) )   &
1630                                                                 * heatflux_output_conversion(k)   &
1631                                                                 * flag
1632                   pts = 0.5_wp * ( pt(k,j-1,i) - hom(k,1,4,sr) +                                  &
1633                                    pt(k,j,i)   - hom(k,1,4,sr) )
1634                   sums_l(k,62,tn) = sums_l(k,62,tn) +              ( v(k,j,i) - hom(k,1,2,sr) )   &
1635                                                      * 0.5_wp * ( pt(k,j-1,i) - hom(k,1,4,sr) +   &
1636                                                                   pt(k,j,i)   - hom(k,1,4,sr) )   &
1637                                                                 * heatflux_output_conversion(k)   &
1638                                                                 * flag
1639                ENDDO
1640             ENDDO
1641          ENDDO
1642!
1643!--       Fluxes at the surface must be zero (e.g. due to the Prandtl-layer)
1644          sums_l(nzb,58,tn) = 0.0_wp
1645          sums_l(nzb,59,tn) = 0.0_wp
1646          sums_l(nzb,60,tn) = 0.0_wp
1647          sums_l(nzb,61,tn) = 0.0_wp
1648          sums_l(nzb,62,tn) = 0.0_wp
1649          sums_l(nzb,63,tn) = 0.0_wp
1650
1651       ENDIF
1652       !$OMP END PARALLEL
1653
1654!
1655!--    Collect current large scale advection and subsidence tendencies for
1656!--    data output
1657       IF ( large_scale_forcing  .AND.  ( simulated_time > 0.0_wp ) )  THEN
1658!
1659!--       Interpolation in time of LSF_DATA
1660          nt = 1
1661          DO WHILE ( simulated_time - dt_3d > time_vert(nt) )
1662             nt = nt + 1
1663          ENDDO
1664          IF ( simulated_time - dt_3d /= time_vert(nt) )  THEN
1665            nt = nt - 1
1666          ENDIF
1667
1668          fac = ( simulated_time - dt_3d - time_vert(nt) ) / ( time_vert(nt+1)-time_vert(nt) )
1669
1670
1671          DO  k = nzb, nzt
1672             sums_ls_l(k,0) = td_lsa_lpt(k,nt) + fac * ( td_lsa_lpt(k,nt+1) - td_lsa_lpt(k,nt) )
1673             sums_ls_l(k,1) = td_lsa_q(k,nt)   + fac * ( td_lsa_q(k,nt+1)   - td_lsa_q(k,nt) )
1674          ENDDO
1675
1676          sums_ls_l(nzt+1,0) = sums_ls_l(nzt,0)
1677          sums_ls_l(nzt+1,1) = sums_ls_l(nzt,1)
1678
1679          IF ( large_scale_subsidence  .AND.  use_subsidence_tendencies )  THEN
1680
1681             DO  k = nzb, nzt
1682                sums_ls_l(k,2) = td_sub_lpt(k,nt) + fac * ( td_sub_lpt(k,nt+1) - td_sub_lpt(k,nt) )
1683                sums_ls_l(k,3) = td_sub_q(k,nt)   + fac * ( td_sub_q(k,nt+1)   - td_sub_q(k,nt) )
1684             ENDDO
1685
1686             sums_ls_l(nzt+1,2) = sums_ls_l(nzt,2)
1687             sums_ls_l(nzt+1,3) = sums_ls_l(nzt,3)
1688
1689          ENDIF
1690
1691       ENDIF
1692
1693       tn = 0
1694       !$OMP PARALLEL PRIVATE( i, j, k, tn )
1695       !$ tn = omp_get_thread_num()
1696       IF ( radiation  .AND.  radiation_scheme == 'rrtmg' )  THEN
1697          !$OMP DO
1698          DO  i = nxl, nxr
1699             DO  j =  nys, nyn
1700                DO  k = nzb+1, nzt+1
1701                   flag = MERGE( 1.0_wp, 0.0_wp, BTEST( wall_flags_total_0(k,j,i), 0 ) )
1702
1703                   sums_l(k,100,tn)  = sums_l(k,100,tn) + rad_lw_in(k,j,i)    * rmask(j,i,sr) * flag
1704                   sums_l(k,101,tn)  = sums_l(k,101,tn) + rad_lw_out(k,j,i)   * rmask(j,i,sr) * flag
1705                   sums_l(k,102,tn)  = sums_l(k,102,tn) + rad_sw_in(k,j,i)    * rmask(j,i,sr) * flag
1706                   sums_l(k,103,tn)  = sums_l(k,103,tn) + rad_sw_out(k,j,i)   * rmask(j,i,sr) * flag
1707                   sums_l(k,104,tn)  = sums_l(k,104,tn) + rad_lw_cs_hr(k,j,i) * rmask(j,i,sr) * flag
1708                   sums_l(k,105,tn)  = sums_l(k,105,tn) + rad_lw_hr(k,j,i)    * rmask(j,i,sr) * flag
1709                   sums_l(k,106,tn)  = sums_l(k,106,tn) + rad_sw_cs_hr(k,j,i) * rmask(j,i,sr) * flag
1710                   sums_l(k,107,tn)  = sums_l(k,107,tn) + rad_sw_hr(k,j,i)    * rmask(j,i,sr) * flag
1711                ENDDO
1712             ENDDO
1713          ENDDO
1714       ENDIF
1715
1716!
1717!--    Calculate the profiles for all other modules
1718       CALL module_interface_statistics( 'profiles', sr, tn, dots_max )
1719       !$OMP END PARALLEL
1720
1721!
1722!--    Summation of thread sums
1723       IF ( threads_per_task > 1 )  THEN
1724          DO  i = 1, threads_per_task-1
1725             sums_l(:,3,0)          = sums_l(:,3,0) + sums_l(:,3,i)
1726             sums_l(:,4:40,0)       = sums_l(:,4:40,0) + sums_l(:,4:40,i)
1727             sums_l(:,45:pr_palm,0) = sums_l(:,45:pr_palm,0) + &
1728                                      sums_l(:,45:pr_palm,i)
1729             IF ( max_pr_user > 0 )  THEN
1730                sums_l(:,pr_palm+1:pr_palm+max_pr_user,0) =                                        &
1731                                                       sums_l(:,pr_palm+1:pr_palm+max_pr_user,0) + &
1732                                                       sums_l(:,pr_palm+1:pr_palm+max_pr_user,i)
1733             ENDIF
1734
1735             IF ( air_chemistry )  THEN
1736                IF ( max_pr_cs > 0 )  THEN
1737                     sums_l(:,pr_palm+max_pr_user+1:pr_palm + max_pr_user+ max_pr_cs,0) =          &
1738                               sums_l(:,pr_palm+max_pr_user+1:pr_palm + max_pr_user+max_pr_cs,0) + &
1739                               sums_l(:,pr_palm+max_pr_user+1:pr_palm + max_pr_user+max_pr_cs,i)
1740
1741                ENDIF
1742             ENDIF
1743             IF ( salsa )  THEN
1744                IF ( max_pr_cs > 0 )  THEN
1745                   sums_l(:,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa,0) =    &
1746                      sums_l(:,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa,0) + &
1747                      sums_l(:,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa,i)
1748
1749                ENDIF
1750             ENDIF
1751          ENDDO
1752       ENDIF
1753
1754#if defined( __parallel )
1755
1756!
1757!--    Compute total sum from local sums
1758       IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
1759       CALL MPI_ALLREDUCE( sums_l(nzb,1,0), sums(nzb,1), ngp_sums, MPI_REAL, MPI_SUM, comm2d, ierr )
1760       IF ( large_scale_forcing )  THEN
1761          CALL MPI_ALLREDUCE( sums_ls_l(nzb,2), sums(nzb,83), ngp_sums_ls, MPI_REAL, MPI_SUM,      &
1762                              comm2d, ierr )
1763       ENDIF
1764
1765       IF ( air_chemistry  .AND.  max_pr_cs > 0 )  THEN
1766          IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
1767          DO  i = 1, max_pr_cs
1768             CALL MPI_ALLREDUCE( sums_l(nzb,pr_palm+max_pr_user+i,0),                              &
1769                                 sums(nzb,pr_palm+max_pr_user+i),                                  &
1770                                 nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d, ierr )
1771          ENDDO
1772       ENDIF
1773
1774       IF ( salsa  .AND.  max_pr_salsa > 0 )  THEN
1775          IF ( collective_wait )  CALL MPI_BARRIER( comm2d, ierr )
1776          DO  i = 1, max_pr_salsa
1777             CALL MPI_ALLREDUCE( sums_l(nzb,pr_palm+max_pr_user+max_pr_cs+i,0),                    &
1778                                 sums(nzb,pr_palm+max_pr_user+max_pr_user+i),                      &
1779                                 nzt+2-nzb, MPI_REAL, MPI_SUM, comm2d, ierr )
1780          ENDDO
1781       ENDIF
1782
1783#else
1784       sums = sums_l(:,:,0)
1785       IF ( large_scale_forcing )  THEN
1786          sums(:,81:88) = sums_ls_l
1787       ENDIF
1788#endif
1789
1790!
1791!--    Final values are obtained by division by the total number of grid points used for summation.
1792!--    After that store profiles.
1793!--    Check, if statistical regions do contain at least one grid point at the respective k-level,
1794!--    otherwise division by zero will lead to undefined values, which may cause e.g. problems with
1795!--    NetCDF output.
1796!--    Profiles:
1797       DO  k = nzb, nzt+1
1798          sums(k,3)             = sums(k,3)             / ngp_2dh(sr)
1799          sums(k,12:22)         = sums(k,12:22)         / ngp_2dh(sr)
1800          sums(k,30:32)         = sums(k,30:32)         / ngp_2dh(sr)
1801          sums(k,35:39)         = sums(k,35:39)         / ngp_2dh(sr)
1802          sums(k,45:53)         = sums(k,45:53)         / ngp_2dh(sr)
1803          sums(k,55:63)         = sums(k,55:63)         / ngp_2dh(sr)
1804          sums(k,81:88)         = sums(k,81:88)         / ngp_2dh(sr)
1805          sums(k,89:112)        = sums(k,89:112)        / ngp_2dh(sr)
1806          sums(k,114)           = sums(k,114)           / ngp_2dh(sr)
1807          sums(k,117)           = sums(k,117)           / ngp_2dh(sr)
1808          IF ( ngp_2dh_s_inner(k,sr) /= 0 )  THEN
1809             sums(k,8:11)          = sums(k,8:11)          / ngp_2dh_s_inner(k,sr)
1810             sums(k,23:29)         = sums(k,23:29)         / ngp_2dh_s_inner(k,sr)
1811             sums(k,33:34)         = sums(k,33:34)         / ngp_2dh_s_inner(k,sr)
1812             sums(k,40)            = sums(k,40)            / ngp_2dh_s_inner(k,sr)
1813             sums(k,54)            = sums(k,54)            / ngp_2dh_s_inner(k,sr)
1814             sums(k,64)            = sums(k,64)            / ngp_2dh_s_inner(k,sr)
1815             sums(k,70:80)         = sums(k,70:80)         / ngp_2dh_s_inner(k,sr)
1816             sums(k,116)           = sums(k,116)           / ngp_2dh_s_inner(k,sr)
1817             sums(k,118:pr_palm-2) = sums(k,118:pr_palm-2) / ngp_2dh_s_inner(k,sr)
1818             sums(k,123:125)       = sums(k,123:125) * ngp_2dh_s_inner(k,sr)  / ngp_2dh(sr)
1819          ENDIF
1820       ENDDO
1821
1822!--    u* and so on
1823!--    As sums(nzb:nzb+3,pr_palm) are full 2D arrays (us, usws, vsws, ts) whose size is always
1824!--    ( nx + 1 ) * ( ny + 1 ), defined at the first grid layer above the topography, they are
1825!--    divided by ngp_2dh(sr)
1826       sums(nzb:nzb+3,pr_palm)    = sums(nzb:nzb+3,pr_palm)  /  ngp_2dh(sr)
1827       sums(nzb+12,pr_palm)       = sums(nzb+12,pr_palm)     /  ngp_2dh(sr)    ! qs
1828       sums(nzb+13,pr_palm)       = sums(nzb+13,pr_palm)     /  ngp_2dh(sr)    ! ss
1829       sums(nzb+14,pr_palm)       = sums(nzb+14,pr_palm)     /  ngp_2dh(sr)    ! surface temperature
1830
1831!--    eges, e*
1832       sums(nzb+4:nzb+5,pr_palm)  = sums(nzb+4:nzb+5,pr_palm)  /  ngp_3d(sr)
1833!--    Old and new divergence
1834       sums(nzb+9:nzb+10,pr_palm) = sums(nzb+9:nzb+10,pr_palm) /  ngp_3d_inner(sr)
1835
1836!--    User-defined profiles
1837       IF ( max_pr_user > 0 )  THEN
1838          DO  k = nzb, nzt+1
1839             sums(k,pr_palm+1:pr_palm+max_pr_user) =  sums(k,pr_palm+1:pr_palm+max_pr_user) /      &
1840                                                      ngp_2dh_s_inner(k,sr)
1841          ENDDO
1842       ENDIF
1843
1844       IF ( air_chemistry )  THEN
1845          IF ( max_pr_cs > 0 )  THEN
1846             DO k = nzb, nzt+1
1847                sums(k, pr_palm+1:pr_palm+max_pr_user+max_pr_cs) =                                 &
1848                                                sums(k, pr_palm+1:pr_palm+max_pr_user+max_pr_cs) / &
1849                                                ngp_2dh_s_inner(k,sr)
1850             ENDDO
1851          ENDIF
1852       ENDIF
1853
1854       IF ( salsa )  THEN
1855          IF ( max_pr_salsa > 0 )  THEN
1856             DO k = nzb, nzt+1
1857                sums(k,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa) = &
1858                  sums(k,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa) &
1859                  / ngp_2dh_s_inner(k,sr)
1860             ENDDO
1861          ENDIF
1862       ENDIF
1863
1864!
1865!--    Collect horizontal average in hom.
1866!--    Compute deduced averages (e.g. total heat flux)
1867       hom(:,1,3,sr)  = sums(:,3)      ! w
1868       hom(:,1,8,sr)  = sums(:,8)      ! e     profiles 5-7 are initial profiles
1869       hom(:,1,9,sr)  = sums(:,9)      ! km
1870       hom(:,1,10,sr) = sums(:,10)     ! kh
1871       hom(:,1,11,sr) = sums(:,11)     ! l
1872       hom(:,1,12,sr) = sums(:,12)     ! w"u"
1873       hom(:,1,13,sr) = sums(:,13)     ! w*u*
1874       hom(:,1,14,sr) = sums(:,14)     ! w"v"
1875       hom(:,1,15,sr) = sums(:,15)     ! w*v*
1876       hom(:,1,16,sr) = sums(:,16)     ! w"pt"
1877       hom(:,1,17,sr) = sums(:,17)     ! w*pt*
1878       hom(:,1,18,sr) = sums(:,16) + sums(:,17)    ! wpt
1879       hom(:,1,19,sr) = sums(:,12) + sums(:,13)    ! wu
1880       hom(:,1,20,sr) = sums(:,14) + sums(:,15)    ! wv
1881       hom(:,1,21,sr) = sums(:,21)     ! w*pt*BC
1882       hom(:,1,22,sr) = sums(:,16) + sums(:,21)    ! wptBC
1883                                       ! profile 24 is initial profile (sa)
1884                                       ! profiles 25-29 left empty for initial
1885                                       ! profiles
1886       hom(:,1,30,sr) = sums(:,30)     ! u*2
1887       hom(:,1,31,sr) = sums(:,31)     ! v*2
1888       hom(:,1,32,sr) = sums(:,32)     ! w*2
1889       hom(:,1,33,sr) = sums(:,33)     ! pt*2
1890       hom(:,1,34,sr) = sums(:,34)     ! e*
1891       hom(:,1,35,sr) = sums(:,35)     ! w*2pt*
1892       hom(:,1,36,sr) = sums(:,36)     ! w*pt*2
1893       hom(:,1,37,sr) = sums(:,37)     ! w*e*
1894       hom(:,1,38,sr) = sums(:,38)     ! w*3
1895       hom(:,1,39,sr) = sums(:,38) / ( ABS( sums(:,32) ) + 1E-20_wp )**1.5_wp   ! Sw
1896       hom(:,1,40,sr) = sums(:,40)     ! p
1897       hom(:,1,45,sr) = sums(:,45)     ! w"vpt"
1898       hom(:,1,46,sr) = sums(:,46)     ! w*vpt*
1899       hom(:,1,47,sr) = sums(:,45) + sums(:,46)    ! wvpt
1900       hom(:,1,48,sr) = sums(:,48)     ! w"q" (w"qv")
1901       hom(:,1,49,sr) = sums(:,49)     ! w*q* (w*qv*)
1902       hom(:,1,50,sr) = sums(:,48) + sums(:,49)    ! wq (wqv)
1903       hom(:,1,51,sr) = sums(:,51)     ! w"qv"
1904       hom(:,1,52,sr) = sums(:,52)     ! w*qv*
1905       hom(:,1,53,sr) = sums(:,52) + sums(:,51)    ! wq (wqv)
1906       hom(:,1,54,sr) = sums(:,54)     ! ql
1907       hom(:,1,55,sr) = sums(:,55)     ! w*u*u*/dz
1908       hom(:,1,56,sr) = sums(:,56)     ! w*p*/dz
1909       hom(:,1,57,sr) = sums(:,57)     ! ( w"e + w"p"/rho_ocean )/dz
1910       hom(:,1,58,sr) = sums(:,58)     ! u"pt"
1911       hom(:,1,59,sr) = sums(:,59)     ! u*pt*
1912       hom(:,1,60,sr) = sums(:,58) + sums(:,59)    ! upt_t
1913       hom(:,1,61,sr) = sums(:,61)     ! v"pt"
1914       hom(:,1,62,sr) = sums(:,62)     ! v*pt*
1915       hom(:,1,63,sr) = sums(:,61) + sums(:,62)    ! vpt_t
1916       hom(:,1,64,sr) = sums(:,64)     ! rho_ocean
1917       hom(:,1,65,sr) = sums(:,65)     ! w"sa"
1918       hom(:,1,66,sr) = sums(:,66)     ! w*sa*
1919       hom(:,1,67,sr) = sums(:,65) + sums(:,66)    ! wsa
1920       hom(:,1,68,sr) = sums(:,68)     ! w*p*
1921       hom(:,1,69,sr) = sums(:,69)     ! w"e + w"p"/rho_ocean
1922       hom(:,1,70,sr) = sums(:,70)     ! q*2
1923       hom(:,1,71,sr) = sums(:,71)     ! prho
1924       hom(:,1,72,sr) = hyp * 1E-2_wp  ! hyp in hPa
1925       hom(:,1,123,sr) = sums(:,123)   ! nc
1926       hom(:,1,124,sr) = sums(:,124)   ! ni
1927       hom(:,1,125,sr) = sums(:,125)   ! qi
1928       hom(:,1,73,sr) = sums(:,73)     ! nr
1929       hom(:,1,74,sr) = sums(:,74)     ! qr
1930       hom(:,1,75,sr) = sums(:,75)     ! qc
1931       hom(:,1,76,sr) = sums(:,76)     ! prr (precipitation rate)
1932                                       ! 77 is initial density profile
1933       hom(:,1,78,sr) = ug             ! ug
1934       hom(:,1,79,sr) = vg             ! vg
1935       hom(:,1,80,sr) = w_subs         ! w_subs
1936
1937       IF ( large_scale_forcing )  THEN
1938          hom(:,1,81,sr) = sums_ls_l(:,0)          ! td_lsa_lpt
1939          hom(:,1,82,sr) = sums_ls_l(:,1)          ! td_lsa_q
1940          IF ( use_subsidence_tendencies )  THEN
1941             hom(:,1,83,sr) = sums_ls_l(:,2)       ! td_sub_lpt
1942             hom(:,1,84,sr) = sums_ls_l(:,3)       ! td_sub_q
1943          ELSE
1944             hom(:,1,83,sr) = sums(:,83)           ! td_sub_lpt
1945             hom(:,1,84,sr) = sums(:,84)           ! td_sub_q
1946          ENDIF
1947          hom(:,1,85,sr) = sums(:,85)              ! td_nud_lpt
1948          hom(:,1,86,sr) = sums(:,86)              ! td_nud_q
1949          hom(:,1,87,sr) = sums(:,87)              ! td_nud_u
1950          hom(:,1,88,sr) = sums(:,88)              ! td_nud_v
1951       ENDIF
1952
1953       IF ( land_surface )  THEN
1954          hom(:,1,89,sr) = sums(:,89)              ! t_soil
1955                                                   ! 90 is initial t_soil profile
1956          hom(:,1,91,sr) = sums(:,91)              ! m_soil
1957                                                   ! 92 is initial m_soil profile
1958          hom(:,1,93,sr)  = sums(:,93)             ! ghf
1959          hom(:,1,94,sr)  = sums(:,94)             ! qsws_liq
1960          hom(:,1,95,sr)  = sums(:,95)             ! qsws_soil
1961          hom(:,1,96,sr)  = sums(:,96)             ! qsws_veg
1962          hom(:,1,97,sr)  = sums(:,97)             ! r_a
1963          hom(:,1,98,sr)  = sums(:,98)             ! r_s
1964
1965       ENDIF
1966
1967       IF ( radiation )  THEN
1968          hom(:,1,99,sr) = sums(:,99)            ! rad_net
1969          hom(:,1,100,sr) = sums(:,100)            ! rad_lw_in
1970          hom(:,1,101,sr) = sums(:,101)            ! rad_lw_out
1971          hom(:,1,102,sr) = sums(:,102)            ! rad_sw_in
1972          hom(:,1,103,sr) = sums(:,103)            ! rad_sw_out
1973
1974          IF ( radiation_scheme == 'rrtmg' )  THEN
1975             hom(:,1,104,sr) = sums(:,104)            ! rad_lw_cs_hr
1976             hom(:,1,105,sr) = sums(:,105)            ! rad_lw_hr
1977             hom(:,1,106,sr) = sums(:,106)            ! rad_sw_cs_hr
1978             hom(:,1,107,sr) = sums(:,107)            ! rad_sw_hr
1979
1980             hom(:,1,108,sr) = sums(:,108)            ! rrtm_aldif
1981             hom(:,1,109,sr) = sums(:,109)            ! rrtm_aldir
1982             hom(:,1,110,sr) = sums(:,110)            ! rrtm_asdif
1983             hom(:,1,111,sr) = sums(:,111)            ! rrtm_asdir
1984          ENDIF
1985       ENDIF
1986
1987       hom(:,1,112,sr) = sums(:,112)            !: L
1988
1989       IF ( passive_scalar )  THEN
1990          hom(:,1,117,sr) = sums(:,117)     ! w"s"
1991          hom(:,1,114,sr) = sums(:,114)     ! w*s*
1992          hom(:,1,118,sr) = sums(:,117) + sums(:,114)    ! ws
1993          hom(:,1,116,sr) = sums(:,116)     ! s*2
1994       ENDIF
1995
1996       hom(:,1,119,sr) = rho_air       ! rho_air in Kg/m^3
1997       hom(:,1,120,sr) = rho_air_zw    ! rho_air_zw in Kg/m^3
1998
1999       IF ( kolmogorov_length_scale )  THEN
2000          hom(:,1,121,sr) = sums(:,121) * 1E3_wp  ! eta in mm
2001       ENDIF
2002
2003
2004       hom(:,1,pr_palm,sr) =   sums(:,pr_palm)
2005                                       ! u*, w'u', w'v', t* (in last profile)
2006
2007       IF ( max_pr_user > 0 )  THEN    ! user-defined profiles
2008          hom(:,1,pr_palm+1:pr_palm+max_pr_user,sr) = &
2009                               sums(:,pr_palm+1:pr_palm+max_pr_user)
2010       ENDIF
2011
2012       IF ( air_chemistry )  THEN
2013          IF ( max_pr_cs > 0 )  THEN    ! chem_spcs profiles
2014             hom(:, 1, pr_palm+max_pr_user+1:pr_palm + max_pr_user+max_pr_cs, sr) = &
2015                               sums(:, pr_palm+max_pr_user+1:pr_palm+max_pr_user+max_pr_cs)
2016          ENDIF
2017       ENDIF
2018
2019       IF ( salsa )  THEN
2020          IF ( max_pr_salsa > 0 )  THEN    ! salsa profiles
2021             hom(:,1,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa, sr) = &
2022                  sums(:,pr_palm+max_pr_user+max_pr_cs+1:pr_palm+max_pr_user+max_pr_cs+max_pr_salsa)
2023          ENDIF
2024       ENDIF
2025!
2026!--    Determine the boundary layer height using two different schemes.
2027!--    First scheme: Starting from the Earth's (Ocean's) surface, look for the first relative
2028!--    minimum (maximum) of the total heat flux.
2029!--    The corresponding height is assumed as the boundary layer height, if it is less than 1.5
2030!--    times the height where the heat flux becomes negative (positive) for the first time.
2031!--    Attention: the resolved vertical sensible heat flux (hom(:,1,17,sr) = w*pt*) is not known at
2032!--    the beginning because the calculation happens in advec_s_ws which is called after
2033!--    flow_statistics. Therefore z_i is directly taken from restart data at the beginning of
2034!--    restart runs.
2035       IF ( TRIM( initializing_actions ) /= 'read_restart_data'  .OR.                              &
2036            simulated_time_at_begin /= simulated_time ) THEN
2037
2038          z_i(1) = 0.0_wp
2039          first = .TRUE.
2040
2041          IF ( ocean_mode )  THEN
2042             DO  k = nzt, nzb+1, -1
2043                IF ( first  .AND.  hom(k,1,18,sr) < -1.0E-8_wp )  THEN
2044                   first = .FALSE.
2045                   height = zw(k)
2046                ENDIF
2047                IF ( hom(k,1,18,sr) < -1.0E-8_wp  .AND.  hom(k-1,1,18,sr) > hom(k,1,18,sr) )  THEN
2048                   IF ( zw(k) < 1.5_wp * height )  THEN
2049                      z_i(1) = zw(k)
2050                   ELSE
2051                      z_i(1) = height
2052                   ENDIF
2053                   EXIT
2054                ENDIF
2055             ENDDO
2056          ELSE
2057             DO  k = nzb, nzt-1
2058                IF ( first  .AND.  hom(k,1,18,sr) < -1.0E-8_wp )  THEN
2059                   first = .FALSE.
2060                   height = zw(k)
2061                ENDIF
2062                IF ( hom(k,1,18,sr) < -1.0E-8_wp  .AND.  hom(k+1,1,18,sr) > hom(k,1,18,sr) )  THEN
2063                   IF ( zw(k) < 1.5_wp * height )  THEN
2064                      z_i(1) = zw(k)
2065                   ELSE
2066                      z_i(1) = height
2067                   ENDIF
2068                   EXIT
2069                ENDIF
2070             ENDDO
2071          ENDIF
2072
2073!
2074!--       Second scheme: Gradient scheme from Sullivan et al. (1998), modified by Uhlenbrock(2006).
2075!--       The boundary layer height is the height with the maximal local temperature gradient:
2076!--       starting from the second (the last but one) vertical gridpoint, the local gradient must be
2077!--       at least 0.2K/100m and greater than the next four gradients.
2078!--       WARNING: The threshold value of 0.2K/100m must be adjusted for the
2079!--       ocean case!
2080          z_i(2) = 0.0_wp
2081          DO  k = nzb+1, nzt+1
2082             dptdz(k) = ( hom(k,1,4,sr) - hom(k-1,1,4,sr) ) * ddzu(k)
2083          ENDDO
2084          dptdz_threshold = 0.2_wp / 100.0_wp
2085
2086          IF ( ocean_mode )  THEN
2087             DO  k = nzt+1, nzb+5, -1
2088                IF ( dptdz(k) > dptdz_threshold  .AND.                                             &
2089                     dptdz(k) > dptdz(k-1)  .AND.  dptdz(k) > dptdz(k-2)  .AND.                    &
2090                     dptdz(k) > dptdz(k-3)  .AND.  dptdz(k) > dptdz(k-4) )  THEN
2091                   z_i(2) = zw(k-1)
2092                   EXIT
2093                ENDIF
2094             ENDDO
2095          ELSE
2096             DO  k = nzb+1, nzt-3
2097                IF ( dptdz(k) > dptdz_threshold  .AND.                                             &
2098                     dptdz(k) > dptdz(k+1)  .AND.  dptdz(k) > dptdz(k+2)  .AND.                    &
2099                     dptdz(k) > dptdz(k+3)  .AND.  dptdz(k) > dptdz(k+4) )  THEN
2100                   z_i(2) = zw(k-1)
2101                   EXIT
2102                ENDIF
2103             ENDDO
2104          ENDIF
2105
2106       ENDIF
2107
2108       hom(nzb+6,1,pr_palm,sr) = z_i(1)
2109       hom(nzb+7,1,pr_palm,sr) = z_i(2)
2110
2111!
2112!--    Determine vertical index which is nearest to the mean surface level height of the respective
2113!--    statistic region
2114       DO  k = nzb, nzt
2115          IF ( zw(k) >= mean_surface_level_height(sr) )  THEN
2116             k_surface_level = k
2117             EXIT
2118          ENDIF
2119       ENDDO
2120
2121!
2122!--    Computation of both the characteristic vertical velocity and the characteristic convective
2123!--    boundary layer temperature.
2124!--    The inversion height entering into the equation is defined with respect to the mean surface
2125!--    level height of the respective statistic region.
2126!--    The horizontal average at surface level index + 1 is input for the average temperature.
2127       IF ( hom(k_surface_level,1,18,sr) > 1.0E-8_wp  .AND.  z_i(1) /= 0.0_wp )  THEN
2128          hom(nzb+8,1,pr_palm,sr) =                                                                &
2129                                   ( g / hom(k_surface_level+1,1,4,sr) *                           &
2130                                   ( hom(k_surface_level,1,18,sr) /                                &
2131                                   ( heatflux_output_conversion(nzb) * rho_air(nzb) ) )            &
2132                                   * ABS( z_i(1) - mean_surface_level_height(sr) ) )**0.333333333_wp
2133       ELSE
2134          hom(nzb+8,1,pr_palm,sr)  = 0.0_wp
2135       ENDIF
2136
2137!
2138!--    Collect the time series quantities. Please note, timeseries quantities which are collected
2139!--    from horizontally averaged profiles, e.g. wpt or pt(zp), are treated specially. In case of
2140!--    elevated model surfaces, index nzb+1 might be within topography and data will be zero.
2141!--    Therefore, take value for the first atmosphere index, which is topo_min_level+1.
2142       ts_value(1,sr) = hom(nzb+4,1,pr_palm,sr)        ! E
2143       ts_value(2,sr) = hom(nzb+5,1,pr_palm,sr)        ! E*
2144       ts_value(3,sr) = dt_3d
2145       ts_value(4,sr) = hom(nzb,1,pr_palm,sr)          ! u*
2146       ts_value(5,sr) = hom(nzb+3,1,pr_palm,sr)        ! th*
2147       ts_value(6,sr) = u_max
2148       ts_value(7,sr) = v_max
2149       ts_value(8,sr) = w_max
2150       ts_value(9,sr) = hom(nzb+10,1,pr_palm,sr)       ! new divergence
2151       ts_value(10,sr) = hom(nzb+9,1,pr_palm,sr)       ! old Divergence
2152       ts_value(11,sr) = hom(nzb+6,1,pr_palm,sr)       ! z_i(1)
2153       ts_value(12,sr) = hom(nzb+7,1,pr_palm,sr)       ! z_i(2)
2154       ts_value(13,sr) = hom(nzb+8,1,pr_palm,sr)       ! w*
2155       ts_value(14,sr) = hom(nzb,1,16,sr)              ! w'pt'   at k=0
2156       ts_value(15,sr) = hom(topo_min_level+1,1,16,sr) ! w'pt'   at k=1
2157       ts_value(16,sr) = hom(topo_min_level+1,1,18,sr) ! wpt     at k=1
2158       ts_value(17,sr) = hom(nzb+14,1,pr_palm,sr)      ! pt(0)
2159       ts_value(18,sr) = hom(topo_min_level+1,1,4,sr)  ! pt(zp)
2160       ts_value(19,sr) = hom(nzb+1,1,pr_palm,sr)       ! u'w'    at k=0
2161       ts_value(20,sr) = hom(nzb+2,1,pr_palm,sr)       ! v'w'    at k=0
2162       ts_value(21,sr) = hom(nzb,1,48,sr)              ! w"q"    at k=0
2163
2164       IF ( .NOT. neutral )  THEN
2165          ts_value(22,sr) = hom(nzb,1,112,sr)          ! L
2166       ELSE
2167          ts_value(22,sr) = 1.0E10_wp
2168       ENDIF
2169
2170       ts_value(23,sr) = hom(nzb+12,1,pr_palm,sr)   ! q*
2171
2172       IF ( passive_scalar )  THEN
2173          ts_value(24,sr) = hom(nzb+13,1,117,sr)       ! w"s" ( to do ! )
2174          ts_value(25,sr) = hom(nzb+13,1,pr_palm,sr)   ! s*
2175       ENDIF
2176
2177!
2178!--    Collect land surface model timeseries
2179       IF ( land_surface )  THEN
2180          ts_value(dots_soil  ,sr) = hom(nzb,1,93,sr)           ! ghf
2181          ts_value(dots_soil+1,sr) = hom(nzb,1,94,sr)           ! qsws_liq
2182          ts_value(dots_soil+2,sr) = hom(nzb,1,95,sr)           ! qsws_soil
2183          ts_value(dots_soil+3,sr) = hom(nzb,1,96,sr)           ! qsws_veg
2184          ts_value(dots_soil+4,sr) = hom(nzb,1,97,sr)           ! r_a
2185          ts_value(dots_soil+5,sr) = hom(nzb,1,98,sr)           ! r_s
2186       ENDIF
2187!
2188!--    Collect radiation model timeseries
2189       IF ( radiation )  THEN
2190          ts_value(dots_rad,sr)   = hom(nzb,1,99,sr)           ! rad_net
2191          ts_value(dots_rad+1,sr) = hom(nzb,1,100,sr)          ! rad_lw_in
2192          ts_value(dots_rad+2,sr) = hom(nzb,1,101,sr)          ! rad_lw_out
2193          ts_value(dots_rad+3,sr) = hom(nzb,1,102,sr)          ! rad_sw_in
2194          ts_value(dots_rad+4,sr) = hom(nzb,1,103,sr)          ! rad_sw_out
2195
2196          IF ( radiation_scheme == 'rrtmg' )  THEN
2197             ts_value(dots_rad+5,sr) = hom(nzb,1,108,sr)          ! rrtm_aldif
2198             ts_value(dots_rad+6,sr) = hom(nzb,1,109,sr)          ! rrtm_aldir
2199             ts_value(dots_rad+7,sr) = hom(nzb,1,110,sr)          ! rrtm_asdif
2200             ts_value(dots_rad+8,sr) = hom(nzb,1,111,sr)          ! rrtm_asdir
2201          ENDIF
2202
2203       ENDIF
2204
2205!
2206!--    Calculate additional statistics provided by other modules
2207       CALL module_interface_statistics( 'time_series', sr, 0, dots_max )
2208
2209    ENDDO    ! loop of the subregions
2210
2211!
2212!-- If required, sum up horizontal averages for subsequent time averaging.
2213!-- Do not sum, if flow statistics is called before the first initial time step.
2214    IF ( do_sum  .AND.  simulated_time /= 0.0_wp )  THEN
2215       IF ( average_count_pr == 0 )  hom_sum = 0.0_wp
2216       hom_sum = hom_sum + hom(:,1,:,:)
2217       average_count_pr = average_count_pr + 1
2218       do_sum = .FALSE.
2219    ENDIF
2220
2221!
2222!-- Set flag for other UPs (e.g. output routines, but also buoyancy).
2223!-- This flag is reset after each time step in time_integration.
2224    flow_statistics_called = .TRUE.
2225
2226    CALL cpu_log( log_point(10), 'flow_statistics', 'stop' )
2227
2228
2229 END SUBROUTINE flow_statistics
Note: See TracBrowser for help on using the repository browser.