This scientic publication in digital format is a continuation of the Printed Review: Legal Deposit pp 196802ZU42, ISSN 0378-7818.
Rev. Fac. Agron. (LUZ). 2022, 39(1): e223916. January - March. ISSN 2477-9407.2-6 |
Resumen
En los ensayos experimentales suele ser de interés prestar especial
atención a la respuesta de las unidades experimentales en los bordes,
ya que es bien sabido que el rendimiento de estas puede ser superior
al del resto de unidades por tener menor competencia de unidades
vecinas. En un experimento, donde se tienen tratamientos, es posible
que las diferencias en la respuesta media de las variables medidas
sean atribuibles al efecto de borde. Por lo tanto, es importante
considerar el borde o no en el proceso de modelado. En este caso,
utilizando el modelo de Kempton-Besag y la reparametrización
del modelo, se estimó el coeciente de competencia intraespecíca
mediante estimación mínima cuadrática que en este caso se asoció
con el efecto de borde. Su patrón de distribución se estudió mediante
simulación Monte Carlo.De cada análisis de varianza con datos
simulados se extrajo el valor del estadístico F y se representó su
comportamiento distribucional para relacionarlo con la ausencia
o presencia del efecto del borde como una forma de dependencia
espacial, la cual se conrmó desde el punto de vista estadístico con
el índice de Moran. El coeciente asociado con el efecto de borde
mostró una clara distribución normal en todos los escenarios de borde
considerados. El signo del coeciente y los intervalos de conanza
generados permitieron discriminar la presencia/ausencia de efecto de
borde. Además, se propuso un método para permitir al usuario mitigar
la falta de claridad que puede resultar de la estimación puntual del
coeciente. Este procedimiento se puede utilizar en otros patrones de
vecindad y otros modelos de diseño de importancia en la investigación
agrícola.
Palabras clave: efecto borde, coeciente de competición,
reparametrización,simulación Monte Carlo.
Resumo
Em ensaios experimentais, geralmente é de interesse dar atenção
especial à resposta das unidades experimentais nas bordas, uma vez
que é bem conhecido que o desempenho destas pode ser maior do
que o do resto das unidades devido à menor competição de unidades
vizinhas. Quando os tratamentos estão disponíveis, é possível
que as diferenças na resposta média da cultura sejam atribuídas ao
efeito de borda. Portanto, é importante considerar a borda ou não
no processo de modelagem. Nesse caso, utilizando o modelo de
Kempton-Besag e a reparametrização do modelo, o coeciente de
competição intraespecíco foi estimado por meio da estimativa do
mínimo quadrático que, neste caso, foi associada ao efeito de borda.
Seu padrão de distribuição foi estudado usando simulação de Monte
Carlo. Análises de variância simuladas foram realizadas para vericar
o efeito distributivo da estatística F na presença do efeito de borda
como uma forma de dependência espacial que foi avaliada com o índice
de Moran. O coeciente associado ao efeito de borda apresentou uma
distribuição normal clara em todos os cenários de borda considerados.
O sinal do coeciente e os intervalos de conança gerados permitiram
discriminar a presença / ausência do efeito de borda. Além disso, foi
proposto um método para permitir ao usuário mitigar a imprecisão
que pode resultar da estimativa pontual do coeciente. Este
procedimento pode ser usado em outros padrões de vizinhança
e outros modelos de projeto importantes na pesquisa agrícola.
Palabras chave: efeito de borda, coeciente de competição,
reparameterização,Simulação de Monte Carlo
Introduction
It has been 100 years since the publications of Arny (1922),
describing the edge effect in agricultural experiments and where
proposing ways to avoid it. Even the term competition was used
to associate it with the performance of off-edge row performance
with the rows at the edge, recognizing since then that removing the
rows from the edge could in certain situations be an unnecessary
operation, something that recent studies endorse (Romani et al.,
1993; Kuemmel, 2003). However, others recommend the elimination
of edges depending on the crop, with the purpose of making a better
estimation of the yield (Gałęzewski et al., 2013). According to Keddy
(2001). The denition presents a challenge since it is an example of
a generalized phenomenon that can occur in quite diverse conditions.
Current research focuses on an autoregressive competition model
(Ord, 1975) used by several authors to consider such an effect and for
which various proposals are put forth (Connolly et al., 1993). But this
time, rather than estimating the parameters of the model associated
with the effects considered, computational analysis was done on the
least-squared estimator of the Kempton-Besag competition model.
These generated scenarios associated with situations described for
performance when there is no edge effect and when it is perceived not
only at the most exposed edge but also at the two outermost edges of
the batch, as well as in partial edge situations (Besag and Kempton,
1986; Shukla and Subrahmanyam, 1999). With the calculation of the
Moran index, the spatial dependence of the residuals of the model was
studied. Computationally the effect obviating the spatial dependence
of the residuals on the analysis of variance for the two-way model
was shown. Finally, with the simulated construction of the condence
interval for the competition estimator, the presence/ absence of
competition could be inferred. This is something that many research
usually describe in their trials (Phillips et al., 2020).
Materials and methods
This section considers a two-way classication model including
its reparametrization from the perpendicular projection operators
approach using the estimator obtained through least-squared
estimation of the coefcient of competition associated with the edge
effect while considering a series of closed-edge scenarios as partial
edges and off-edge. This suggests a greater response in units located
in any edge modality.
Model Structure and estimation approach
The Besag-Kempton autoregressive model based on the argument
that the random response of neighboring units affects or competes is
written as:
Y = Xβ + κWY + ε, (1)
where Y is a random vector of length and denotes the response of
the n units, X is a known design matrix of dimension n x p, β is the
vector of unknown parameters of length p and consists of the effects
of the model (treatments and blocks), κ is the unknown competition
coefcient that was associated with the edge effect, W is the matrix
of weights of dimension n x n that in this case were associated with
the inverses of the Euclidean distances between the units with the
assumption that the non zero weights of the neighbors on a particular
unit yield a Markov matrix, and the effect of unit on itself is zero,
yielding a square matrix of the Hollow type (In our case, the weights
matrix was standardized). Finally, independence and identical normal