Métrica de estimativa de multimodalidade multidimensional

IANI e as demais métricas de estimativa de multimodalidade utilizadas nesse trabalho estão restritas a cenários unidimensionais. Desse modo, antes de aplicar qualquer dessas métricas, faz-se necessário projetar os padrões do espaço original (multidimensional) para algum espaço unidimensional. Como reduções dimensionais envolvem perda de informação, não há garantia de igualdade entre a multimodalidade da dispersão dos

padrões no espaço original (sem perda de informação) e o máximo valor de estimativa de multimodalidade que pode ser encontrado para alguma direção nesse espaço. Portanto, a capacidade de estimar multimodalidade no espaço original da dispersão dos padrões é uma possibilidade a melhoria do desempenho na realização dessa tarefa.

Considerando que a dispersão dos padrões segue distribuição composta pela mistura de duas Normais em um espaço d-dimensional (d > 1), a modelagem de IANI pode ser

estendida para cenários multidimensionais. Nesse caso, em analogia com a Equação 3.16

(página 55), a versão multidimensional de IANI pode ser expressa através da Equação 5.7.

VIAN I = ρq 1 − V∩ V∗ ∩ ! (5.7)

Sendo V∩ o volume de interseção entre as modas e V∩∗ o máximo volume de interseção

entre as modas que pode ser obtido com o deslocamento de suas médias.

Cada Normal multidimensional é calculada através da Equação 5.8, sendo µµµ e ΣΣΣ respectivamente a média e a matriz de covariância que modelam essa distribuição no espaço d-dimensional. N (x, µµµ, ΣΣΣ) = q 1 (2π)ddet (ΣΣΣ)

e

Todavia, seguindo a analogia com o caso unidimensional, determinar o volume de interseção a partir da igualdade entre as Normais é um problema severamente complexo. Como alternativa, o intervalo de previsão para distribuições Normais multidimensionais possibilita a determinação de uma casca elipsoidal que expressa determinada probabilidade de conter os padrões produzidos segundo a respectiva função de distribuição Normal. A Equação 5.9

exprime o intervalo de previsão correspondente a distribuição Normal da Equação 5.8.

(x − µµµ)0ΣΣΣ−1(x − µµµ) ≤ χ2_d(p) (5.9)

Nessa equação, χ2

d(p) é a função quantile para a probabilidade p da distribuição χ2 com d

graus de liberdade.

Desse modo, o cálculo de V∩ com confiança igual a p consiste em determinar o

volume de interseção entre os intervalos de previsão das distribuições Normais envolvidas na mistura.

Referências

BALAKRISHNAMA, S.; GANAPATHIRAJU, A. Linear discriminant analysis-a brief tutorial. Institute for Signal and information Processing, v. 18, 1998.

BAPAT, R. B. Linear Algebra and Linear Models (Universitext). 2. ed. [S.l.]: Springer, 2000.

BEHBOODIAN, J. On the modes of a mixture of two normal distributions. Technometrics, v. 12, n. 1, p. 131–139, 1970.

BELLMAN, R. E. Adaptive control processes - A guided tour. [S.l.]: Princeton University Press, 1961.

BIERNACKI, C.; CELEUX, G.; GOVAERT, G. Choosing starting values for the em algorithm for getting the highest likelihood in multivariate gaussian mixture models.

Computational Statistics & Data Analysis, v. 41, n. 3-4, p. 561–575, 2003.

BILMES, J. A Gentle Tutorial of the EM Algorithm and its Application to Parameter

Estimation for Gaussian Mixture and Hidden Markov Models. [S.l.], 1998.

CHAMBERS, L. D. The Practical Handbook of Genetic Algorithms: Applications. 2. ed. [S.l.]: CRC Press, 2001.

CHAN, K. S.; TONG, H. Testing for multimodality with dependent data. Biometrika, v. 91, n. 1, p. 113–123, 2004.

CHUNG, F. R. K. Spectral Graph Theory. [S.l.]: American Mathematical Society, 1997. (Regional conference series in mathematics, 92).

DAS, K.; NENADIC, Z. An efficient discriminant-based solution for small sample size problem. Pattern Recognition, v. 42, n. 5, p. 857–866, 2009.

DEMŠAR, J. Statistical comparisons of classifiers over multiple data sets. Journal of

Machine Learning Research, v. 7, p. 1–30, 2006.

DUDA, R. O.; HART, P. E.; STORK, D. G. Pattern Classification. 2. ed. [S.l.]: Wiley-Interscience, 2001.

EISENBERGER, I. Genesis of bimodal distributions. Technometrics, v. 6, n. 4, p. 357–363, 1964.

FISCHER, N. I.; MAMMEN, E.; MARRON, J. S. Testing for multimodality.

Computational Statistics & Data Analysis, v. 18, n. 5, p. 499–512, 1994.

FISHER, R. A. The use of multiple measurements in taxonomic problems. Annals Eugen., v. 7, p. 179–188, 1936.

FRIEDMAN, J. H.; TUKEY, J. W. A projection pursuit algorithm for exploratory data analysis. IEEE Transactions on Computers, C-23, n. 9, p. 881–890, 1974.

GNANADESIKAN, M.; GUPTA, S. S. A selection procedure for multivariate normal distributions in terms of the generalized variances. Technometrics, v. 12, n. 1, p. 103–117, 1970.

HALL, P.; YORK, M. On the calibration of silverman’s test for multimodality. Statistica

Sinica, v. 11, p. 515–536, 2001.

HARTIGAN, J. A. Clustering algorithms. [S.l.]: Wiley, 1975. (Wiley series in probability and mathematical statistics: Applied probability and statistics).

HARTIGAN, J. A.; HARTIGAN, P. M. The dip test of unimodality. Annals of Statistics, v. 13, n. 1, p. 70–84, 1985.

HARTIGAN, J. A.; WONG, M. A. Algorithm as 136: A k-means clustering algorithm.

Journal of the Royal Statistical Society, v. 28, n. 1, p. 100–108, 1979. Series C (Applied

Statistics).

HASSAN, R. et al. A comparison of particle swarm optimization and the genetic algorithm. In: Multidisciplinary design optimization specialist conference. Austin: [s.n.], 2005. p. 18–21.

HE, X.; NIYOGI, P. Locality preserving projections. In: Advances in Neural Information

Processing Systems. [S.l.]: MIT Press, 2003. p. 153–160.

JOLLIFFE, I. Principal component analysis. [S.l.]: Wiley Online Library, 2002.

JONES, M. C.; SIBSON, R. What is projection pursuit? Journal of the Royal Statistical

Society, v. 150, n. 1, p. 1–37, 1987. Series A (General).

KAMEYAMA, K. Particle swarm optimization - a survey. IEICE Transactions on

Information and Systems, E92.D, n. 7, p. 1354–1361, 2009.

KENNEDY, J.; EBERHART, R. Particle swarm optimization. In: International

Conference on Neural Networks. Perth: IEEE, 1995. v. 4, p. 1942–1948.

LEITE, B. d. B. et al. A learning-based eye detector coupled with eye candidate filtering and pca features. In: Brazilian Symposium on Computer Graphics and Image Processing. Minas Gerais: IEEE, 2007. p. 187–194.

LI, J.-B.; PAN, J.-S.; CHU, S.-C. Kernel class-wise locality preserving projection.

Information Sciences, v. 178, n. 7, p. 1825–1835, 2008.

MINNOTTE, M. C. Nonparametric testing of the existence of modes. The Annals of

Statistics, v. 25, n. 4, p. 1646–1660, 1997.

NASON, G. P.; SIBSON, R. Measuring multimodality. Statistics and Computing, v. 2, n. 3, p. 153–160, 1992.

NAZ, E.; FAROOQ, U.; NAZ, T. Analysis of principal component analysis-based and fisher discriminant analysis-based face recognition algorithms. In: International Conference

on Emerging Technologies. Peshawar: IEEE, 2006. p. 121–127.

RAY, S.; LINDSAY, B. G. The topography of multivariate normal mixtures. The Annals

SARMA, P. V. S.; RAO, K. S. S.; RAO, R. P. On a family of bimodal distributions.

Sankhya-: The Indian Journal of Statistics, Series B (1960-2002), v. 52, n. 3, p. 287–292,

1990.

SAWITZKI, G. The excess mass approach and the analysis of multi-modality. In: Annual

Conference of the GfKl. Heidelberg: Springer, 1996. p. 203–211.

SEBER, G. A. Multivariate Observations. [S.l.]: John Wiley & Sons, 2004. v. 547.

SILVA JR, E. R.; CAVALCANTI, G. D.; REN, T. I. Class-dependent locality preserving projections for multimodal scenarios. In: IEEE. International Conference on Tools with

Artificial Intelligence. Athens, 2012. v. 1, p. 982–987.

SILVA JR, E. R.; CAVALCANTI, G. D. C.; REN, T. I. Does the affinity matrix influence the performance of the locality preserving projection algorithm? In: IEEE. International

Conference on Systems Man and Cybernetics. Istanbul, 2010. p. 4169–4175.

SILVERMAN, B. W. Using kernel density estimates to investigate multimodality. Journal

of the Royal Statistical Society, v. 43, n. 1, p. 97–99, 1981. Series B (Methodological).

SUGIYAMA, M. Dimensionality reduction of multimodal labeled data by local fisher discriminant analysis. Journal of Machine Learning Research, v. 8, p. 1027–1061, 2007. WANG, G. A survey on training algorithms for support vector machine classifiers. In: International Conference on Networked Computing and Advanced Information

Management. Gyeongju: IEEE, 2008. v. 1, p. 123–128.

YE, J. et al. Feature extraction via generalized uncorrelated linear discriminant analysis. In: International Conference on Machine Learning. Banff: ACM, 2004. p. 113–120. ZHANG, C.; MAPES, B. E.; SODEN, B. J. Bimodality in tropical water vapour.