Сравнение структуры многомерных сингулярных разложений
Аннотация
Сингулярное разложение матриц – алгоритм, используемый для решения многих задач, зачастую считаемый одной атомарной операцией – если решение задачи удалось свести к нему, то задачу можно считать решенной. В многомерных случаях, требующих сингулярное разложение, прибегают к его обобщениям – тензорным разложениям. Эти разложения хорошо известны и часто используются. При этом у них есть свои проблемы. Сингулярное разложение многомерных матриц частично нивелирует эти проблемы. В данной статье предложено увидеть наглядно, чем различаются сингулярное разложение пространственных матриц от сингулярного разложения тензоров. Будут представлены структурные и численные различия, подкрепленные наглядными примерами, а также будет указано, какие минусы существующих разложений тензоров отсутствуют у разложения пространственных матриц. В заключении будут предложены задачи, в которых сингулярное разложение пространственных матриц сможет заменить сингулярное разложение тензоров.
Литература
2. Charlier J., State R., Hilger J. Non-negative PARATUCK2 tensor decomposition combined with LSTM network for smart contracts profiling. In: 2018 IEEE International Conference on Big Data and Smart Computing (BigComp). Shanghai, China: IEEE Press; 2018. p. 74-81. https://doi.org/10.1109/BigComp.2018.00020
3. De Lathauwer L., De Moor B., Vandewalle J. On the best rank-1 and rank-(R1, R2, …, RN) approximation of higher-order tensors. SIAM Journal on Matrix Analysis and Applications. 2000;21(4):1324-1342. https://doi.org/10.1137/S0895479898346995
4. Iljin P.L., Samoilova T.A. Singular Value Decomposition of Spatial Matrices. Modern Information Technologies and IT-Education. 2022;18(3):578-588. (In Russ., abstract in Eng.) https://doi.org/10.25559/SITITO.18.202203.578-588
5. Kolda T.G., Bader B.W. Tensor Decompositions and Applications. SIAM REVIEW. 2009;51(3):455-500. https://doi.org/10.1137/07070111X
6. Kroonenberg P.M., De Leeuw J. Principal component analysis of three-mode data by means of alternating least squares algorithms. Psychometrika. 1980;45(1):69-97. https://doi.org/10.1007/BF02293599
7. Kruskal J.B. Rank, decomposition, and uniqueness for 3-way and N-way arrays. In: Coppi R., Bolasco S. (eds.) Multiway Data Analysis. Amsterdam: North-Holland; 1989. p. 7-18.
8. Kruskal J.B. Three-way arrays: rank and uniqueness of trilinear decompositions, with application to arithmetic complexity and statistics. Linear Algebra and its Applications. 1977;18(2):95-138. https://doi.org/10.1016/0024-3795(77)90069-6
9. Naskovska K., Cheema S.A., Haardt M., Valeev B., Evdokimov Y. Iterative GFDM Receiver based on the PARATUCK2 Tensor Decomposition. In: WSA 2017; 21th International ITG Workshop on Smart Antennas. Berlin, Germany: IEEE Press; 2017. p. 1-7. Available at: https://www.tu-ilmenau.de/fileadmin/Bereiche/EI/nt/pdfs/07955969.pdf (accessed 05.11.2023).
10. Iljin P.L. Singular Value Decomposition of Multidimensional Matrix and Its Applications. Sistemy komp’yuternoj matematiki i ih prilozheniya = Computer Mathematics Systems and Their Applications. 2023;(24):121-128. (In Russ., abstract in Eng.) EDN: UJMIPH
11. Cao Thi T.-X. Singular value decomposition and applications in data processing and artificial intelligence. HPU2 Journal of Science: Natural Sciences and Technology. 2023;2(3):34-41. https://doi.org/10.56764/hpu2.jos.2023.2.3.34-41
12. Golub G.H., Van Loan C.F. Matrix Computations. 4th ed. Baltimore: Johns Hopkins University Press; 2013.
13. Eckart C., Young G. The approximation of one matrix by another of lower rank. Psychometrika. 1936;1(3):211-218. https://doi.org/10.1007/BF02288367
14. Carroll J.D., Chang J.J. Analysis of individual differences in multidimensional scaling via an N-way generalization of "Eckart-Young" decomposition. Psychometrika. 1970;35(3):283-319. https://doi.org/10.1007/BF02310791
15. Tucker L.R. Some mathematical notes on three-mode factor analysis. Psychometrika. 1966;31(3):279-311. https://doi.org/10.1007/BF02289464
16. Harshman R.A. Foundations of the PARAFAC procedure: models and conditions for an "explanatory" multi-mode factor analysis. UCLA Working Papers in Phonetics. 1970;16:1-84. Available at: https://www.psychology.uwo.ca/faculty/harshman/wpppfac0.pdf (accessed 05.11.2023).
17. Swathi H.R., Sohini S., Surbhi, Gopichand G. Image compression using singular value decomposition. IOP Conference Series: Materials Science and Engineering. 2017;263(4):042082. https://doi.org/10.1088/1757-899X/263/4/042082
18. Cichocki A., Zdunek R., Phan A.H., Amari S. Nonnegative Matrix and Tensor Factorizations: Applications to Exploratory Multiway Data Analysis. Chichester: John Wiley & Sons, Ltd.; 2009. 500 p. https://doi.org/10.1002/9780470747278
19. Sidiropoulos N.D., De Lathauwer L., Fu X., Huang K., Papalexakis E.E., Faloutsos C. Tensor decomposition for signal processing and machine learning. IEEE Transactions on Signal Processing. 2017;65(13):3551-3582. https://doi.org/10.1109/TSP.2017.2690524
20. Anandkumar A., Ge R., Hsu D., Kakade S.M., Telgarsky M. Tensor decompositions for learning latent variable models. Journal of Machine Learning Research. 2014;15(1):2773-2832.
21. Comon P. Tensors: a brief introduction. IEEE Signal Processing Magazine. 2014;31(3):44-53. https://doi.org/10.1109/MSP.2014.2298533
22. Hackbusch W. Tensor Spaces and Numerical Tensor Calculus. Springer Series in Computational Mathematics. Vol. 42. Berlin: Springer; 2012. 500 p. https://doi.org/10.1007/978-3-642-28027-6
23. Grasedyck L., Kressner D., Tobler C. A literature survey of low-rank tensor approximation techniques. GAMM-Mitteilungen. 2013;36(1):53-78. https://doi.org/10.1002/gamm.201310004
24. Bader B.W., Kolda T.G. Algorithm 862: MATLAB tensor classes for fast algorithm prototyping. ACM Transactions on Mathematical Software. 2006;32(4):635-653. https://doi.org/10.1145/1186785.1186794
25. Acar E., Yener B. Unsupervised Multiway Data Analysis: A Literature Survey. IEEE Transactions on Knowledge and Data Engineering. 2009;21(1):6-20. https://doi.org/10.1109/TKDE.2008.112
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Редакционная политика журнала основывается на традиционных этических принципах российской научной периодики и строится с учетом этических норм работы редакторов и издателей, закрепленных в Кодексе поведения и руководящих принципах наилучшей практики для редактора журнала (Code of Conduct and Best Practice Guidelines for Journal Editors) и Кодексе поведения для издателя журнала (Code of Conduct for Journal Publishers), разработанных Комитетом по публикационной этике - Committee on Publication Ethics (COPE). В процессе издательской деятельности редколлегия журнала руководствуется международными правилами охраны авторского права, нормами действующего законодательства РФ, международными издательскими стандартами и обязательной ссылке на первоисточник.
Журнал позволяет авторам сохранять авторское право без ограничений. Журнал позволяет авторам сохранить права на публикацию без ограничений.
Издательская политика в области авторского права и архивирования определяются «зеленым цветом» в базе данных SHERPA/RoMEO.
Все статьи распространяются на условиях лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная, которая позволяет другим использовать, распространять, дополнять эту работу с обязательной ссылкой на оригинальную работу и публикацию в этом журналe.
