Understanding Matrix Operations
What Is a Matrix?
A matrix is a rectangular array of numbers arranged in rows and columns. Matrices are denoted by capital letters and are fundamental in linear algebra, computer graphics, data science, and engineering.
Matrix Addition and Subtraction
Two matrices can be added or subtracted only if they have the same dimensions. Each element in the result is the sum or difference of the corresponding elements. For example, if C = A + B, then cᵢⱼ = aᵢⱼ + bᵢⱼ for all valid i, j.
Matrix Multiplication
Matrix multiplication is not element-wise. The product AB exists only when the number of columns in A equals the number of rows in B. Each element cᵢⱼ of the result is the dot product of row i of A with column j of B. Matrix multiplication is not commutative: AB ≠ BA in general.
Transpose
The transpose of a matrix A, denoted Aᵀ, is obtained by swapping rows and columns. The element at position (i,j) moves to position (j,i). The transpose has important properties: (AB)ᵀ = BᵀAᵀ and (Aᵀ)ᵀ = A.
Applications
Matrices are used in computer graphics (transformations, projections), machine learning (neural network weights), physics (quantum mechanics, stress tensors), economics (input-output models), and cryptography. They are the computational backbone of modern technology.
Les opérations matricielles fondamentales
Les matrices sont des tableaux de nombres utilisés dans tous les domaines scientifiques. Addition : même dimension, terme à terme. Multiplication : le nombre de colonnes de A doit égaler le nombre de lignes de B. Si A est m×n et B est n×p, le produit AB est m×p. Non commutatif : AB ≠ BA en général. La matrice identité I : diagonale de 1, AI = IA = A. L'inverse : A⁻¹ existe si det(A) ≠ 0, et AA⁻¹ = I. La transposée : échanger lignes et colonnes. Le rang : nombre maximum de lignes (ou colonnes) linéairement indépendantes. Applications : transformées graphiques (rotation, mise à l'échelle, translation en 2D et 3D), systèmes d'équations linéaires, chaînes de Markov en probabilités, algorithmes de recommandation (Netflix, Spotify) via la factorisation de matrices creuses de grande dimension.
Les matrices dans la science des données
Les matrices sont le langage de la data science moderne. Les recommandations : une matrice utilisateur×film, factorisée en deux matrices plus petites par SVD (décomposition en valeurs singulières), révèle les préférences latentes. Le NLP (traitement du langage) : les embeddings de mots sont des vecteurs dans une matrice de plusieurs milliards de paramètres. Les images : une image 4K = matrice de 3840×2160×3 (RGB), traitée par convolution. L'apprentissage profond : chaque couche d'un réseau de neurones est une multiplication matricielle suivie d'une activation non-linéaire. La régression linéaire : β = (X^TX)⁻¹X^Ty, résolue par inversion matricielle sur les données observées. Le PCA : décomposition en valeurs propres de la matrice de covariance pour réduire la dimensionnalité. Google PageRank : le classement des pages web est un vecteur propre d'une matrice de transition stochastique colossale représentant l'ensemble des liens du web.
Les décompositions matricielles
Décomposer une matrice révèle sa structure et facilite les calculs. La décomposition LU : A = LU (L triangulaire inférieure, U triangulaire supérieure), pour résoudre efficacement des systèmes linéaires en factorisant une seule fois puis résolvant pour plusieurs seconds membres. La décomposition QR : A = QR (Q orthogonale, R triangulaire), utilisée pour calculer les valeurs propres par itération QR et la régression linéaire. La SVD (Singular Value Decomposition) : A = UΣV^T, la reine des décompositions. Toute matrice (même non carrée) se décompose ainsi. Applications : compression d'images (garder les plus grandes valeurs singulières), filtrage de bruit, systèmes de recommandation (Netflix) et traitement du langage naturel (LSA). Le conditionnement : σ_max/σ_min mesure la sensibilité aux erreurs d'arrondi. Un conditionnement élevé signale un système numériquement instable et des résultats potentiellement imprécis nécessitant des algorithmes de stabilisation.
Les valeurs propres et vecteurs propres
Ce concept est central en algèbre linéaire appliquée. Définition : Av = λv, où v est le vecteur propre (non nul) et λ la valeur propre. La matrice ne fait que dilater ou contracter le vecteur propre sans changer sa direction géométrique. Calcul : résoudre det(A-λI) = 0 (équation caractéristique). Pour une matrice 2×2 : λ²-tr(A)λ+det(A) = 0, les racines sont les valeurs propres. Propriétés : la somme des valeurs propres = trace de la matrice. Le produit des valeurs propres = déterminant. Diagonalisation : si une matrice a n vecteurs propres linéairement indépendants, elle est diagonalisable en D = P⁻¹AP, simplifiant considérablement les calculs de puissance (A^k = PD^kP⁻¹). Applications : PageRank de Google (vecteur propre de la matrice de transition), vibration des structures (modes propres = fréquences de résonance), PCA en statistiques (axes principaux), mécanique quantique (états propres de l'hamiltonien pour les niveaux d'énergie), segmentation d'images en vision par ordinateur (spectral clustering).