最简单的办法是用增广矩阵。如果要求逆的矩阵是A，则对增广矩阵（AE）进行初等行变换，E是单位矩阵，将A化到E，此时此矩阵的逆就是原来E的位置上的那个矩阵，原理是A逆乘以（AE）=（EA逆）初等行变换就是在矩阵的左边乘以A的逆矩阵得到的。
设A是数域上的一个n阶矩阵，若在相同数域上存在另一个n阶矩阵B，使得：AB=BA=E，则我们称B是A的逆矩阵，而A则被称为可逆矩阵。注：E为单位矩阵。可逆矩阵一定是方阵。如果矩阵A是可逆的，其逆矩阵是唯一的。
A的逆矩阵的逆矩阵还是A。记作（A-1）-1=A。可逆矩阵A的转置矩阵AT也可逆，并且（AT）-1=（A-1）T(转置的逆等于逆的转置）若矩阵A可逆，则矩阵A满足消去律。即AB=O（或BA=O），则B=O，AB=AC（或BA=CA），则B=C。
高斯消元法是最经典也是最广为人知的一种矩阵求逆方法，但是在现实应用中很少用到高斯消元法来进行矩阵的逆矩阵的求解。高斯消元法有两个版本：行变换版本与列变换版本，在日常应用中行变换应用的更广泛。这两个基本原理都是相同的。高斯消元法先将矩阵A与单位矩阵I进行连接形成一个新的增广矩阵。两个可逆矩阵的乘积依然可逆。矩阵可逆当且仅当它是满秩矩阵。
