Ortogonaalinen matriisi on neliömatriisi , jossa on reaalielementtejä , jonka transponoidulla matriisilla kertomisen tulos on yhtä suuri kuin identiteettimatriisi [1] :
tai vastaavasti sen käänteismatriisi (joka välttämättä on olemassa) on yhtä suuri kuin transponoitu matriisi:
Ortogonaalisen matriisin kompleksinen analogi on unitaarinen matriisi .
Ortogonaalista matriisia, jossa on determinantti, kutsutaan erikoisortogonaaliksi .
Toisin sanoen rivin pistetulo itsensä kanssa on 1 ja minkä tahansa muun rivin pistetulo on 0. Sama pätee sarakkeisiin.