Karanka 1997 és 2002 között játszott a Real Madridban, amelynek színeiben három BL-győzelemnek volt a részese. Edzői karrierjét 2008-ban kezdte, eddig a spanyolok U15-ös és U16-os válogatottjánál dolgozott.
A baszk származású korábbi védő mellett jelen állás szerint Rui Faria, Silvino Louro és José Morais lesz Mourinho szakmai stábjának tagja.