Pada 1992, Mourinho menjadi penerjemah untuk Sir Bobby Robson yang waktu itu menjabat sebagai manajer klub Sporting Lisbon. Pada masa ini Mourinho mulai mendiskusikan taktik sepak bola bersama Robson.
Sir Bobby Robson kemudian menjabat sebagai manajer FC Porto bersama Mourinho sebagai asisten manajer. Pada musim kompetisi 1993-94, FC Porto berhasil mencapai babak semi-final Liga Champions dan memenangkan Piala Liga Portugal (Taça de Portugal). Porto kemudian memenangkan Liga Portugal musim 1994-95 dan 1995-96, dan memenangkan Piala Super Cup Portugal 1994, 1995 dan 1996.
Sir Bobbby Robson dan Mourinho bergabung dengan FC Barcelona yang waktu itu diperkuat oleh Ronaldo. Di Barcelona keduanya kembali memperoleh sukses dengan memenangkan European Cup Winners' Cup, Copa del Rey dan Supercopa de España. Robson meninggalkan Barcelona di musim selanjutnya, namun kali ini tidak disertai Mourinho.
Mourinho kemudian bekerja di bawah Louis van Gaal, dan belajar banyak dari gaya permainan Van Gaal. Kerja sama keduanya membuahkan dua titel juara La Liga. Van Gaal kemudian menjadikan Mourinho sebagai pelatih Barcelona B dan mempercayakan manajemen tim utama untuk kompetisi tertentu, seperti Copa Catalunya yang dimenangkan pada 2000.
Mourinho menggantikan Jupp Heynckes sebagai manajer Benfica pada September 2000. Pergantian presiden klub membuatnya mengundurkan diri dari Benfica hanya dalam sembilan pertandingan liga.
Mourinho kemudian menjabat sebagai manajer tim União de Leiria pada Juli 2001. Mourinho berhasil membawa tim tersebut memperebutkan posisi empat besar di Liga Portugal musim 2001/02, enam poin di belakang pemuncak liga. Sukses Mourinho di União de Leiria melambungkan namanya di antara klub-klub besar Portugal.
Mourinho menjadi manajer FC Porto pada 23 Januari 2002. Di sini Mourinho memenangkan Liga Portugal musim 2002-03 dan 2003-04, Taça de Portugal 2003 dan Piala UEFA (sekarang Liga Europa) 2003.
Porto di bawah Mourinho kemudian memenangkan Liga Champions tahun 2004. Kemenangan ini membawa nama José Mourinho sebagai pelatih papan atas Eropa.
Mourinho bergabung bersama Chelsea pada 2 Juni 2004 dan membangun fondasi tim yang kemudian menjadi salah satu tim papan atas di Eropa pada dekade-dekade berikutnya.
Bersama Chelsea, Mourinho memenangkan dua titel juara Liga Primer (musim 2004-05 dan 2005-06), dua Piala Liga Inggris (2005 dan 2007) dan FA Cup (2007).
Mourinho mengundurkan diri sebagai manajer Chelsea pada 20 September 2007.
Mourinho menggantikan Roberto Mancini sebagai manajer Inter Milan pada 2 Juni 2008. Di musim pertamanya, Mourinho memenangkan Supercoppa Italiana dan scudetto Serie A.
Di musim 2009-10, Inter Milan memperoleh treble historis dengan memenangkan Serie A, Coppa Italia dan Liga Champions dalam satu musim.
Mourinho menjadi pelatih utama Real Madrid pada 28 Mei 2010. Bersama Real Madrid, Mourinho memenangkan Copa del Rey (2011), La Liga (2011-12) dan Supercopa de España (2012).
Keberhasilan Real Madrid memenangkan La Liga diikuti dengan sederet rekor seperti kemenangan terbanyak dalam satu musim La Liga (32), kemenangan tandang terbanyak (16), poin tertinggi di semua liga top Eropa (100), gol terbanyak (121) dan selisih gol terbesar (+89).
Setelah tiga musim bersama Real Madrid, Mourinho kembali menjabat sebagai pelatih utama Chelsea pada 3 Juni 2013. Diperkuat oleh pemain-pemain seperti Eden Hazard, Diego Costa, Cesc Fàbregas, dan Thibaut Courtois, Chelsea memenangkan Liga Primer musim 2014-15 dengan hanya menelan tiga kekalahan sepanjang musim.
Musim 2015-16 tidak berjalan baik untuk Mourinho dan Chelsea. Pada 17 Desember 2015, Chelsea mengumumkan bahwa José Mourinho tidak lagi menjabat sebagai pelatih utama setelah menelan sembilan kekalahan dari 16 pertandingan Liga Primer.
Mourinho bergabung dengan Manchester United pada 27 Mei 2016 menggantikan Louis van Gaal. Musim pertama bersama Manchester United membuahkan gelar "treble" berupa piala FA Community Shield, Piala Liga, dan Liga Europa.
Mourinho dipecat dari Manchester United pada 18 Desember 2018 setelah anak-anak asuhannya hanya mampu memperoleh tujuh kemenangan dari 17 pertandingan Liga Primer.
José Mourinho ditunjuk menjadi manajer Tottenham menggantikan Mauricio Pochettino.