Inizia la sua carriera da allenatore nel Vigor Lamezia per poi continuare nel Campania-Puteolana. Nel 1988 guida il Cagliari per poi passare al Napoli e dopo alla Fiorentina. Nel 1997 viene chiamato ad allenare in Spagna dove allena il Valencia e nel 1999 l'Atletico Madrid. Dal 2000 al 2004 guida il Chelsea per poi fare ritorno nel Valencia. Nel 2007 torna ad allenare una squadra italiana, il Parma poi Juventus e Roma prima che Moratti lo chiami a sostituire Gasperini. Nell'Inter resta da settembre 2011 a marzo 2012 quando a nove partite dalla fine del campionato viene sostituito dall'allenatore della primavera Stramaccioni.

Stagione	Competizione	V	N	P	Piazzamento
2011/12	Campionato	12	4	10	sostituito
	Coppa Italia	1	0	1	eliminato 4' finale
	Champions League	4	2	3	eliminato 8' finale