Taylor podczas swojej kariery piłkarskiej występował w Grimsby Town i Lincoln City, jednak najlepiej znany jest z pracy trenerskiej. Rozpoczynał właśnie w Lincoln w wieku zaledwie 27 lat (najmłodszy wówczas w kraju w zawodzie!) i potem szybko piął się po kolejnych szczeblach.
Angielską kadrę objął w 1990 roku i prowadził ją przez trzy lata. Za ten czas nie zebrał najlepszych recenzji. Najważniejszy był fakt braku awansu na Mistrzostwa Świata w 1994 roku. Podczas kwalifikacji Anglia między innymi zaledwie zremisowała 1-1 z Polską czy pozwoliła sobie strzelić bramkę przez San Marino (ostatecznie jednak zwyciężyła 7-1). Ostatecznie wówczas promocję uzyskała Holandia, a dla Taylora nie było innego wyboru niż dymisja.
Poza tym zaliczył bardzo udane przygody z Watfordem i Aston Villą. Oba te kluby wprowadził na najwyższy poziom rozgrywkowy. W przypadku tego pierwszego pracę zaczął od czwartej ligi. Prowadził też Wolverhampton Wanderers.
W ostatnich latach pracował w futbolu, ale już z dala od boiska. Pełnił bowiem rolę eksperta w stacjach telewizyjnych: BBC i BT Sport.