Emerytowany lewy obrońca spędził w Hiszpanii osiem lat. Podczas pobytu w Valencii głośno wymieniało się go w gronie najlepszych bocznych defensorów w LaLidze.
Progres zaowocował wielkim transferem do FC Barcelony. Przed sezonem 2014/2015 zasilił „Dumę Katalonii” w ramach transakcji opiewającej na 20 milionów euro.
Debiutancką kampanię od razu okrasił potrójną koroną (Pucharem Europy, mistrzostwem Hiszpanii i Pucharem Hiszpanii). Sam 40-latek nie wspomina jednak najlepiej końcówki tamtego okresu.
Choć łącznie rozegrał 41 spotkań, w najważniejszych meczach odpowiadający wówczas za wyniki Luis Enrique sadzał go na ławce.
Mathieu przyznał, że werdykty dokonywane przez szkoleniowca były dla niego niezrozumiałe, przez co cierpiała jego pewność siebie.
– Jest trenerem, który nie rozmawia z zawodnikami zbyt wiele i nie daje im zbyt wiele pewności siebie. Sam grałem nieustannie z dużą pewnością siebie, ale czasami, gdy przyszło rozgrywać ważne mecze w kolejnych tygodniach, lądowałem na ławce. Potrzebowałem ciągłości, konsekwencji. Właśnie tego nie byłem w stanie u niego zrozumieć – wyznał.
– Czy zmienił swój sposób bycia i działania od tamtego czasu? Być może. Nie wiem, jak to wygląda w PSG. U nas było tak, jak mówię. Ostatecznie przeżyłem trudny czas – dodał wychowanek Sochaux.
23 października 2023 roku Jérémy Mathieu ogłosił zakończenie kariery jako gracz Lyunes Sports, rywalizującego w lidze regionalnej.
W międzyczasie przywdziewał też trykot Sportingu CP oraz Toulouse.