Brazylijczyk był siódmym prezydentem FIFA i pierwszym, który nie pochodził z Europy. Posadę w światowej federacji piłkarskiej objął w maju 1974 roku i piastował stanowisko do 1998 roku, kiedy zastąpił go Sepp Blatter. Za jego kadencji znacznie polepszyła się sytuacja finansowa FIFA i to między innymi dzięki niemu federacja nawiązała współpracę z takimi firmami jak adidas czy Coca-Cola.
Havelange po zakończeniu swojej prezydentury został honorowym prezydentem FIFA, lecz zrezygnował z tej funkcji w 2013 roku po wybuchu afery korupcyjnej, w której został oskarżony o łapówkarstwo. W ostatnich latach narzekał także na problemy zdrowotne. W 2014 i 2015 roku był hospitalizowany ze względu na infekcję płuc. Miesiąc temu zachorował na zapalenie płuc i ponownie trafił do szpitala. Zmarł w wieku 100 lat.