Reprezentant Albanii w wieku trzech lat przeprowadził się do Grecji, gdzie spędził swoją całą dotychczasową karierę. Przygodę z piłką rozpoczął w PAOK-u Saloniki, w którym w 2010 roku zadebiutował w barwach pierwszej drużyny. Dotąd dla ekipy z Salonik zagrał w sumie w 102 meczach, w których strzelił sześć goli. W sezonie 2011/2012 był wypożyczony do Anagennisi Epanomi.
Teraz na tej samej zasadzie defensywny pomocnik trafił do Viktorii. Póki co nie wiadomo, czy mistrz Czech zagwarantował sobie prawo wykupu 23-latka po sezonie.
Kaçe w kadrze Albanii po raz pierwszy wystąpił w 2013 roku i jego bilans w niej póki co to 17 meczów i dwa trafienia. Był członkiem reprezentacji podczas Euro 2016, na którym rozegrał 28 minut w spotkaniu przeciwko Szwajcarii.