Palermo " El-Loco" 1973. november 7-én született La Platában, és labdarúgó-pályafutását az Estudiantes együttesében kezdte el. Még nem volt húszesztendős, amikor bemutatkozhatott az argentin élvonalban a San Lorenzo elleni bajnokin. Az 1992-93-as idényben már meg is szerezte első gólját a legjobbak között, de ebben az időben nem számított valami gólerős futballistának, a következő idényben is csak egy találatra futotta erejéből, majd ezt követően egyszer sem volt eredményes. A fonalat az 1995-96-os idényben kapta el, amikor is 27 meccsen 17 alkalommal vette be az ellenfelek hálóját, és innentől kezdve nem volt megállás: hamarosan az argentin bajnokság legjobb támadójává nőtte ki magát.1997 nyarán szerződtette őt a Boca Juniors (amellyel a kilencvenes évek végén három bajnokságot is nyert), a fővárosi nagycsapatban is futószalagon ontotta a gólokat, az 1998-99-es bajnokságban például egészen elképesztő módon, 36 meccsen 35-ször volt eredményes. Nem csoda, hogy bekerült az argentin válogatottba, és ott volt az 1999-es Copa Américán, ahol azonban nem góljaival hívta fel magára a figyelmet, hanem azzal, hogy a Kolumbia elleni találkozón egymaga három tizenegyest hibázott el! Balszerencse-sorozata tovább folytatódott, mert nem sokkal később súlyos sérülést szenvedett, és egy fél évet ki kellett hagynia. Azonban még így is képest volt 16 találatra az 1999-2000-es bajnokságban, és a Real Madrid elleni Világkupa-döntőn két góllal bizonyította, hogy még mindig a régi. Némi meglepetést okozott, hogy 2001 telén nem valamelyik neves egyesülethez, hanem a nagy terveket szövögető Villarrealhoz igazolt. (úgy volt, hogy a Lazio viszi majd el, de sérülései miatt az ügylet meghiúsult)
Palermo furcsa sérülése: Történt, hogy a spanyol kupa második fordulójában a Levante elleni mérkőzésen a Villarreal továbbjutott - bár a diadalért súlyos árat kellett fizetnie a csapatnak. Az "őrültségéről" nevezetes támadó a hosszabbításban szerzett gólja után a kapu mögé szaladt, hogy az ott lévő szurkolókkal együtt ünnepeljen. A drukkerek vették a lapot, és leözönlöttek, hogy köszöntsék a gólszerzőt, a lelátót határoló reklámtábla azonban nem bírta a nagy nyomást, és leomlott - éppen Palermo (és csapattársa) lábaira. Az argentint hordágyon kellett levinni a pályáról, és sejteni lehetett, hogy nagy baj van, hiszen bal lábát letakarták - mint kiderült, kettős sípcsonttörést szenvedett. Martin Palermo európai légióskodása nem váltotta be a hozzá fűzött reményeket, mivel a Villareal színeiben nem ontotta úgy a gólokat, mint hazájában, a Boca Juniors vagy az Estudaintes színeiben. A 30 éves támadóval - aki két és fél idény alatt mindössze 18 gólra volt képes - ennek megfelelően szerződést bontott a Villareal. A Betisben és az Alavésben pedig még rosszabb volt az átlaga (11/2, illetve 14/3). Aztán helyre állt a világ rendje, 2004-ben visszatért a Bocaba, ahol ismét közönség kedvenc lett, megtalálva „elvesztett” góllövő cipőjét - a Boca Juniors történetének leggólerősebb játékosa lett!
Újabb sérülés 2008 nyarán: A jobb térdszalagja a Lanus elleni, hazai pályán 2-1-re megnyert bajnokin sérült meg. Meg kellett műteni és a súlyos sérülése miatt ebben a szezonban már nem léphetett pályára. A Boca nélküle szerezte meg 23. bajnoki címét!
