Demichelis begann seine Fußballerkarriere bei Clube Renato Cesarini , spielte von 1995-1998 bei Complejo Deportivo und 1998-2003 bei River Plate Buenos Aires, bevor er 2003 für etwa 4,5 Millionen Euro zu Bayern München wechselte.
Nach Startschwierigkeiten erkämpfte sich „Micho“ zwischenzeitlich einen Stammplatz im defensiven Mittelfeld, in der Saison 2007/08 ist er Stammspieler in der Innenverteidigung. Demichelis besticht durch seine kompromisslose Defensivarbeit und seine Kopfballstärke.
Trotz mehrerer Einsätze bei Freundschaftsspielen wurde er am 15. Mai 2006 von Trainer José Pekerman nicht für das argentinische Aufgebot bei der WM in Deutschland nominiert. Nach dem Rücktritt von Roberto Ayala wurde er unter Trainer Alfio Basile jedoch wieder festes Mitglied der Mannschaft. Das Medienecho war positiv.