Nació en Tucumán y murió en Buenos Aires.
Abogado y funcionario público. Vicepresidente, se hizo cargo de la presidencia durante la ausencia de Mitre al desempeñarse como comandante militar en la guerra del Paraguay. 
Estudió en Buenos Aires donde se graduó en leyes en 1834. Dos años más tarde fue designado secretario del gobernador de Tucumán. Luchó en la batalla de Caseros ocupando el puesto de edecán del general Ángel Pacheco. 
Nombrado representante ante la Convención Constituyente de Santa Fe (1853), renunció para ocupar el cargo de gobernador de Tucumán. Que desempeñó hasta 1860. Su administración se caracterizó por el orden y el progreso. Se construyeron edificios públicos, se inauguraron bibliotecas, quedó organizada la Sociedad de Beneficencia y se realizó el primer censo. 

En 1861 el general Paunero requirió los servicios del coronel Paz para ocupar provisionalmente la gobernación de Córdoba, en difíciles condiciones causadas por la escisión producida entre los liberales de dicha provincia. Dejó este cargo en 1862 para regresar a Tucumán, como comisionado nacional con el objeto de pacificar las provincias del norte central. 
Logró persuadir a los gobiernos de Tucumán, Catamarca, Santiago del Estero y Salta de suscribir un convenio de paz, el 3 de marzo de 1862, que hubiera puesto término a la disidencia y oposición interna al nuevo gobierno nacional de Buenos Aires, de no haberse registrado ulteriores revueltas, dirigidas en los dos años siguientes, por Ángel Vicente Peñaloza. 
Paz había sido electo senador nacional en 1861 y en 1862 pasó al ser vicepresidente de la nación. Entre los años 1865 y 1868. Ejerció la presidencia "pro tempore" al delegar Bartolomé Mitre su autoridad ejecutiva para asumir el mando de las fuerzas militares aliadas en la guerra del Paraguay. En este difícil período de reorganización nacional Paz actuó con firmeza y capacidad, pero a menudo se vio obstaculizado por el deseo popular de que el presidente electo volviera a hacerse cargo de la gobernación. Ofreció su renuncia varias veces pero continuó en el puesto hasta su muerte.