Al llegar Mitre a la gobernación de Buenos Aires, Sarmiento ocupó la cartera de Gobierno y Relaciones Exteriores. Luego de la derrota de Mitre en Cepeda, Buenos Aires firmó el Pacto de San José de Flores y se avino a examinar la Constitución de 1853. Miembro de la comisión examinadora junto con Mitre y Vélez Sarsfield, intentó Sarmiento reflejar en los artículos sometidos a reforma sus objetivos, acercando la estructura normativa al molde norteamericano.

Tras la batalla de Cepeda el 23 de octubre de 1859, en la que las tropas de la Confederación, al mando de Urquiza, triunfan sobre las de la provincia de Buenos Aires encabezadas por Mitre, surgen las condiciones para que Buenos Aires se declare parte integrante de la Confederación, con el derecho de examinar y proponer eventuales reformas, que comunicaría al gobierno nacional a través de una Convención provincial.

Durrante 1860 es elegido convencional, Sarmiento recordó su posición invariable contraria a toda secesión de Buenos Aires del resto del país: "No soy separatista ni lo seré jamás". Las actas de la Convención Reformadora confirman la significación de las intervenciones de Sarmiento, con sólida doctrina y sentido de lo hacedero. Casi todas las reformas propuestas por la Convención provincial fueron aprobadas en la Convención Constituyente, reunida en Santa Fe del 14 al 23 de setiembre.

La derrota del gobierno nacional

La situación aceleradamente se deterioró debido a que Urquiza cumplió su mandato constitucional de seis años y abandonó la presidencia, contra las sugerencias que pretendían hacer de él un caudillo populista ungido por reelecciones sucesivas.
Urquiza, volcando su autoridad en la elección de las juntas de electores, que en comicios de segundo grado debían designar presidente por mayoría absoluta, influyó en el nombramiento de Santiago Derqui, quien habría de gobernar hasta que Mitre condujo al ejército de Buenos Aires a la victoria en la batalla de Pavón.
Una de las causas que impulsó la nueva crisis estaba en la provincia de San Juan. En 1858, bajo el gobierno de Manuel José Gómez, fue asesinado en la celda donde estaba detenido el viejo caudillo federal Benavídez; la comisión interventora enviada por Urquiza tomó prisionero al gobernador y lo reemplazó por el correntino José A. Virasoro, desterró a Aberastain jefe liberal y amigo de juventud de Sarmiento; los liberales respondieron, en noviembre de 1860, matando a Virasoro y colocando en el mando a Aberastain; siendo presidente Derqui, envió como interventor a Juan Sáa, quien derrotó a Aberastain en el combate de Pocito y luego lo fusiló, a principios de 1861: ocho meses más tarde chocaron los ejércitos en Pavón.

El asesinato de Aberastain, precedido por el del gobernador de San Juan, José Virasoro, produjo gran conmoción en ambos sectores en conflicto. La no aceptación de los diputados de Buenos Aires al Congreso de Paraná, por no haber sido elegidos de acuerdo con la Constitución aprobada, llevó inevitablemente al conflicto armado. La batalla de Pavón -eje de referencia de la vida histórica argentina- fue ganada en los hechos por Mitre, gobernador de la provincia de Buenos Aires, aunque Urquiza dejó la impresión con su retirada, de haber respondido a un principio superior.