Mientras se realizaba la campaña del desierto, hizo Avellaneda un esfuerzo para lograr el acercamiento de los partidos en pugna, con proyección a la fusión electoral entre el partido autonomista nacional que sostenía al presidente, y el partido nacionalista que acaudillaba Mitre y que, después de la rendición que siguió a La Verde, se había alejado de la cosa pública, se abstenía en son de protesta muda y prescindía en todo lo referente a la política gubernativa.
Aunque vencidos, los revolucionarios de 1874 eran una fuerza importante y el país vivía inquieto por esa situación que no era precisamente de apaciguamiento.
Por iniciativa del gobernador de Buenos Aires Carlos Casares y la mediación personal de José María Moreno, se estableció contacto con Mitre y se echaron las bases de una política de conciliación. Mitre concretó en un documento los compromisos adquiridos: la rectificación del sistema imperante de presión electoral por el gobernador de Buenos Aires; una política presidencial de grandes actos que pacificara por el olvido y abandonara el campo electoral al movimiento de los partidos.
Avellaneda se propuso privar a los vencidos de todo pretexto para nuevas subversiones y se dedicó a remover los obstáculos que se oponían a un acercamiento.
Mitre y sus amigos querían hacerse presentes en la provincia como fuerza política, ya que en ella contaban con sus más firmes efectivos.
Decía Avellaneda que "los hombres públicos deben dejar entre sí un campo abierto y libre para poder estrecharse las manos sin odio y sin violencia cuando las conveniencias de la patria así lo exijan".
Para resolver en definitiva la conciliación se consultó con el jefe del partido autonomista, Adolfo Alsina, que se había instalado en el campamento de Carhué. Alsina no opuso resistencia a esa idea. El acuerdo se llamó conciliación de los partidos y fue aplaudido popularmente, mostrándose en las calles desfiles conjuntos de los que días antes eran adversarios.
Una de las infinitas caricaturas que se le dedicaron durante su presidencia a Nicolas Avellaneda
Sarmiento no vio con buenos ojos la conciliación propiciada por Avellaneda ni había visto con simpatía la amnistía de los revolucionarios de 1874, aunque procuró manejarse con tacto en la oposición; sin embargo, hizo reparos en las columnas de El Nacional, diciendo que las ideas no se concilian y que las conciliaciones alrededor del poder público no tienen más resultado que el de suprimir la voluntad de los que mandan.
Algunos jóvenes del partido autonomista, encabezados por Leandro N. Alem y Aristóbulo del Valle, rehusaron a someterse a la conciliación y presentaron una candidatura propia a la gobernación de la provincia, la del doctor del Valle, preparándose para luchar por su cuenta en las próximas elecciones de senadores y diputados. Fue entonces cuando Alsina, que deseaba mantener la unidad del partido, se dirigió a esos jóvenes para exhortarles a buscar un acuerdo que suprimiese la lucha entre amigos políticos. Carlos Casares prometió la más amplia libertad en las elecciones: "No he de consentir el abuso de la fuerza en los comicios y he de perseguir el dolo, el fraude y la coacción doquiera se presenten".
Los partidos de la conciliación triunfaron en los comicios provinciales de 1878, aunque discreparon en torno a la persona que debía suceder a Carlos Casares.
Se aprobó la ley general de amnistía, fueron reintegrados en sus puestos los militares revolucionarios y se proclamó que sería respetada en las provincias la libertad de sufragio. La oposición se comprometió a declinar todo recurso de violencia y a desistir de su actitud agresiva. En virtud de ese acuerdo, Avellaneda incorporó a su gabinete a mitristas como Rufino de Elizalde y José María Gutiérrez. La conciliación se rompió, sin embargo, cuando surgió la candidatura presidencial de Roca, que se suponía apoyada por Avellaneda, y nuevamente se volvió a hablar de revolución.
Caricatura de Roca , Avellaneda y Mitre aparecida en el Mosquito en la época de la conciliación de partidos
Un acontecimiento que dio a Roca una base de opinión y de influencia en Buenos Aires fue la fundación del partido autonomista nacional, con la fusión de las fracciones del autonomismo acaudilladas por Aristobulo del Valle, Dardo Rocha y Antonino Cambaceres, que se habían opuesto a la candidatura de Tejedor y habían sostenido los nombres de Sarmiento, Roca y Bernardo de Irigoyen; la fracción de Martín de Gainza continuo la conciliación con los nacionalistas.
Así pudo Roca contar con el apoyo de esos núcleos influyentes en la opinion porteña y El Nacional, dirigido por del Valle y Miguel Cane, fue así un poderoso órgano roquista. Roca y Pellegrini fueron, durante un cuarto de siglo, los máximos dirigentes de la política nacional a través del P. A. N.
Se fue difundiendo a pesar de todos los obstáculos la fórmula enunciada que en la nación no hay nada superior a la nación misma. Se hicieron homenajes a Mariano Moreno el 15 de abril de 1877, y Avellaneda lanzó entonces la idea de la repatriación de los restos de San Martín: 'Los pueblos que olvidan sus tradiciones, pierden la conciencia de sus destinos y los que se apoyan en sus glorias son los que mejor preparan el porvenir".
El 14 de marzo de 1877 murió en Southampton Juan Manuel de Rosas; con ese motivo se invitó a un oficio religioso en San Ignacio; el gobernador Carlos Casares y el ministro Quesada, prohibieron su realización y al día siguiente Carlos Tejedor, Bartolomé Mitre y otras personalidades invitaron a recordar a las víctimas de la tiranía y los gobiernos nacional y provincial de Buenos Aires se adhirieron a la iniciativa.
Juan Manuel de Rosas murió en el exilio el 14 de marzo de 1877, acompañado por su hija Manuelita, en su finca de Southampton, Inglaterra.
Cuando la noticia de su muerte llegó a Buenos Aires, el gobierno prohibió hacer ningún funeral ni misa en favor de su alma, y organizó un inusual responso por las víctimas de su tiranía.
La casona de Rosas, San Benito de Palermo, quedó abandonada con su exilio, y fue una ruina durante la siguiente década. Luego fue utilizada por el Gobierno Nacional con varios fines Colegio Militar, Escuela Naval, etc., mientras el presidente Domingo Faustino Sarmiento impulsó la transformación de los terrenos de estancia en un espacio público, el Parque 3 de Febrero, llamado en honor a la batalla de Caseros. El edificio siguió en pie hasta el 3 de febrero de 1899, cuando el Intendente Adolfo Bullrich ejecutó su implosión, con muy poca oposición social.