En la noche del 2 de junio, no habiendo podido impedir que las armas adquiridas por la provincia fuesen a parar a sus defensores, Avellaneda se trasladó sin llamar la atención al campamento de tropas nacionales de la Chacarita, cediendo a sugestiones de personas que querían un desenlace violento de la crisis.
Al día siguiente lanzó una proclama declarando que el gobernador de Buenos Aires se había alzado contra los poderes públicos de la Nación; que había desembarcado armamento y rechazado por la fuerza a los funcionarios nacionales, violando las leyes fiscales. Explicó su alejamiento de la ciudad y el retiro de los soldados que la guarnecían para evitar conflictos sangrientos. Y terminaba así:
"Ante la manifestación verdaderamente majestuosa del comercio de Buenos Aires en favor de la paz, pronuncié estas palabras: No saldrá jamás de mis actos una agresión. No moveré ni un arma, ni un hombre, sino para defender la Nación amenazada en su existencia, en los poderes públicos o en las leyes. Este caso supremo ha llegado, desgraciadamente. Voy a mover los hombres y las armas de la Nación a fin de hacer cumplir y respetar las leyes."
En vista de que no podían funcionar con seguridad los poderes nacionales en el recinto de la ciudad de Buenos Aires, mientras durase el estado de insurrección armada en que se ha colocado el gobierno de la provincia, el presidente Avellaneda decretó que el pueblo de Belgrano sería el lugar de residencia de las autoridades de la Nación.
Avellaneda abandonó la ciudad el 4 de junio sin que Tejedor se decidiera a impedirlo y tras permanecer alojado en el monitor El Plata instaló la capital nacional en el entonces pueblo de Belgrano declarando que el gobierno de Buenos Aires se había alzado en armas contra la nación. El vicepresidente Mariano Acosta, si bien no era partidario de Tejedor, simpatizaba con los porteños y decidió permanecer en la ciudad, al igual que buena parte de los diputados,
En su memoria sobre la defensa de Buenos Aires, Carlos Tejedor comenta así la salida del presidente Avellaneda:
"El 2 de junio se descargaban en la casa de gobierno provincial los tres mil quinientos máuseres que habían entrado por el Riachuelo.El mismo día, al caer la tarde, el presidente de la República, acompañado del ministro de la guerra, se metía en un coche y salía precipitadamente, dejando en la ciudad el resto del gabinete y todo el personal de la administración.
Dentro de la ciudad dejaba también tres batallones de línea, el parque de artillería con abundante armamento, los miembros de las dos cámaras legislativas, y la Corte Suprema. ¿Qué motivaba esta salida repentina? En la ciudad, ningún grito descompuesto se había oído. Reinaba en todas partes la tranquilidad más completa. El comercio seguía sus operaciones ordinarias. Ni el gobernador de la provincia ni cuerpo alguno se habían alzado en armas.
Esa noche, parte de los miembros del Congreso se embarcaron en los buques de la escuadra. Nadie les dijo nada.
Al día siguiente, los tres batallones de línea salieron separadamente de sus cuarteles y se dirigieron a la Chacarita. Era lo más fácil rendirlos, más fácil que el 15 de febrero, y nadie lo intentó.
Los empleados transportaban papeles, y cuanto querían. Nadie lo impidió.
Los ministros restantes hacían su despacho como siempre en la Casa Rosada. Nadie los molestó.
El 3 y el 4, la aduana, la administrada aún por el gobierno nacional, percibía los derechos. ¿Cuál era, pues, la causa de la salida del presidente? ¿Era un rapto de dignidad por el hecho de las armas? ¿Era un plan de antemano concebido, y que se ejecutaba en la ocasión que se creía más oportuna? Era lo segundo.
No obstante lo convenido el 15 de febrero, los dos regimientos, como se dijo antes, echaron en la Chacarita las bases de un gran campamento. El plan de refugiarse allí, para bombardear después a mansalva la gran ciudad, nació ese día."
El hecho del Riachuelo mostró que el pueblo de Buenos Aires podía armarse a despecho del bloqueo. El desembarco de las armas, en si mismo, era insignificante; era en todo caso un conflicto entre dos poderes; y el juez estaba señalado en la Constitución.
El gobernador de la provincia sólo había producido el caso, para que la acción del tribunal competente fuese requerida. Pero era necesario aprovechar este hecho.
Era necesario salir de la ciudad, para anunciar a los pueblos desde la Chacarita, que el gobernador de Buenos Aires se había revelado. Carlos Tejedor expidió una proclama en la que exponía que el desembarco de armas no significaba alzamiento contra los poderes públicos y las leyes de la Nación. Las leyes fiscales que fijan los procedimientos para tales actos no alcanzaban por igual a los gobiernos de provincia; de modo que los que habían violentado las leyes serían los empleados que quisieron embargar por la fuerza el buque y armamento propiedad de la provincia.
"La provincia de Buenos Aires y su gobierno acatan hoy, como ayer —decía la proclama—, las leyes de la Nación, y respetan las autoridades legítimas, como son la Corte Suprema y el Congreso que todavía reside en su recinto, y mañana hará lo mismo con el Exmo. señor presidente si quisiera ocupar de nuevo su asiento en el palacio del gobierno nacional".
Y con referencia a la parte de la proclama de Avellaneda de que el pueblo de Buenos Aires en su gran mayoría sería el primero en reparar los agravios que acababa de recibir el gobierno nacional, Tejedor replicó:
"Amante de la paz y la prosperidad de mi patria, como celoso del cumplimiento de mis deberes, cueste lo que cueste, no necesita el pueblo de Buenos Aires sino darme el más pequeño signo de que el señor presidente ha interpretado bien sus sentimientos, para dejar un puesto rodeado hace dos años de sinsabores" (4 de junio de 1880).
La comisión del comercio de Buenos Aires pidió a Mitre, a Sarmiento, a Félix Frías, a Juan Bautista Alberdi, a Manuel Quintana y a José Benjamín Gorostiaga, que interviniesen para llegar a la paz, y mientras se realizaban gestiones, el mismo 4 de junio y los días siguientes el presidente de la República ordenó que marchasen hacia la Chacarita las fuerzas de línea de Rosario, Córdoba y Entre Ríos, y se ordenó al coronel Levalle que avanzase sobre la capital con sus tropas.
El gobernador de Buenos Aires se limitó a reunir los policías de campaña en el campo de Santa Catalina a las órdenes del coronel Hilario Lagos, hijo, nombrando a José Inocencio Arias comandante en jefe de las milicias de campaña. Y firme en el propósito declarado de no recurrir a las armas contra fuerzas de la nación, dijo en un manifiesto: "Mientras no se haga el primer tiro por las fuerzas nacionales o provoquen la primera batalla, el Presidente de la República es el primer funcionario supremo, que sólo debe ser desobedecido cuando ordene actos de hostilidad o aconseje la desobediencia a las autoridades de la provincia por sus subalternos".