Nació en la casa ferroviaria de la Estación de Cerrillos (Salta), el día 14 de agosto de 1918. Realizó estudios primarios en la Escuela Zorrilla para luego estudiar el secundario en el Colegio Nacional de su provincia natal.
Se dedicó al periodismo y las letras.Es uno de los escritores fundadores del grupo "La Carpa".
Fue un escritor cuya raíz folclórica siempre estuvo presente en su obra. Su poesía celebratoria, identificada con el hombre, su tierra natal y la naturaleza, alcanzó su punto más alto en Copajira (1949), donde tiene como protagonistas a mineros de Bolivia.
Fue uno de los fundadores del movimiento La Carpa, que aglutinó durante los años cuarenta a grandes poetas del noroeste argentino como María Adela Agudo, Raúl Galán, Julio Ardiles Gray, María Elvira Juárez y Sara San Martín de Dávalos, entre otros.
También fue periodista en los diarios El intransigente y Salta, autor de letras de canciones y recopilador de coplas folclóricas.
Escribió la letra de muchas obras musicalizadas por su inseparable amigo, el Cuchi Leguizamón, hoy clásicos pero que en su momento contribuyeron a la renovación del folclore argentino. Esto ha ocasionado que muchos lo tomen por un poeta menor, no reparando en el hecho de que su obra extensa y diversa mereció muchas veces el reconocimiento oficial. Sin haber sido uno de sus fundadores, los aportes de Castilla en ese sentido pueden enmarcarse dentro del Movimiento del Nuevo Cancionero.
No obstante, como ya hemos dicho, su obra literaria fue largamente celebrada y premiada. En 1957 obtuvo el Premio Regional de Poesía del Norte (1954-1956, Dirección General de Cultura de la Nación). Por su libro Norte adentro recibió el premio Juan Carlos Dávalos. En el período 1958-1960, el Gobierno de Salta lo distinguió por el poemario El cielo lejos. En 1964 recibió el premio del Fondo Nacional de las Artes (Mendoza) por Bajo las lentas nubes. En 1967 recibió el Tercer Premio Nacional de Poesía por su obra Posesión entre pájaros. Entre otras de sus más importantes distinciones se incluyen el Gran Premio de Honor de la Sociedad Argentina de Escritores (1973), el Primer Premio Nacional de Poesía del Ministerio de Educación y Cultura de la Nación (trienio 1970-72) y el Primer Premio Nacional de Poesía del Ministerio de Educación y Cultura de la Nación (trienio 1973-75).
La poesía de Castilla es una poesía de vuelo poético, ligada al paisaje y al hombre. Si bien esta característica es compartida en mayor o menor medida por la poesía de todo el interior de la Argentina, en el caso de Castilla cobra una dimensión diferenciadora. Con fuertes influencias de la llamada «poesía del Pacífico», donde convergen la copla castiza con la poética de hombres como Vallejo, Pablo de Rokha, Nicomedes Santa Cruz y Pablo Neruda, entre otros, la poesía del Barba Castilla aparece fusionada con elementos de las cosmovisiones de la América imemorial, su prosa poética De solo estar es harto ilustrativa en ese sentido, el personaje es el tiempo, y la acción transcurre en un presente durativo: el mundo está aconteciendo ante los ojos del poeta.
La literatura de Castilla tuvo una amplia influencia en toda la literatura del Noroeste argentino y del interior en general, fue él el primero en introducir la poesía social en ese ámbito.
Falleció en Salta el 19 de julio de 1980.
Además de sus colaboraciones en diarios y revistas nacionales, publicó los siguientes poemarios: