Juan Filloy nació el 1° de agosto de 1894 en la ciudad de Córdoba, siendo el segundo hijo de Benito Filloy, un campesino español de Pontevedra, Galicia, y de Dominique Grange, una campesina francesa natural de Toulouse, que se ganaba la vida como curandera y lavandera; de tal manera que su apellido se pronuncia Fiyoy y no Filoy, "porque es un apellido gallego y no irlandés".
Realizó los estudios primarios en la escuela Normal Alejandro Carbó y los secundarios en el colegio Nacional de Monserrat de la Ciudad de Córdoba.
En 1912 la familia, sus padres y los hermanos Benito, Rosa y Manuel, instaló el cine, teatro y bar Imperial con una inversión que, aunque distinta, no aumentó la prosperidad del grupo.
En 1913 se desempeñó como bibliotecario Ad-honorem de la biblioteca Popular Vélez Sarsfield ( fundada el 11 de mayo de 1909), ubicada en el mismo barrio General Paz de su infancia y adolescencia; al año siguiente ocupó el cargo de secretario de la entidad.
Aunque nunca jugó al fútbol, fue socio fundador del club Talleres, entidad de la que llegó a ser secretario y presidente de la delegación que viajó a Chile en 1923. En 1918 tuvo participación activa en la Reforma Universitaria, casi al mismo tiempo que trabajaba de dibujante caricaturista. Fue miembro de la Federación Argentina de Boxeo y dirigió combates de Luis Ángel Firpo.
En 1920, recién graduado en Derecho en la Universidad Nacional de Córdoba, se trasladó a Río Cuarto, ciudad en la que residiría durante sesenta y cuatro años. En su ciudad adoptiva fue uno de los fundadores del Museo de Bellas Artes de Río Cuarto y del Golf Club (deporte que nunca practicó). Durante sesenta años fue colaborador del diario El Pueblo de Río Cuarto, en el que escribía una columna diaria con comentarios de actualidad, crítica literaria o teatral.
Publicó su primera obra, Periplo, crónicas de un viaje de dos meses en los que recorrió toda la costa del Mediterráneo, en 1930. Durante los nueve años siguientes publicó otros seis libros, incluyendo tres novelas (¡Estafen!, Op Oloop y Caterva), un poemario (Balumba), una suerte de geografía poética de la Argentina (Aquende) y un volumen de prosas poéticas (Finesse), todos en ediciones de autor de poco alcance, para después dejar de publicar durante casi tres décadas, durante las cuales se desempeñó como juez, si bien nunca dejó de escribir. En reportajes posteriores, explicó este silencio editorial por incompatibilidades con sus funciones jurídicas:
Hay un artículo en el Código donde la publicación de pornografía es punida. Como juez he hecho todo lo posible para que los libros que tuvieran coprolalia no estuvieran al alcance de la prensa. Por eso se hicieron ediciones privadas, que eran dedicadas personalmente, de modo estricto, a mis amigos. Yo no podía cometer la tontería de caer en las sanciones del artículo 218 que a mí, como juez me correspondía aplicar.
En 1933 comenzó a cartearse con Paulina Warshawsky, una docente enterriana hija de ingleses que conocía a un amigo de Filloy. Finalmente, en 1935 se conocieron personalmente en Buenos Aires. En palabras del escritor, «Nos conocimos la tarde de un viernes, nos pusimos de novios el sábado, nos comprometimos el domingo y nos casamos el lunes». Permanecieron juntos durante casi cincuenta años, hasta la muerte de Paulina en 1984, y tuvieron a sus hijos Fernán y Monique.
Entre 1967 y 1973, la editorial Paidós reeditó sus novelas ¡Estafen! y Op Oloop, a las que se agregó una editada por primera vez, La potra, en una colección dirigida por Bernardo Verbitsky, lo que generó un redescubrimiento de su obra, hasta que Filloy volvió a publicar en ediciones de autor. Otra de sus novelas, Vil & Vil (1975), fue prohibida por el gobierno militar y fue interrogado durante varias horas, al cabo de las cuales lo liberaron porque sólo habló de literatura.
Después de la muerte de su esposa en 1984, volvió a residir en la ciudad de Córdoba, donde siguió escribiendo a pesar de su avanzada edad. Publicó Karcino, un tratado de palíndromos, y Esto fui, memorias de infancia. Por este tiempo también apareció Don Juan, una antología de textos suyos a cargo de Mempo Giardinelli, amigo y difusor de la obra de Filloy, y quien también lo entrevistó para su revista Puro cuento en 1987.
Cumpliendo su deseo de ser «un hombre de tres siglos», falleció mientras dormía la siesta en su departamento el 15 de julio de 2000, a pocas semanas de cumplir 106 años. A su velatorio asistieron las principales personalidades de la cultura de Córdoba, y fue sepultado en el cementerio San Jerónimo de la capital provincial. A fines de ese año, la biblioteca de la Universidad de Río Cuarto fue bautizada con su nombre.
A lo largo de sus casi 106 años de vida, Filloy desarrolló una vasta obra literaria en todos los géneros: novela, cuento, artículo, poesía, ensayo, nouvelle, traducción o historia, además de crear textos híbridos que cruzan elementos de varios géneros, sumando un total de más de cincuenta obras, lo que convierte a Filloy en uno de los autores más prolíficos de su país. En vida del autor se publicaron veintisiete obras, entre 1930 y 1997:
Novelas
Cuentos
Poesía
No ficción
Otras tres obras fueron publicadas bajo forma de artículos en el citado diario El Pueblo y en La Nación de Buenos Aires:
Con todo, varias obras de Filloy permanecen inéditas: