Nació en San Francisco de Campeche hijo de Justo Sierra O'Reilly, eminente novelista e historiador, y de Doña Concepción Méndez Echazarreta, hija de Santiago Méndez Ibarra, quien jugó un papel importante en la política yucateca del siglo XIX. A la muerte de su padre (1861), siendo casi un niño, Justo Sierra Méndez se trasladó primero a la ciudad de Mérida, después a Veracruz y por último a la Ciudad de México donde, después de brillantes estudios, se relaciona con los mejores poetas y literatos de ese tiempo, entre otros con Ignacio Manuel Altamirano, Manuel Acuña, Guillermo Prieto, Luis G. Urbina, poetas de la Revista Azul y de la Revista Moderna. Fue hermano de Santiago, periodista y poeta y quien fuera asesinado por Ireneo Paz en duelo armado en 1880 en presencia del mismo Justo, y de Manuel José, político. Asistió a una reunión en la que estaban algunos de los más consagrados escritores de aquel tiempo.
La velada tuvo lugar en casa de don Manuel Payno; estaban ahí, entre otros, Guillermo Prieto,Ignacio Ramírez y Vicente Riva Palacio. Dice don Agustín Yáñez: "desde aquella velada, Sierra ocupó un sitio de preferencia en los cenáculos, conmemoraciones y redacciones literarias; fue la sensación del momento en la tribuna en los días clásicos de la patria; en una juventud que se consagró a la literatura, Sierra incursionó en el relato, en el cuento, la novela y el teatro."
Algunos de sus poemas de juventud se publicaron en el periódico El Globo, y se dio a conocer con su famosa "Playera"; a partir de 1868 publicó sus primeros ensayos literarios; en El Monitor Republicano inició sus "Conversaciones del Domingo", artículos de actualidad y cuentos que después serían recogidos en el libro Cuentos románticos; publicó en la revista El Renacimiento su obra El Ángel del Porvenir, novela de folletín que no tuvo mayor impacto. Escribió también en El Domingo, en El Siglo Diez y Nueve, La Tribuna, en La Libertad, de la que fue su director y en El Federalista. Asimismo, publicó en El Mundo su libro En Tierra Yankee. Abordó además el género dramático en su obra Piedad.
En 1871 se recibió de abogado. Varias veces diputado al Congreso de la Unión, lanzó un proyecto que sería aprobado en 1881 y que daba a la educación primaria el carácter de obligatoria. En ese mismo año presentó un proyecto para fundar la Universidad Nacional de México que no prosperó, tardaría sin embargo 30 años para verlo realidad. Desde 1892, expuso su teoría política sobre la “dictadura ilustrada”, pugnando por un Estado que habría de progresar por medio de una sistematización científica de la administración pública; en 1893 dijo aquella célebre frase: "el pueblo mexicano tiene hambre y sed de justicia". ("México es un pueblo con hambre y sed. El hambre y la sed que tiene, no es de pan; México tiene hambre y sed de justicia"). En 1901 se trasladó a Madrid con el objeto de participar en el Congreso Social y Económico Hispanoamericano; fue en esta ocasión que conoció a Rubén Darío en París. Presidió la Academia Mexicana,1 correspondiente de la Española.
Influyó también en los escritores Luis González Obregón y Jesús Urueta.