Su padre, Leandro Antonio Alén, era un pulpero del barrio de Balvanera entonces en los arrabales de la ciudad de Buenos Aires, y uno de los jefes de la Mazorca, la fuerza parapolicial de Juan Manuel de Rosas, motivo por el cual sería fusilado y colgado públicamente en la desaparecida Plaza de Monserrat. Leandro Alem cambió la última letra de su apellido para atenuar la permanente discriminación que sufrirá por el recuerdo de su padre: siempre fue "el hijo del ahorcado".
A la muerte de su padre quedaron en la pobreza y su madre, Tomasa Ponce, debió dedicarse a fabricar y vender dulces y pasteles para sostener a la familia.
Fue tío y mentor de Hipólito Yrigoyen, hijo de su hermana Marcelina Alén y diez años menor que él, quien en 1916 llegaría a ser el primer presidente argentino elegido por el voto secreto.
Desde muy joven Alem ingresó como voluntario al ejército. Peleó en las últimas batallas de las guerras civiles argentinas, Cepeda en 1859 y Pavón en 1861. Alcanzaría el grado de capitán en la Guerra del Paraguay (1865-1870) donde sería herido.
Se recibió de abogado en la Universidad de Buenos Aires e instaló su estudio junto con su amigo y correligionario Aristóbulo del Valle. Su tesis se tituló: "Estudio sobre las obligaciones naturales", es decir aquellas obligaciones que reposan más en la moral que en la ley. Además fue un importante dirigente de la masonería.