Conseguita la laurea in giurisprudenza si dedica prevalentemente, per parecchi anni, all'attività forense nella città natale ma continua, nel contempo, ad occuparsi di letteratura componendo liriche, tragedie e saggi critici; tra questi sono da ricordare: L'Idealismo e la letteratura e La scienza dell'arte.

Le idee fondamentali del suo pensiero artistico e letterario si possono cogliere nella prolusione al corso di estetica tenuto nell'Università di Roma come libero docente nel 1885. Eletto per la prima volta nella XV legislatura, rappresenta ininterrottamente i suoi elettori in tutte le successive legislature sino al 1907, anno della morte.

Alla Camera ha modo di rivelare le sue doti di letterato e politico; milita nelle file della Sinistra storica e rimane sostanzialmente fedele al suo primo programma politico, in cui auspica, tra l'altro, il suffragio popolare. Prende più volte posizione, dentro e fuori la Camera, contro il trasformismo, invocando un assetto razionale delle parti politiche. Amico e seguace dello Zanardelli, entra nel gabinetto di Rudinì come ministro della Pubblica Istruzione (dal dicembre 1897 al giugno 1898), lasciando la presidenza della Giunta delle elezioni che aveva ricoperto alla Camera.

Alla guida del dicastero (che riassumerà dal giugno 1900 al febbraio 1901 nel gabinetto Saracco) emana una serie di provvedimenti che riflettono la sua specifica preparazione: riordina il servizio delle Belle Arti, dà un nuovo assetto amministrativo al ministero ed alle scuole e rafforza la libertà d'insegnamento dei maestri elementari di fronte alle invadenze locali e municipali. E' eletto presidente della Camera il 16 giugno 1900, ma lascia l'incarico (per tornare all'Istruzione) già il 28 dello stesso mese. Dal maggio 1906 al marzo 1907 è ministro di Grazia e Giustizia nel gabinetto Giolitti: la morte interrompe la sua attività riformatrice che già si era andata delineando con l'istituzione, nel settembre del 1906, di una commissione per la riforma generale della legislazione di diritto privato. All'unanime cordoglio della Camera si associò Andrea Costa, ricordando che il Gallo era stato uno dei pochi a difendere le libertà politiche nei tristi giorni in cui i socialisti venivano additati come pericolosi sovvertitori dell'ordine.