El núcleo original del edificio estaba vinculado a Giovanni de 'Medici, futuro papa Leo X, quien en 1503 transformó un palacio preexistente del siglo XV. Se hicieron más ampliaciones en 1512. En 1533, el edificio pasó a "Madama" Margaret de Austria, hija ilegítima de Carlos V y esposa de Alessandro de 'Medici. Dio su nombre al palacio, en el que vivía.

En el siglo XVII, Ferdinando II de 'Medici dio al edificio su forma actual, habiendo sido renovado y ampliado por Paolo Marucelli. En 1755, Benedicto XIV Lambertini compró el edificio a la familia Lorena y lo convirtió en la sede del Gobernador de Roma: abrió el segundo patio, en el espacio que ocupa hoy la cámara del Senado. En 1853, Pius IX Mastai Ferrari tenía sus ministerios de Hacienda y Deuda Pública en el edificio y en 1851 se convirtió en la sede del servicio postal papal.

Desde 1871, cuando el palacio se convirtió en la sede del Senado italiano, se han realizado muchos trabajos en el edificio, incluidas importantes modificaciones relacionadas con sus nuevas funciones.

La fachada en Corso Rinascimento tiene una puerta sostenida por columnas y rematada por un balcón y un marco muy decorado con un friso de ángeles. En el interior del palacio destacan la Cámara de Senadores pintada por Cesare Maccari (1880). Palazzo Madama tiene una biblioteca valiosa, con más de 500 000 volúmenes.