En 1848, Frédéric Guillaume IV prononce la nouvelle constitution du royaume. Avec le Landtag, la Prusse adopte un système bicaméral, qui comprend la Chambre des Seigneurs (Herrenhaus) et la Chambre des Représentants (Abgeordnetenhaus).

La Diète de Prusse dispose d'un nouveau bâtiment, construit entre 1892 et 1904 sur les plans des architectes Friedrich Schulze et Colbitz.
L' Herrenhaus, achevé dès 1899, affiche un style néo baroque, propre aux palais de la noblesse.
La première séance plénière réunit les 433 membres de la Diète dans le nouvel édifice, le 16 Janvier 1899.

Du 16 au 21 Décembre 1918, siège le Congrès général des conseils de travailleurs et de soldats d'Allemagne en vue d'adopter la résolution d'organiser les élections de la réprésentation nationale pour le 19 janvier 1919 ; donnant ainsi naissance à la première république d'Allemagne.

Entre les 30 décembre 1918 et le 1er janvier 1919, le parti communiste d'Allemagne (KPD) est officiellement proclamé dans la Salle des Fêtes du Herrenhaus.

Jusqu'en 1932, la coalition de Weimar, composée de sociaux démocrates et de membres du centre droite, dirigera la Prusse. A l'avènement des nazis, la Diète de Prusse est dissoute.

L'Herrenhaus est reconstruit de manière plus simplifiée au lendemain de la seconde guerre mondiale. Il occupera de nombreuses fonctions au cours de l'existence de la RDA :
1946-1949 : Siège de la Commission économique d'Allemagne
1949-1953 : Siège du Conseil des ministres de RDA sous Otto Grotewohl
A partir de 1961: Siège de la Commission d'etat du Plan
1978-1983 : Des projets sont à l'étude pour en faire un mémorial en souvenir de la création du mouvement communiste allemand. Cependant, les projets n'aboutiront pas.

1990 : L'Allemagne est officiellement réunifiée. Suite à la décision du 21 juin 1991, faisant de Berlin, la nouvelle capitale de l'état fédéral, le Bundesrat (Sénat de la RFA ; Chambre des Länder) doit se prononcer sur son futur siège. En vertu du fédéralisme, le Bundesrat décide le 5 juillet 1991 de demeurer à Bonn, tandis que le le Bundestag (Chambre des députés) rejoint l'ancien bâtiment du Reichstag.

Cinq ans plus tard, le 27 Septembre 1996, la décision finale sur le siège du Bundesrat doit être adoptée. Finalement, le Bundesrat revient sur sa décision initiale : "Der Bundesrat hat seinen Sitz in der Bundeshauptstadt Berlin." De fait, il suit donc la Chambre des députés et la Chancellerie à Berlin.

Avant de tenir sa séance inaugurale à Berlin, en l'an 2000, une commission du Bundesrat lança un concours d'architecture, remporté par le cabinet Schweger + Partner de Hambourg, et ce en vue de restaurer l'ancien Herrenhaus.

Bundesrat