Die ersten Informationen über die Existenz eines Herrenhauses in Brunów stammen aus dem 15. Jahrhundert. In den Jahren 1740-1750 wurde Graf Bernhard von Schmettau Eigentümer von Brunów. Dank ihm wurde das alte Herrenhaus rekonstruiert und der Altbau in einen kleinen zweistöckigen Barockpalast auf quadratischem Grundriss umgewandelt. Siebenunddreißig Jahre später wurden Krzysztof Henryk und Ernest von Schweinitz Eigentümer von Brunów. Drei Wochen nach dem Erwerb des Anwesens brach ein Brand im Palast aus, bei dem alle Gebäude brannten. Auf den Ruinen baute die Familie Schweinitz eine neue neobarocke, zweistöckige Residenz. Der Wiederaufbau wurde zwei schlesischen Architekten anvertraut: Mahrensberg und Scholtz. Die nächsten Besitzer des Schlosses waren die Familie von Cottonet, die mit Nachdruck den Ausbau des Schlosses im typischen Stil des Historismus des 19. Jahrhunderts in Angriff nahm. Aus dieser Zeit stammen der Stall mit Kutschenhaus, der Brunnen am Schloss und der von Eduard Petzold entworfene Park. Eine weitere Rekonstruktion erfolgte zwischen 1900 und 1901, als der Südflügel des Palastes mit einer Orangerie und einem achteckigen Turm gebaut wurde. Heute beherbergt das Schloss ein Hotel und ein Restaurant.