Costruito per la prima volta dal duca Kristupas Radvila alla fine del XVI secolo, il castello di Biržai è stato ampiamente restaurato negli anni '80, essendo stato distrutto due volte. I suoi enormi bastioni imbiancati che svettano verso il cielo dal lago artificiale Širvėnait erano la sede dei duchi di Biržai e si trovarono in prima linea in due guerre con la Svezia. Il castello principale e l'arsenale ospitano mostre abbastanza aride di fauna locale, etnografia, storia militare e la storia del castello, del Ducato e della famiglia Radvilas.