Het Voormalig Rijksarchief kwam tot stand in de periode 1914-1922, samen met de uitbreiding van het aangrenzende Provinciehuis. Het ontwerp is van de hand van rijksbouwkundige Johannes Vrijman, op dat moment het hoofd van het Rijksbouwbureau voor de Gebouwen van Onderwijs enz. bij het ministerie van Binnenlandse Zaken.
Het exacte oeuvre van Johannes Vrijman is niet duidelijk bekend omdat onder zijn leiding ook veel door andere architecten werd ontworpen. Het Voormalig Rijksarchief is kenmerkend voor het met zekerheid aan deze minder bekende rijksbouwmeester toe te schrijven oeuvre. Het complex (inclusief Gouvernementsgebouw) geeft blijk van een gedegen technische kennis en een degelijke, maar niet uitzonderlijke architectonische vaardigheid.
Waar bij de archiefgebouwen in het laatste kwart van de negentiende eeuw sprake was van nieuwe ontwikkelingen en soms zeer vernieuwende functionele en technische oplossingen, is bij het Voormalig Rijksarchief al veel meer sprake van een continuering op basis van de eerdere inzichten. Zowel ruimtelijk als technisch is het gebouw zeer degelijk, maar vrij behoudend. De toepassing van gewapend beton was in deze periode nog zeker niet algemeen gebruikelijk, maar de voor de begane grondvloer en de verdiepingsvloeren van het middengedeelte toegepaste vloeren met aangestorte balken werden op dat moment al zeker twee decennia toegepast. Ook de combinatie van ijzeren kolommen en liggers, met daarin opgelegde vloerplaten van gewapend beton was zeker niet nieuw. Bijzonder voor de functie was echter wel dat de vloeren speciaal werden ontworpen op de plaatselijke lijnbelastingen van de archiefstellingen tussen de ijzeren kolommen. De kolommen waren daarvoor speciaal voorzien van bevestigingssleuven. De kolommen werden op alle etages boven elkaar geplaats en vormen zo een doorgaande draagconstructie. De tussenliggende vloervelden waren alleen bedoeld voor de toegankelijkheid en konden daarmee ook veel lichter worden ontworpen. Het gebouw werd voorzien van een zeer traditioneel uitgevoerde houten dakconstructie. Ondanks de sloop van een deel van de tussenvloeren bepalen de constructies ook thans nog in hoge mate het interieurbeeld en vormen daarbij ook het constructieve ‘hart’ van het gebouw.
In het interieur waren de depotruimtes uiterst sober uitgevoerd en behoudens de omhullende constructies werden hier geen specifieke decoratieve elementen toegepast. Alleen het middengebied met daarin de centrale hal, het trappenhuis, de gangen op de verdiepingen en de leeskamers en kantoren kregen een meer verzorgde afwerking. Deze was echter ook relatief sober en functioneel. De stucplafonds volgen de betonconstructies en zijn uitgevoerd met een repeterende verdeling. Alleen in de belangrijkste kamers werden paneellambriseringen toegepast. De paneeldeuren en venster kregen hier omlijstingen. Het trappenhuis werd zeer ruim opgezet en uitgevoerd met granieten treden, bordessen met granitovloeren en gesmede balustrades. Daarmee werd, ondanks de relatief sobere opzet, een voorname uitstraling bereikt.
Het exterieur heeft een vrij sterk repeterende, maar daardoor ook karakteristieke opzet in hoofdzakelijk neorenaissancistische architectuur. Verschillende decoratieve elementen, zoals de overwelfde galerij, de risalerende middenpartij en dakkapellen met trapgevels en gevelbanden en lijsten geven dit zeer forse gebouw toch voldoende geleding. De architectuur is noch vernieuwend, nog bijzonder uitgesproken, maar voegt zich goed naar de voor de bijzondere functie gevraagde gebouwopzet. Daarbij bleef het exterieur opmerkelijk goed behouden. Slechts nieuwe vensters binnen de galerij op de begane grond en diverse later ingevoegde dakvensters vormen de belangrijkste verstoringen.