Sekretariatets struktur er dynamisk og endrer seg i takt med de vedtak om det nordiske samarbeidet som foretas av de nordiske regjeringene. I 2008 har Nordisk Ministerråds sekretariat i underkant av 100 ansatte fra alle de nordiske landene.

Fra 1. januar 2007 er Halldór Ásgrímsson, tidligere statsminister på Island, generalsekretær for Nordisk Ministerråd.

Nordisk Ministerråd ble opprettet i 1971. En sekretariatsfunksjon ble dannet i 1972 og formelt vedtatt av de nordiske regjeringene året etter.

Ministerrådets sekretariat var til å begynne med delt i to: Et i Snaregade i København, ikke langt fra Folketinget på Christiansborg. Der håndterte man arbeidet med kultur, forskning og utdanning. Alle andre samarbeidsfelter ble dekket av et sekretariat i Skt. Olavsgate i Oslo.

Hvert sekretariat hadde egen generalsekretær. Med årene ble dette tungvint og kostbart, og i 1986 ble de to kontorene fusjonert og flyttet til Store Strandstræde 18 i København under ledelse av generalsekretær Fridtjov Clemet.

I juli 2010 flyttet sekretariatet til Ved Stranden 18 i København. Nordisk råd og Nordisk kulturfond har sine sekretariater på samme adresse.