Sekretariatets struktur är dynamisk och ändrar sig i takt med de initiativ om det nordiska samarbetet som tas av de nordiska regeringarna. År 2008 har Nordiska ministerrådets sekretariat ungefär 100 anställda från alla de nordiska länderna.

Från 1 januari 2007 är Halldór Ásgrímsson, tidigare statsminister i Island, generalsekreterare för Nordiska ministerrådet.

Nordiska ministerrådet blidades 1971. En sekretariatsfunktion grundades 1972 och godkändes formellt av de nordiska regeringarna året därpå.

Ministerrådets sekretariat var till en början uppdelat i två enheter. Den ena låg vid Snaregade i Köpenhamn, inte långt från Folketinget i Christiansborg. Där hade man hand om arbetet med kultur, forskning och utbildning. Alla andra samarbetsområden sköttes av det andra sekretariatet vid Skt. Olavsgate i Oslo.

Vardera sekretariatet hade en egen generalsekreterare. Med åren blev detta tungrott och dyrt, och 1986 sammanslogs de två kontoren och flyttades till Store Strandstræde 18 i Köpenhamn under ledning av generalsekreterare Fridtjov Clemet.

I juli 2010 flyttade sekretariatet till Ved Stranden 18 i Köpenhamn. Nordiska rådet och Nordiska kulturfonden har sina sekretariat på samma adress.