Պատմության ինստիտուտի հիմնադրման օրվանից նրա կառուցվածքում եղել են պատմության, հնագիտության, վիմագրության, փիլիսոփայության և արվեստի պատմության բաժինները: Պատմության բաժնին կից գործել է Հայրենական պատերազմի պատմության կաբինետը:
1944 թվականին ինստիտուտի կառուցվածքում տեղի է ունեցել փոփոխություն: Պատմության բաժինը տրոհվել է երկու` Հին և միջին դարերի պատմության և Նոր դարերի պատմության բաժինների:
1947 թվականից Պատմության ինստիտուտի կազմում գործում էր Խորդրդային Հայաստանի պատմության բաժինը:
1959 թվականին Գիտությունների Ակադեմիայի Պատմության ինստիտուտում հիմնադրվեց ԽՍՀՄ-ի և ժողովրդական դեմոկրատիայի երկրների պատմության բաժինը, որը հետագայում վերանվանվեց հայ գաղթավայրերի և պատմական կապերի ուսումնասիրության բաժնի:
1960 թվականին Ակադեմիայի Գրականության ինստիտուտում ստեղծվում է Հայ պարբերական մամուլի պատմության բաժինը, որը 1965-ին տեղափոխվում է Պատմության ինստիտուտ:
1966 թվականին ինստիտուտի Հին և միջին դարերի պատմության բաժինը ընդլայնվել է: Ինստիտուտն արդեն ուներ առանձնացված Հին դարերի և Միջին դարերի պատմության բաժիններ:
1977 թվականին ստեղծվում է Հայ-ռուսական պատմական կապերի ուսումնասիրության նոր բաժինը:
2002 թվականից ՀՀ ԳԱԱ Պատմության ինստիտուտը ներկայանում է արդեն նոր կառուցվածքով:
2016թ. բացվեց Ընդհանուր պատմության բաժինը:
Ներկայումս ինստիտուտի կազմում գործում են 8 գիտական բաժին, համակարգչային կաբինետը և Մեսրոպ Արքեպիսկոպոս Աշճյան կենտրոնը:

1. Տնօրինություն
2. Հին դարերի պատմության բաժին
3. Միջին դարերի պատմության բաժին
4. Նոր պատմության բաժին
5. Նորագույն պատմության բաժին
6. Ընդհանուր պատմության բաժին
7. Հայկական հարցի և հայոց ցեղասպանության պատմության բաժին
8. Հայ գաղթօջախների և սփյուռքի պատմության բաժին
9. Հայ պարբերական մամուլի և հասարակական քաղաքական մտքի պատմության բաժին
10. Մեսրոպ Արք. Աշճյան կենտրոն