불가닌은 1895년 니즈니노브고로드에서 태어났다. 1917년 러시아 혁명 이후 볼셰비키에 가담하여 정치 활동을 시작했으며, 주로 경제 및 행정 분야에서 경력을 쌓았다. 1931년 모스크바 시의회 의장으로 임명되었고, 이후 소련 정부의 요직을 두루 거쳤다.
제2차 세계 대전 중에는 군사 분야에서도 중요한 역할을 수행하며, 국방 인민 위원회 부위원장을 역임했다. 전쟁 후에는 소련 군부의 핵심 인물 중 한 명으로 활동했다.
1953년 스탈린 사후, 게오르기 말렌코프의 뒤를 이어 소련의 총리(각료평의회 의장)가 되었다. 불가닌은 니키타 흐루쇼프와 함께 스탈린 격하 운동을 주도하며, 집단 지도 체제를 확립하려 노력했다. 그러나 흐루쇼프와의 권력 투쟁에서 밀려나 1958년 총리직에서 해임되었고, 이후 당에서도 제명되었다.
불가닌은 1975년 모스크바에서 사망했다. 그의 정치 경력은 스탈린 시대부터 흐루쇼프 시대를 아우르며, 소련 현대사의 중요한 전환기를 반영하고 있다.