Balakirev sa narodil v Nižnom Novgorode v šľachticko-úradníckej rodine. Hudobné nadanie a fenomenálnu pamäť zdedil po matke, ktorá ho zasvätila aj do klavírnej hry.
Rozhodol sa síce študovať matematiku, no po stretnutí s Chopinom a Glinkom univerzitné štúdium zanechal a venoval sa hudbe. Glinka mu priateľsky radil, povzbudzoval jeho záujem o autentický štýl ruskej hudby.
Mocná hŕstka
Ako učiteľ, brilantný klavirista a dirigent sa Balakirev usadil v Petrohrade. Keď zahral na univerzitnom koncerte svoje Koncertné allegro pre klavír a orchester, nemal ešte ani dvadsať rokov. Jeho výkon i skladba mali veľký úspech a otvorili mu dvere do petrohradskej spoločnosti.
Balakirevovými žiakmi sa postupne stali Musorgskij či Rimskij-Korsakov. Ako učiteľ mal na nich zásadný vplyv. Napokon aj pod vplyvom Glinku a Musorgského vytvorili skupinku zvanú Mocná hŕstka (Mogučaja kučka), ktorá kládla dôraz na čerpanie z národných a ľudových zdrojov ruskej hudby.
V skupinke pod Balakirevovým vedením však nevládla veľká jednota. Keďže každý chcel kráčať vlastnou cestou, hudobný kritik Stasov ju pohŕdavo nazval „kŕdeľ amatérov“. Členovia Mocnej hŕstky boli príležitostnými hudobníkmi. Kjuj bol odborníkom na stavbu opevnení, Musorgskij úradníkom, Borodin lekárom a chemikom a Rimskij-Korsakov námorným dôstojníkom.
Hádka so Smetanom
Balakirev pracoval na niekoľkých skladbách naraz. Napríklad v čase, keď koncipoval symfonickú báseň Tamara, zaujala ho kaukazská melodika ľudového kabardinského tanca z oblasti severného Kaukazu.
V roku 1867 navštívil Balakirev Prahu, kde v Prozatimním divadle uviedol operu Ruslan a Ľudmila. Pre rozdielne názory na jej naštudovanie sa pohádal s českým skladateľom a dirigentom Bedřichom Smetanom.
Na sklonku života sa učiteľ a skladateľ oddal náboženskému mysticizmu. Zomrel 29. mája 1910 v Petrohrade.