Seine Kindheit verlebte er auf dem elterlichen Landgut.
1849 siedelte die Familie nach St. Petersburg über, wo M. zunächst die deutsche Petri-Schule besuchte und dann in die Kadettenschule des Gardekorps eintrat.

Bei A. Herke, einem Schüler von A.von Henselt, nahm M. Klavierunterricht. seine Hauptinteressen waren jedoch Geschichte und Philosophie. Als 1857 die Bekanntschaft mit A.Dargomyschski den endgültigen Wechsel zur Musik initiierte, hatte sich M. schon zu einem glänzenden Pianisten entwickelt. Er improvisierte viel, spielte ausgezeichnet vom Blatt und versuchte sich gelegentlich als Komponist (Porte-Enseigne-Polka f. Klv.). Durch Dargomyschskis Vermittlung wurde M. mit Dimitri und Wladimir Stassow, C. Cui, M.Balakirew und schließlich mit A. Borodin bekannt.
Balakirew war es vor allem, der sich darum bemühte, das junge Talent zu fördem und musikalisch weiterzubilden; er erkannte bald, daß es unmöglich war, M. die akademischen Regeln von Harmonielehre und Komposition zu vermitteln, und so beschränkte sich der Mentor darauf, "ihm die Form einer Komposition zu erklären".

M. blieb L so weitgehend unbeeinflußt durch die westliche Musik und fand in autodidaktischem Bemühen zu einer eigenständigen musikalischen Sprache.

Obwohl ihm seine Freunde von einem Schritt ins Ungewisse abrieten, nahm M. seinen Abschied als Offfizier, um sich ganz der Musik zu widmen. Als nach Auflösung des Landguts in Karewo die Einkünfte ausblieben, nahm M. eine Stelle als Kanzleibeamter an und gründete mit Freunden eine Wohngemeinschaft (von ihm selbst als "Kommune" bezeichnet). Während dieser Zeit wurden erstmalig Werke des jungen Komponisten öffentlich gespielt (Scherzo für orch.,186O, unter A. Rubinstein; Chor aus oedipus Rex, 1861, unter A. Ljadow), und es entstand das Intermezzo symphonique in modo classico. 1863 begann M. mit der Arbeit an seiner ersten oper, Salammbo (nach Flaubert), und schrieb Lieder, die weit über den Rahmen des Traditionellen hinausgingen, darunter: Die Nacht, Kallistrat (1864), Die Versto§ene (186S) und Hopak (1865). Begeistert von der Idee der russischen Realisten, in ihrer Musik ein getreues Abbild der Sprache zu schaffen, begann M., Nikolai Gogols Heirat als "opera dialogue" zu vertonen; er schrieb jedoch nur den 1. Akt und widmete sich dann mit großer Energie einem neuen Stoff: Alexander Puschkins Boris Godunow. Aus dieser Arbeit resultiert die einzige oper, die M. selbst vollendete. Das Werk wurde 1871 vom Kaiserlichen Theater in St. Petersburg abgelehnt, erfuhr eine Umarbeitung (bis 1872), und nachdem 1873 einige Szenen erfolgreich aufgeführt worden waren, fand 1874 die Premiere statt.
Inzwischen hatte M. bereits mit einer neuen Oper begonnen (Chowanschtschina) und arbeitete zusammen mit N. Rimski-Korsakow, Cui und Borodin an der Ballett-Oper Mlada. Wie fruchtbar diese Jahre für den Komponisten waren, zeigen zudem die Liederzyklen ohne Sonne und Lieder und Tänze des Todes, die - wie die Balladen Der Vergessene und Vision - auf Texten des befreundeten Dichters Golenischtschew-Kutusow basieren.
Ins Jahr 1874 fielen auch die Komposition des Klavierzyklus Bilder einer Ausstellung und der Beginn der Arbeit am Jahrmarkt von Sorotschinzy. Immer spürbarer wurden in dieser Zeit aber auch die Zeichen des Alkoholismus, nicht nur in bezug auf seine Gesundheit: M. begann ein unstetes Leben, wechselte häufig die Wohnungen, und seine Freunde (Stassow) fanden ihn oft erst nach langem Suchen in irgendeinem Petersburger Lokal wieder. Eine erfolgreiche Konzertreise mit der Sängerin Daria Leonowa nach Südrußland (1879) ordnete noch einmal sein Leben. Den Sommer 1880 verbrachte er in deren Landhaus. Dort erlitt er im Frühjahr 1881 einen epileptischen Anfall; wenig später starb er im Nicolai-Militärhospital.

Die Kunst M.s schöpft ihre Mittel aus dem russischen Volkslied. Sie soll, wie der Komponist in seiner Autobiographie (188O) forderte, Kommunikationsmittel sein, da sie den gleichen Gesetzen gehorche wie die Sprache. Kunst um ihrer selbst willen hält M. für "grobe Kinderei", die "ins Kindesalter der Kunst" gehöre. Bearbeiter und Herausgeber seiner Werke, insbesondere Rimski-Korsakow, haben sich große Verdienste um den Fortbestand der eigenwilligen Musik M.s erworben, sind jedoch dem Fehler verfallen, Orchestrierung, Harmonik, Rhythmik und Metrik den Schulregeln gemäß zu "verbessern", mit dem Resultat, daß die Musik ihren charakteristischen Ausdruck verlor.
Vergleiche mit der Harmonik russischer Volkslieder, der dort festzustellenden unregelmäßigen Metrik und der oft zu beobachtenden tonalen Ambiguität beweisen, daß der "Lehrer" M.s jenes Volk gewesen ist, dem er in Boris Godunow ein Denkmal gesetzt hat. Für M. ging die schöpferische Tätigkeit meist von einem außermusikalischen Impuls aus (deshalb auch programmatische Titel für Klv.Werke). Aus der treffenden Feststellung, er sei als Ausdeuter der menschlichen Rede unübertroffen, leitet sich die ebenso verbreitete wie falsche Ansicht her, seine Fähigkeit, absolute Musik zu schreiben, sei nur gering gewesen.