Boris Yeltsin'in Sovyetler Birliği içindeki Rusya Cumhuriyeti'nin lideri seçilmesinin ardından Gorbaçov'un en büyük siyasi rakibi haline dönüşmesi ve aralarında yaşanan yetki paylaşımı sorunu alevlenmeye başladı.
1991'de Gorbaçov ailesiyle Kırım'da tatildeyken aşırı sertlik yanlısı komünistler ve ordu, kendisine karşı darbe girişiminde bulundu.
Boris Yeltsin'in direnişi sayesinde darbe girişimi başarıya ulaşamadı. Yeltsin, Rus halkının gözünde kahraman haline geldi.
Sovyetler'den ayrılan 11 devlet, 8 Aralık 1991‘de bir araya gelerek Bağımsız Devletler Topluluğu‘nu oluşturdu. Bu olay Gorbaçov’un sonunu hazırladı. 25 Aralık 1991'de istifa etmek zorunda kalan Gorbaçov, tüm yetkilerini Boris Yeltsin'e devrederek siyaset sahnesinden ayrıldı.