Köprülü Fazıl Ahmed Paşa'nın vefatı üzerine, 5 Kasım 1676 tarihinde Merzifonlu Kara Mustafa Paşa sadrazamlığa getirildi. Rusya seferinin, yapılan barış antlaşmasıyla bitmesinden sonra, Macaristan'da Avusturya'ya  karşı isyan edip tekrar Osmanlı Devleti himayesini isteyen Tökeli İmre (Emeric Thökely), Merzifonlu Kara Mustafa Paşa tarafından Orta Macaristan Kralı ilan edildi.

Macarların lideri konumuna gelen Tökeli İmre, Avusturya kralı I. Leopold'a karşı direnişe geçti. Tökeli'nin Osmanlılardan yardım istemesi üzerine, bunu fırsat bilen Merzifonlu Kara Mustafa Paşa Viyana'yı kuşattı(14 Temmuz 1683).

60 gün süren kuşatma sırasında Viyana'ya 18 büyük yürüyüş gerçekleştirildi. Ancak büyük ve son saldırı için Merzifonlu Kara Mustafa Paşa sürekli bekliyordu. Bu arada Papanın çağrısı üzerine Lehistan Kralı Jan Sobiyeski Viyana'nın yardımına yetişti.

Düşmana 80 bin kişilik ordusuyla büyük moral ve güç kazandıran Lehistan Kralının gelmesiyle, Osmanlı Ordusu iki ordu arasında sıkıştı. Kırım kuvvetlerinin yeterli gayreti ve mücadeleyi göstermemesi üzerine, Osmanlı ordusu dağıldı ve büyük bir bozguna uğradı; ordu hızlı ve düzensiz şekilde Belgrad'a doğru geri çekildi.

İkinci Viyana Kuşatması'ndaki başarısızlık Sultan Dördüncü Mehmed'in Merzifonlu Kara Mustafa Paşaya olan güvenini sarsmadıysa da, düşmanları sadrazamı başarısızlığın tek sorumlusu olarak gösterdiler. Merzifonlu Kara Mustafa Paşa Belgrad'da idam edildi. Yerine Kara İbrahim Paşa sadrazamlığa getirildi.

Viyana önlerinde bozguna uğrayan Osmanlı Ordusu geri çekilince düşman kuvvetleri Macaristan girdi. Sırasıyla Vişgrad (18 Haziran 1684), Uyvar (19 Ağustos 1685), Budin (2 Eylül 1686) kaleleri Avusturyalıların eline geçti. Diğer taraftan Venedik, Avusturya ile anlaşarak Osmanlı Devleti'ne karşı cephe açtı ve adaların bazılarını ele geçirdi. Venedik Yunanistan'da Patras, Korent, İnebahtı, Mizistre gibi önemli kalelere ve son olarak Atina'yı ele geçirdi (25 Eylül 1687).

İkinci Viyana Kuşatması'nın Osmanlı tarihinde önemi büyüktür. Şimdiye kadar bu denli büyük bir yenilgiye uğramayan Osmanlı Devleti artık gerilemeye başlıyordu. İkinci Viyana Kuşatması'ndan sonra Avrupa Devletleri Türkleri Avrupa'dan çıkarma umuduna kapılıp kutsal ittifakı kurdular.

Avusturya ve Venedik'e karşı alınan mağlubiyetler ve önemli kalelerin kaybedilmesi Osmanlı Devleti'nde büyük yankı uyandırmıştı. Ordu da isyanlar başladı. Askerler başarısızlığının sebebi olarak Sultan Dördüncü Mehmed'i suçluyorlardı. Askerlerin isteği ile sadrazam olan Siyavuş Paşa, bütün devlet adamlarının hazır bulunduğu bir toplantıda Sultan Dördüncü Mehmed'in tahttan indirilerek yerine Şehzade Süleyman'ın tahta geçirilmesine dair bir karar aldı. Sultan Dördüncü Mehmed 8 Kasım 1687 tarihinde tahttan indirildi.