Yıllarca sağ partilerde siyaset yapan ve Demirel'e oldukça yakın olan bir siyasetçiydi. 1955 yılında Aydın belediye başkanı, 1961 yılında milletvekili oldu. Gençlik ve Spor bakanlığı, Maliye Bakanlığı, İçişleri Bakanlığı ve Savunma bakanlığı gibi görevlerde bulunan Sezgin, aynı zamanda meclis başkanlığı da yaptı.

60, 70 ve 80 darbelerinde bir süre yargılandı ve kenara çekildi.

1987 yılına kadar siyasi yasaklar nedeniyle politik hayatını yarıda bırakmak zorunda kalan Sezgin, 1987 yılında Doğru Yol Partisi (DYP) ile birlikte yeniden aktif siyasete başladı. 1991 yılında DYP'den yeniden Aydın Milletvekili seçilen Sezgin, İçişleri Bakanlığı görevine getirildi. 1993 yılında DYP Genel Başkanlığı koltuğu için Tansu Çiller ile yarıştı ve kaybetti. 1995'te TBMM Başkanlığına seçildi ve bu görevi seçime kadar sürdürdü.

1996 yılında RP-DYP koalisyon hükümetine tepki gösteren İsmet Sezgin DYP'den istifa ederek DTP kurucuları arasında yer aldı. 1997'de kurulan hükümette DTP'den Millî Savunma Bakanlığı yaptı, 11 Ocak 1999'da kurulan Bülent Ecevit Hükümeti'ne kadar bakanlık görevine devam etti. 1999'da DTP Genel Başkanlığına seçildi. 18 Mayıs 2002'de genel başkanlıktan ayrılarak aktif politikayı bıraktı.

İsmet Sezgin, kirli süreçlerin hemen hemen tümünde siyaset arenasındaydı; ama nedense ustalıkla aradan sıyrılmayı bildi. 91-93 dönemi kirli savaşın zirve yaptığı bir dönemdi ve o dönemde İsmet Sezgin İçişleri Bakanı idi. Devletin “rutin dışına” çıktığı, infaz ve suikastların zirve yaptığı bir dönemdi.

96'da yine sahnedeydi İsmet Sezgin. 28 Şubat zihniyetinin tahammül edemediği hükümetin bozulması için elinden geleni yaptı ve başardı da. Ödül olarak da yeni kurulan hükümette “Savunma Bakanlığını” aldı.

Çok şey biliyordu; ama kamuoyunu bilgilendirmedi. Dostlarından ayrılmadığını, cezaevinde olan Mehmet Ağar'ı ziyaret ederek gösterdi. Dezenformasyon ustasıydı ve bunu “duayen siyasetçi” kimliğiyle de başarılı bir şekilde yaptı.

Bu dünyada hesap vermedi; ama Allah'a hesabını vermeye gitti.