Más tarde ingresó en la Dieta de Frankfurt (1851-1859), de la cual trató de apartar al Imperio Austrohúngaro, al que consideraba un obstáculo para la unificación de la nación alemana. Como embajador en San Petersburgo, entre 1859 y 1862, y en París este último año, Bismarck cultivó las relaciones necesarias para poder constituir las alianzas internacionales que poco más adelante afianzarían el poder de Prusia en el continente europeo.

Monárquico convencido y ultraconservador, Bismarck se mostró hostil a las ideas liberales y a cualquier forma de expresión democrática. Designado jefe de gobierno por Guillermo I en 1862, instauró una dictadura tras minimizar la capacidad política del Landtag, boicotear la Dieta de Frankfurt, impedir la entrada de Austria en el Zollverein (unión aduanera de los Estados alemanes) y convertir el ejército prusiano en la primera fuerza militar de Europa.

En tales circunstancias, una vez asegurada la neutralidad de Rusia y Francia, Bismarck atacó a Austria y derrotó a sus ejércitos en la batalla de Sadowa, en 1866. Por el tratado de Praga, firmado ese mismo año, se reconstituyó la Confederación de Alemania del Norte bajo la hegemonía de Prusia, que se anexionó Hannover, Hesse y Frankfurt a expensas del Imperio Austrohúngaro.

Concluida esta primera fase, en 1870 se volvió contra Francia. Tras la victoria de Sedán, Prusia se anexionó los estados meridionales, y el 18 de enero de 1871, en Versalles, se concretó la unificación alemana, proclamándose a Guillermo I emperador del II Reich. Por su parte, Bismarck fue nombrado canciller de Alemania y presidente del Consejo de Prusia. Aunque refractario a las formas parlamentarias, para llevar a cabo su política de reformas se alió con el Partido Liberal-Nacional de sustrato burgués, al tiempo que se enfrentaba con los sectores más conservadores de la aristocracia y con los católicos, a quienes repugnaba su proyecto de reducir la influencia de la Iglesia.

A partir de 1878, Bismarck reorientó su política y llegó a un acuerdo con el Partido Católico y la aristocracia para combatir el socialismo, al que consideraba una grave amenaza. Valiéndose de estos apoyos, de una serie de medidas represoras y de un paquete de leyes sociales para conseguir la adhesión de las masas obreras, intentó en vano frenar el avance de los socialistas, cuyos votos aumentaron espectacularmente en los años siguientes.

Mejores resultados dio su política en el plano internacional, donde estableció alianzas con Rusia y Austria frente a Francia e impuso su arbitraje en el Congreso y en la Conferencia de Berlín de 1878 y 1884. En esta última cumbre intervino directamente en el reparto colonial de África. Tras la muerte de Guillermo I y el breve reinado de Federico III, subió al trono Guillermo II. Éste vio en el excesivo autoritarismo de Bismarck un serio obstáculo para imponer sus deseos de aumentar su poder efectivo en el Reich. La gran fuerza política de los socialistas y la peligrosidad de unas alianzas internacionales basadas en la beligerancia fueron las causas determinantes de la caída de Bismarck, a quien se conocía como el Canciller de Hierro, si bien los detonantes concretos de su destitución, en 1890, fueron su propósito de ceder a su hijo la cancillería imperial y las conversaciones que mantuvo a tal fin con diversos partidos políticos a espaldas del emperador.

Retirado a sus posesiones de Varzin, en Pomerania, Bismarck, el artífice de la unidad alemana, dedicó los últimos años de su existencia a escribir sus Memorias y panfletos contra el emperador.