Desde su base de Cartago Nova (la actual Cartagena), realizó varias expediciones hacia el altiplano central y sometió a diversas tribus iberas. En el 219 a.C. Aníbal destruyó Sagunto, ciudad aliada de Roma, y traspuso el Ebro, río en que, siete años antes, cartagineses y romanos habían fijado el límite de sus respectivas influencias en territorio peninsular; esta acción significó el inicio de la Segunda Guerra Púnica (219-202 a.C.).

En la primavera del 218 a.C., Aníbal concedió a su hermano Asdrúbal el mando de las tropas en Hispania y partió hacia Italia con un ejército de 60 000 hombres y 38 elefantes. Después de atravesar los Pirineos, y los Alpes, llegó a la llanura del Po, donde derrotó a los romanos sucesivamente en Tesino y en Trebia, a pesar de las numerosas bajas que había sufrido en el curso de la marcha.

Al año siguiente, una nueva victoria, esta vez junto al lago Trasimeno, le dio el control sobre la Italia central. Aplastado el ejército romano de Flaminio, Roma quedó a merced del cartaginés, pero Aníbal no se atrevió a asaltar las sólidas murallas de la ciudad y prefirió dominar la Italia meridional.

En agosto del 216 a.C., venció en Cannas a las tropas de Lucio Emilio Paulo y Marco Terencio Varrón, cuyos efectivos duplicaban a los suyos. No obstante, lejos de sus bases de avituallamiento, sin posibilidad de recibir refuerzos, ya que su hermano Asdrúbal había sido derrotado y muerto por Claudio Nerón en la batalla de Metauro cuando se dirigía a socorrerle (207 a.C.), y habiendo fracasado en el intento de atraer a su causa a los pueblos itálicos sometidos por Roma, el ejército de Aníbal quedó aislado e inmovilizado en la Italia meridional durante varios años, situación que aprovecharon los romanos para contraatacar.

Tras expulsar a los cartagineses de la península Ibérica, el general romano Publio Cornelio Escipión, llamado el Africano, desembarcó cerca de Cartago (203 a.C.), hecho que obligó a Aníbal a regresar a África, donde fue vencido en la batalla de Zama, en el 202 a.C. A consecuencia de esta derrota, Cartago se vio obligada a firmar una paz humillante, que puso fin al sueño cartaginés de crear un gran imperio en el Mediterráneo occidental.

Con todo, Aníbal, elegido sufeta para los años 197 y 196 a.C., intentó reconstruir el poderío militar cartaginés, pero, perseguido por los romanos, hubo de huir y refugiarse en la corte de Antíoco III de Siria, a quien indujo a enfrentarse con Roma, mientras él negociaba una alianza con Filipo V de Macedonia. A raíz de las victorias romanas sobre los sirios en las Termópilas (191 a.C.) y en Magnesia (189 a.C.), Aníbal huyó a Bitinia, donde decidió quitarse la vida el año 183 a.C., para evitar que el rey Prusias lo entregase a Roma y ante la imposibilidad de encontrar un refugio en que pudiera sentirse seguro.