Al concluir su mandato en 1886, Roca apoyará la candidatura presidencial de su concuñado, el cordobés Miguel Juárez Celman. Pellegrini integrará el segundo término de la fórmula que obtendrá el triunfo.

Pellegrini, como la mayoría de los vicepresidentes argentinos, mantuvo un perfil bajo. Durante este período realizó varios viajes a Europa y los Estados Unidos. Pero los descalabros del gobierno de Celman, que provocaron la grave crisis económica de 1890 y las justificadas acusaciones de corrupción y mal desempeño, convocaron a Pellegrini a un primer plano