Escolhido senador representante da Província de Mato Grosso, por Carta Imperial de novembro de 1862. À época de sua eleição, em 1861, era Ministro da Fazenda.

Em 1863, convidado pelo Governo brasileiro para resolver graves problemas no Rio da Prata, elaborou um plano de negociações junto aos Ministros dos Negócios Estrangeiros e da Guerra; agindo diplomaticamente, resolveu a questão com a Argentina e o Uruguai. Entretanto, foi destituído da missão e duramente criticado pela imprensa, vindo a defender-se no Senado em histórico discurso de oito horas no dia 5 de junho de 1865 – aplaudido pelo auditório e pelas galerias e tendo recebido o apoio popular. Voltou ao Rio da Prata em outras oportunidades, entre 1869 e 1870, para negociações em Buenos Aires e Assunção.

 
Foi nomeado membro extraordinário do Conselho de Estado em 1866. No mesmo ano, foi nomeado Ministro dos Negócios Estrangeiros. Por ocasião da discussão da questão de emancipação gradual dos escravos pelo Conselho de Estado, em 1867, apresentou importante parecer publicado com o título "Trabalho sobre a Extinção da Escravatura no Brasil".

Em 1870, por Carta Imperial, foi-lhe conferido o título de Visconde do Rio-Branco com as honras de Grande do Império.

Paranhos atuou sempre em oposição aos gabinetes liberais, até a ascensão do seu partido ao poder. Em fevereiro de 1871, atendendo ordem do Imperador, organizou um novo Gabinete que viria a ter longa duração. Após a queda de seu Gabinete, em 1875, reassumiu o cargo de Conselheiro de Estado bem como retornou ao Senado, onde tratou da reforma eleitoral, dos ajustes de paz com o Paraguai, das sociedades de crédito real e da administração financeira.

Em 1880, faleceu vitimado por um tumor na boca.