No período de 1895 a 1899, a Biblioteca recebeu um de seus maiores impulsos com a eleição para a Presidência do Senado Federal, o Dr. Manuel Vitorino Pereira que, entre outras medidas, propôs a construção de uma nova sala para a Biblioteca, no Paço do Senado Federal, anexo à sede do Palácio Conde dos Arcos e publicou o primeiro catálogo da Biblioteca, sob a direção de R. Vila-Lobos, funcionário da Biblioteca Nacional, requisitado para essa finalidade.

A Biblioteca do Senado Federal ocupou, até 1924, o Paço do Senado Federal, no Rio de Janeiro, anexo à sede do Palácio Conde dos Arcos. Posteriormente, mudou-se para o Palácio Monroe, onde permaneceu até 1960. Com a mudança da Capital da República, foi transferida em 1961 para o Palácio do Congresso Nacional, em Brasília.

Em 1968, na Presidência do Senador Gilberto Marinho, o direito exclusivo do bibliotecário de exercer a chefia em bibliotecas, outorgado pela Lei 4.084 de 1962, foi reconhecido no Senado Federal com a nomeação de um bacharel em Biblioteconomia para dirigir a Biblioteca: a bibliotecária Adélia Leite Coelho.

A partir de 1972, a Biblioteca do Senado Federal, em conjunto com o Centro de Informática e Processamento de Dados do Senado Federal - PRODASEN, iniciou o processo de automação do seu acervo, criando uma das primeiras redes brasileiras de bibliotecas. Neste mesmo ano, cria-se a Secretaria de Documentação e Informação, objetivando o tratamento das informações legislativas e bibliográficas. Compõe-se das Subsecretarias de Biblioteca, Arquivo, Anais, Edições Técnicas e Análise. Esta última era antes a Seção de Referência Legislativa da Biblioteca.

No ano de 1979, sob a presidência do Senador Luiz Viana Filho , as instalações da Biblioteca são ampliadas e melhoradas, passando a denominar-se "Biblioteca Acadêmico Luiz Viana Filho". Em 1986, por solicitação do Instituto Brasileiro de Informação em Ciência e Tecnologia - IBICT, a Biblioteca do Senado Federal assumiu a responsabilidade pela edição regular da Bibliografia Brasileira de Direito.

Em 12 de março de 1997, é lançada a página da Biblioteca na Internet, disponibilizando o seu catálogo geral, incluindo livros, revistas, recortes de jornais e obras raras. Em abril de 1999, inauguram-se s novas instalações da Biblioteca, que passa a ocupar uma área de 3250 m² com sala privativa para senadores; sala privativa para consultores, assessores e diretores; auditório com capacidade para 60 pessoas; sala para consulta ao acervo digital e Internet; aumento de 80% de assento na sala de leitura; aumento de 30% de estantes fixas para livros e periódicos; aumento de 60% de estantes deslizantes/automáticas para jornais; aumento de 100% de estantes deslizantes/automáticas para as coleções especiais.

No mês de dezembro de 1999, a Comissão Diretora, sob a Presidência do Senador Antônio Carlos Magalhães, sendo o Senador Ronaldo Cunha Lima o 1º Secretário e tendo como Diretor-Geral o Senhor Agaciel da Silva Maia, aprova a aquisição e implementação do novo sistema de gerência automatizada de informações para a Biblioteca do Senado Federal, substituindo o antigo sistema SABI, desenvolvido pelo PRODASEN em 1972.

Em 16 de dezembro de 2000, instala-se a Rede Virtual de Bibliotecas - Congresso Nacional - RVBI com uma nova plataforma de gerenciamento da informação e de base de dados multimídia, utilizando o sistema ALEPH, que adota mesmo formato bibliográfico internacional usado pelo seleto clube das bibliotecas digitais.

Em maio de 2001, implanta-se no site da Biblioteca a primeira versão da Coleção Digital da Biblioteca, baseada em projetos já implantados em várias bibliotecas do mundo e disponibilizando texto completo digitalizado de várias obras de domínio público, trechos digitalizados de capas, folhas de rosto e litogravuras da coleção de obras raras e o acesso ao texto completo, quando autorizado, de revistas, jornais e bases de dados disponíveis na Internet.

Desde 1986, a Biblioteca do Senado Federal é responsável pela edição da Bibliografia Brasileira de Direito - BBD. Em 1996, lançou uma versão em CD-ROM, aliando as técnicas de biblioteconomia às novas tecnologias de informática, e procurando colocar à disposição da sociedade formas mais eficazes de armazenamento e recuperação da informação.

A Biblioteca do Senado Federal gerencia a Rede Virtual de Bibliotecas - Congresso Nacional - RVBI, que abrange 15 bibliotecas, incluindo a da Câmara dos Deputados, de tribunais superiores, ministérios e órgãos públicos do Distrito Federal.