El conde Nikolái Rumiántsev era excepcional: estadista -ministro de Exteriores durante la guerra contra Napoleón-, patrón de las artes y coleccionista de libros, monedas y manuscritos antiguos. A lo largo de toda su vida coleccionó e investigó objetos históricos y, tras su muerte, su hermano pidió permiso al zar Nicolás I para crear un museo basado en su colección.
El 23 de noviembre de 1831, abrió sus puertas al público el primer museo de propiedad privada en la mansión Rumiántsev, situado en el embarcadero Anglískaia en San Petersburgo. Se hizo muy popular. En 1861 el museo se mudó a Moscú porque en San Petersburgo ya había numerosas bibliotecas y colecciones que se actualizaban constantemente y Moscú carecía de una institución similar.
En Moscú el Museo Rumiántsev encontró un lugar en la Casa Pashkov, junto al Kremlin, y poco tiempo después se abrió allí la biblioteca pública Rumiántsev. En 1924 esta colección fue la base para la Librería Estatal Soviética Lenin o Leninka, como se conocía popularmente.