Организована по инициативе Тамбовского рабочего кооператива. Первой заведующей была Клавдия Валентиновна Плеханова (1866−1946), одна из первых профессиональных библиотекарей в области. С 1976 г. библиотека в качестве филиала входит в структуру Централизованной библиотечной системы Тамбова. С 1985 г. в ней действует клуб «Искусство», объединяющий разные поколения читателей. Мемориальное книжное собрание «Плехановская коллекция», созданное из редких и ценных изданий 1860−1922-х гг., включено в Региональный свод книжных памятников Тамбовской области. С 2003 г. по материалам коллекции регулярно выпускается биобиблиографический путеводитель «Альманах Плехановской библиотеки». В 2009 г. в филиале № 1 был открыт Музей книги и библиотечной культуры. В 2000 г. решением Тамбовской городской Думы библиотеке присвоено имя К. В. Плехановой. Она награждена памятной медалью «Г. В. Плеханов. 150 лет со дня рождения» Всероссийского фонда Г. В. Плеханова (2010).