Tampereella on kirjastoihin lähdetty itseä sivistämään jo 7.3.1837 alkaen, jolloin Sällskapet för Låne Bibliothek i Tammerfors stad eli aivan kaikille osoitettu lainakirjasto perustettiin kaupunkiimme. 5.4.1861 tuli perustetuksi seura, jonka tehtävänä oli lainakirjaston ylläpitäminen ja tämän kirjaston ensimmäinen lainauspäivä oli 20.5.1861. Vuonna 1870 kirjasto sai toimitilat Kauppakadun varresta, alkeiskoulun rakennuksesta. Hämeenpuiston varrella oleva kansakoulu sai vuonna 1875 kirjaston suojiinsa ja vuonna 1879 oli edessä kirjaston muutto Hammarenin taloon osoitteessa Kuninkaankatu 22. Vielä vuonna 1891 kirjasto sai uuden kodin tehtailija Salmisen talosta osoitteessa Puutarhakatu 23.

Kaupungin kirjaston johtokunta esitti ajatuksen aivan uuden kirjastotalon ja lehtilukusalin rakentamisesta jo vuonna 1893, mutta kesti aina vuoteen 1925 ennen kuin uusi kirjastotalo valmistui. Tehtailija ja mesenaatti Emil Aaltonen lahjoitti miljoona markkaa uutta kirjastoa varten ja lisäksi vielä 200 000 markkaa uuden kirjaston edustalle nousseeseen Aleksis Kiven patsaaseen. Uusi kirjastotalo vihittiin käyttöön A. Kiven päivänä 10.10.1925.

 

Vuonna 1978 järjestettiin nykyisen pääkirjastomme arkkitehtikilpailu, jonka voittivat arkkitehtipariskunta Raili ja Reima Pietilä. Keväällä 1983 alkoivat Metson perustustyöt Hämeenpuistossa paalutuksilla ja varsinainen rakentaminen alkoi loppukesästä 1983. Alusta asti oli selvää, että Pietilöiltä tulee koko rakennustyömaan ajan uusia ehdotuksia ja suunnitelma elää näin koko valmistumisen ajan. Reima Pietilä olikin nähty hahmo Metson työmaalla sarkapuvussaan. Uuden kirjastotalon avajaisia vietettiin 10.10.1986. Tampereen kaupunki rakennutti pääkirjasto Metson omana työnään ja sen alkuperäinen budjetti oli hieman yli 71 miljoonaa markkaa. Rakennuskausi vuosina 1983-1986 oli kuumeista aikaa ja hintojen nousun takia ennätti valtuusto siunata budjettiin käytettäväksi reilut 83 miljoonaa markkaa. Lopullinen kustannus jäi kirjastosta n. 68 miljoonaan markkaan ja paikallisessa lehdistössä nimettiin rakennusmestari Teuvo Toivonen henkilöksi, joka säästi kaupungin varoja 15 miljoonaa markkaa tarkalla työllään ja valvonnallaan. Rakennustyömaalla oli kaupungin omia rakennusmiehiä 42 ja aliurakoitsijoiden kirjoilla oli 24 työntekijää. Rakennusmestari Teuvo Toivosen mukaan on pääkirjasto metsoon nimetty hänen mukaansa yksi tila Toivonen-saliksi. Turvallista on myös tietää, että hänen poikansa jatkaa isän viitoittamalla tiellä valvoessaan Milavidan eli Näsilinnan restaurointia Näsikalliolla.