Көне жазбалар секілді кітапханалардың да тарихы өте ескі дәуірлерден бастау алады. Асур, Бабил және Хитит мәдениеттерінен қазіргі таңға дейін жетіп келген жазба ескерткіштер өте ескі дәуірлерге тән болған кітап және кітапханашылыққа қатысты деректер беруде. Аталған мәдениеттерде уақыт өтуімен жиналған жазбалардың сақталуы үшін арнайы бөлмелер болған. Осылайша алғашқы кітапханалар қалыптасқан.
Кітапханаға қатысты жасалған зерттеулер мен қазба жұмыстарында қол жеткізілген деректер б.з.б. 2400 жылдарға ұласады. Асур мемлекетінің патшасы Асурбанипал тарапынан б.з.б. 625 жылы құрылған «Нинова Кітапханасы» деп аталатын кітапхана ең ескісі болып табылады. Римдіктер тарапынан қиратылған Мысырдағы мәшһүр Искандарийа (Александрия) кітапханасы болса өз дәуірінің ең үлкен кітапхана статусында еді.