En Grecia y Roma, desde épocas lejanas, las bibliotecas estuvieron al servicio de la comunidad; a ellas tenían acceso principalmente los estudiosos y los eruditos. Las bibliotecas servían también como lugares de reunión. Allí se leían libros en voz alta, se comentaban las lecturas y se suscitaban discusiones entre los asistentes; en fin, todo lo que corresponde esencialmente a las actividades que en la actualidad se llevan a cabo en nuestras bibliotecas, a saber: conferencias, intercambio de opiniones, discusiones, charlas, etc. En el año 39 d.C., se fundaron en Roma varias bibliotecas, entre ellas la de Asinio Polión, que estaba ubicada en el Templo de la Libertad, la cual tiene gran importancia en la historia de las bibliotecas, pues se le considera como la precursora de la biblioteca pública. Otras bibliotecas famosas fueron las establecidas en los templos de Apolo y de Octavio.
Hacia fines de la Edad Antigua apareció el pergamino, que como antes se dijo, reemplazó al papiro, ya que ofrecía mayores ventajas, por ejemplo, mayor durabilidad y facilidad para la escritura; además de que el material se podía utilizar por ambos lados. En el siglo IV a.C., el rollo fue sustituido por el volumen o códice. El pergamino favoreció esta primera forma de libro, el cual resultó más fácil de manejar y transportar, y más económico y durable que los documentos escritos en tabletas de barro y en papiro. Al principio de dicho siglo las grandes bibliotecas de la antigüedad desaparecieron, pero han quedado para siempre en la historia los nombres de todas ellas: en Caldea, la de Borsipa; en Grecia, las famosas bibliotecas pertenecientes a particulares; entre ellas, las primeras bibliotecas de Atenas, que datan del año 530 a.C. También la que Licurgo fundó (la cual fue destinada a conservar las obras de Sófocles, Eurípides y Esquilo). En Egipto, otra de gran renombre, pero más pequeña, fue la de Serapéo.