图书馆建于1701年。截至2015年底,馆藏纸质文献和电子文献超过1500万余册,从古老的莎草纸到早期的印刷书籍,再到电子数据库应有尽有,包括文本、照片、视频、音频、数据库、地图以及票据等资源。由15个图书馆组成,包括斯特林纪念图书馆、拜内克珍本及手稿图书馆、巴斯图书馆、科学和社会科学信息中心以及其他学院和科系图书馆。总馆斯特林纪念图书馆是为纪念校友J.W.斯特林的捐款而建筑的,于1930年建成,位于校园中心,是学校最突出的建筑之一,也是全校最大的图书馆,拥有藏书400万册,分藏于16层书库,包括人文、社会科学、区域研究、特藏以及手稿和档案等。拜内克珍本及手稿图书馆于1963年开馆,是世界上最大的专门存放善本及手稿的图书馆之一,藏品80万册(件),包括古登堡圣经、伏尼契手稿、文兰地图以及著名作家和艺术家的论文与手稿。拜内克珍本及手稿图书馆建筑外观以半透明的大理石拼接而成,避免阳光直射,有利于馆内古籍的保护。纽黑文郊区的藏书库集中贮存利用率较低的图书。除法学院图书馆使用单独联机目录系统(Morris)外,其他图书馆均使用主要联机目录系统(Orbis)。秉承着为耶鲁大学教、学、研服务并为全球学术界提供帮助的使命,图书馆向用户提供个人图书馆、学科专家、研究支持和专业研讨会、引文工具、馆际互借、校外访问等服务,速递服务使用户可在任何一个图书馆提取索要的图书和归还图书。整个图书馆系统与脸书、推特连接,方便读者转载或分享信息。
耶鲁大学图书馆在学术图书馆界扮演着重要角色,是研究图书馆团体(Research Libraries Group,RLG)创始馆之一、研究图书馆中心(The Center for Research Libraries)会员、BorrowDirect成员。2015年,加入人文科学开放图书馆(OLH)的图书馆合作资助系统。