Giếng Ngọc nằm ở chân núi Côn Sơn (núi Kỳ Lân) trên đường lên Bàn Cờ Tiên. Theo thuyết phong thủy, giếng Ngọc là huyệt mạch của núi Côn Sơn, nơi tụ linh, tụ khí và là mắt của con Kỳ Lân.
Giếng Ngọc có truyền thuyết ly kỳ về giấc mơ của Đệ tam Thánh Tổ Trúc Lâm Huyền Quang tôn giả. Khi trụ trì ở chùa Côn Sơn (1329), Đệ tam Thánh Tổ Huyền Quang đã cho mở rộng quy mô kiến trúc, hoàn chỉnh hệ thống tượng pháp, xây dựng nơi đây thành chốn quốc tự, danh lam cổ tích. Nhưng Thiền sư Huyền Quang vẫn trăn trở vì còn thiếu nguồn nước thanh tịnh cho việc cúng lễ và mộc dục tượng pháp (tắm tượng). Vào đêm rằm tháng bảy, sau khi đăng đàn Vu Lan báo hiếu, sư tổ Huyền Quang về trai phòng nghỉ bỗng mơ thấy một vị thần, tự xưng là Chủ thần long mạch núi Côn Sơn, dẫn đi về phía sau chùa và chỉ cho viên ngọc sáng lấp lánh bên sườn núi. Tổ sư Huyền Quang định với tay nhặt viên ngọc thì chuông chùa vang lên làm Ông tỉnh giấc. Ngẫm lại giấc mơ, Thiền sư kể lại cho các tăng ni và cùng lên xem thử. Khi phát quang bụi rậm, bỗng thấy dòng nước trong hiện ra, uống thử thấy nước mát ngọt bèn cho làm lễ tạ sơn thần và khơi sâu, kè đá thành giếng. Sư tổ đặt tên là giếng Ngọc. Từ khi được khơi, nước giếng luôn đầy, xanh trong nhìn thấu đáy.
Đông đảo du khách trảy hội mùa Xuân xin lấy nước giếng Ngọc để uống và rửa mắt để cầu mong sức khỏe, an lành trong năm mới
Hơn 700 năm qua, giếng Ngọc luôn đầy nước và là nguồn nước quý của chùa Côn Sơn. Nước giếng Ngọc được dùng làm nước cúng hàng ngày và đại lễ: lễ Phật đản, rước nước, mộc dục….Nguồn nước này còn được các nhà khoa học đánh giá là nguồn nước sạch, đạt tiêu chuẩn nước khoáng thiên nhiên. Nước giếng được tin rằng nếu uống hoặc dùng để rửa mặt sẽ được mạnh khỏe, an lành. Bởi vậy, mỗi khi đến Côn Sơn, du khách đều dừng lại bên giếng để xin nước để được tẩy bụi trần.
Để bảo vệ nguồn nước quý của di tích và xây dựng nơi đây thành điểm nhấn mang giá trị tâm linh đặc biệt. Thủ tướng Chính phủ đã cho tôn tạo một số hạng mục của di tích chùa Côn Sơn, trong đó có giếng Ngọc. Giếng Ngọc bên cạnh lầu thờ Đức Phật Quan Thế Âm Bồ Tát, Đăng Minh Bảo Tháp sẽ tạo thành những điểm nhấn tâm linh của di tích quốc gia đặc biệt.