Trên địa bàn xã Khánh Thuỷ có điểm di tích lịch sử văn hóa Đền đồi đã được sở Văn hóa, Thông tin và Thể thao tỉnh Ninh Bình xếp hạng là di tích lịch sử cấp tỉnh năm 2004.

Lễ dâng hương truyền thống Đền đồi hàng năm diễn ra 02 ngày,từ ngày ( 14 - 15/1) âm lịch tại khu đền thờ. Đây được xem là Lễ hội lớn nhất của Nhân dân xã Khánh Thuỷ nhằm ghi nhớ tri ân người đã có công nuôi dấu cán bộ. Được sắc phong Triều đình nhà Nguyễn, thành lập năm 1836.

Phần lễ được tổ chức long trọng với các nghi thức linh thiêng như: Lễ nghinh sắc phong, lễ dâng hương của Đảng ủy- HĐND-UBND xã, các ngành, đoàn thể xã, các đội tế nam quan, tế nữ quan đại diện cho các làng, xã trên địa bàn xã và các xã, lân cận về dự dâng hương.

Phần hội có các hoạt động như: Các trò chơi dân gian như tổ tôm, cờ người, bịt mắt đập niêu,... chương trình văn nghệ tri ân diễn ra vào tối 14/1 âm lịch gồm các thể loại hát Chèo, hát Văn, ca Trù do các câu lạc bộ văn nghệ của các đơn vị xóm và các xã, trên địa bàn huyện biểu diễn, các tiết mục đều được đầu tư công phu, có chất lượng, nội dung chính nói về ca ngợi vẻ đẹp của quê hương xã Khánh Thuỷ. Có thể thấy, bên cạnh yếu tố tâm linh trong việc tổ chức các hoạt động tế lễ thì Lễ hội truyền thống  Đền đồi được tổ chức hàng năm đã và đang góp phần quan trọng trong việc bảo tồn các giá trị văn hóa phi vật thể của dân tộc.