Cách trung tâm Cao Bằng khoảng 5 km, trên một quả đồi thấp sát chân núi Khau Sầm ở thôn Bản Ngần, phường Nùng Trí Cao, đền Kỳ Sầm thờ Nùng Trí Cao, thủ lĩnh người Tày của châu Quảng Nguyên thế kỷ XI. Người Cao Bằng quen gọi ông theo tước hiệu nhà Lý truy phong: Khâu Sầm Đại Vương, tức vua lớn của núi Khâu Sầm.

Nùng Trí Cao sinh năm 1025, con thủ lĩnh Nùng Tồn Phúc và bà A Nùng. Theo Báo Cao Bằng, năm 1041 ông cùng mẹ lập nước Đại Lịch, bị quân Lý bắt về kinh đô rồi được tha, được giao làm châu mục Quảng Nguyên; năm 1043 được phong Thái Bảo. Từ năm 1048 ông khởi binh trên đất Tống, năm 1052 đánh chiếm thành Ung Châu, đến năm 1053 thất bại trước đại quân Tống do Địch Thanh chỉ huy. Các nguồn ghi năm mất của ông khác nhau, 1053 hoặc 1055.

Sau khi ông mất, nhà Lý sắc phong Khâu Sầm Đại Vương và cho lập đền; các nguồn địa phương ghi đền có từ thời Lý và đã trùng tu nhiều lần. Ngày 7/1/1993, Bộ Văn hóa - Thông tin xếp hạng đền là di tích lịch sử cấp quốc gia. Năm 2012, Bộ Văn hóa, Thể thao và Du lịch đầu tư trên 20 tỷ đồng tôn tạo: lát sân, trang bị sập thờ và đồ thờ mới. Tháng 11/2025, phường Nùng Trí Cao tổ chức kỷ niệm 1.000 năm năm sinh Nùng Trí Cao ngay tại đền.

Đền làm theo kiểu chữ nhị, mang dáng dấp kiến trúc thời Nguyễn, gồm nhà bái đường và hậu cung. Bái đường có một ban thờ. Trong hậu cung có ba ban: chính giữa thờ Nùng Trí Cao, bên trái thờ mẹ ông là bà A Nùng, bên phải thờ ba người vợ Vương Lan Anh, Đoàn Hồng Ngọc, Trần Thị Cẩm. Đồ thờ do dân cung tiến có đôi hạc đồng, lư hương, chuông đồng. Trong khuôn viên có cụm ba cây đại thụ tạo vòm lá xanh.

Khi đến, bạn theo lối lên đồi vào sân, dừng ở bái đường rồi vào hậu cung. Cách bài trí ba ban thờ cho thấy người dân thờ cả gia đình vị thủ lĩnh, trong đó bà A Nùng còn có đền riêng là đền Bà Hoàng ở làng Nà Cạn, cũng thuộc phường Nùng Trí Cao.

Nói thẳng về hạn chế: giờ mở cửa, phí tham quan và người thuyết minh chưa có công bố chính thức, nên hỏi tại chỗ. Đông nhất là đêm mùng 9 và ngày mùng 10 tháng Giêng âm lịch, dịp Lễ hội Đền Kỳ Sầm; nếu muốn xem kỹ kiến trúc và ban thờ, bạn nên đến ngày thường.

Đây là nơi thờ tự người dân đang dùng. Bạn ăn mặc kín đáo, giữ yên lặng trong hậu cung, thắp hương ở nơi đốt hương được bố trí thay vì cắm ngay trước cửa đền, và hỏi người trông đền trước khi chụp ảnh bên trong.

Đền Kỳ Sầm hợp với người muốn hiểu lịch sử vùng biên thời Lý và vì sao người Tày, Nùng Cao Bằng tôn Nùng Trí Cao làm anh hùng. Nếu thích một di tích gắn với nhiều thời kỳ hơn, Đền Vua Lê ở phường Thục Phán nằm trên nền thành Na Lữ, nơi cha ông là Nùng Tồn Phúc từng xây thành lập nước Trường Sinh, rồi sau này thành đền thờ vua Lê Thái Tổ.