Đề Kiều tên thật là Hoàng Văn Thúy, quê ở xã Lộc Cương, tỉnh Phú Thọ. Ông cùng Đốc Ngữ, Bố Giáp giúp Nguyễn Quang Bích phát triển lực lượng nghĩa quân ở vùng sông Đà, thượng nguồn sông Thao, sông Chảy, từ Sơn Tây, Hưng Hóa lên biên giới Tây Bắc. Do chiến đấu giỏi, mưu trí, thắng nhiều trận lớn, ông được phong tới chức Chánh Đề đốc.

   Tháng 1 năm 1885, Đề Kiều chỉ huy một cánh quân, góp phần quan trọng vào chiến công đánh bật quân Pháp càn quét vào khu rừng Già. Ngày 2/2/1885 ông chỉ huy nghĩa quân đánh chặn quân Pháp từ Hưng Hóa tràn vào cướp phá Sơn Vi (Thanh Thủy).

   Giặc Pháp thấy rõ nguy cơ bị nghĩa quân Nguyễn Quang Bích chặn đứng âm mưu xâm lược các tỉnh vùng Tây bắc Bắc Kỳ, nên mở hàng chục cuộc càn quét vào căn cứ Tiên Động. Đề Kiều cùng với các tướng khác đóng quân ở giữa sông Hồng, sông Lô chặn địch từ xa căn cứ Tiên Động. Sau khi Đề Kiều đánh thắng trận càn quét lớn vào Sơn Vi, ông cùng Nguyễn Văn Giáp mở rộng địa bàn hoạt động ở tận các huyện Văn Bàn, Than Uyên.

   Trong các năm 1888, 1889, Đề Kiều cùng với Đề Mạc, Quyền Hạo chiếm cứ vùng sông Đà, nghĩa quân phát triển lực lượng, xây dựng nhiều đồn lũy khắp các tỉnh Sơn Tây, Vĩnh Yên, Hưng Hóa. Dưới quyền Đề Kiều có nhiều tướng giỏi như Đề Mạc chỉ có 40 quân thường trực, nhưng khi động thì có hàng nghìn nông dân ở Sơn Tây bỏ cày cuốc cầm vũ khí chiến đấu. Tháng 1/1889 Tri phủ Lâm Thao, một tên chó săn cho giặc Pháp chỉ huy 350 quân đi tuần tiễu vào vùng nghĩa quân kiểm soát, bị nghĩa quân Đề Kiều đánh cho tan tác.

   Từ năm 1889, nghĩa quân Đề Kiều kiểm soát vùng sông Đà, hạ lưu sông Thao. Trong 2 năm 1889 và 1890, nghĩa quân Đề Kiều đánh nhiều trận lớn, gây cho quân Pháp tổn thất nặng nề. Sách Histoire Militaire của Pháp ghi lại một số trận đánh do Đề Kiều chỉ huy như sau:

   – Tháng 8/1889, nghĩa quân đánh tổng Yên Lãng (Sơn Tây) giết chánh tổng phản động Lý Đức Điền.

   – Tháng 9/1889, Đề Kiều chỉ huy liền hai trận đánh ở Ngòi Lao và Bắc Khê.

   – Ngày 10 tháng 10/1889, chủ tướng Nguyễn Quang Bích triệu tập các tướng lĩnh về họp tại đại bàn doanh ở Quế Sơn. Quân Pháp dò biết đến đánh úp. Nguyễn Quang Bích biết được mưu đồ của giặc Pháp, ông tương kế, tựu kế phái Đề Kiều, Đề Thanh đem quân mai phục cách căn cứ 5-6 dặm. Quân Pháp không ngờ, lọt vào ổ phục kích, bị tiêu diệt phần lớn, số còn lại tháo chạy bỏ lại nhiều xác chết và súng đạn.

   Tháng 10/1889, lực lượng nghĩa quân hùng mạnh, ông tổ chức các trận đánh phòng ngự ở Mộ Xuân, Tiên Động, Quế Sơn. Trận nào nghĩa quân cũng thắng, làm thất bại các trận càn quét của quân Pháp. Để phô trương thanh thế, uy hiếp giặc ông còn chủ động tấn công đồn Văn Bàn. Trận đánh táo bạo này gây khiếp đảm cho quân Pháp, gây phấn chấn cho đồng bào các dân tộc, đồng bào đem thóc gạo, trâu bò ra úy lạo nghĩa quân.

   Tháng 11/1889, nghĩa quân đánh trận Đào Xá cách Hưng Hóa 6 dặm (3 cây số). Trận này tuy nghĩa quân thắng, nhưng Đốc Sỹ tử trận.

   Cũng trong tháng 11, ông còn tổ chức các trận đánh và trực tiếp chỉ huy các trận đánh đồn Thanh Ba, trận đánh đồn Ngòi Lao, đánh huyện lỵ Cẩm Khê.

   Tháng 12/1889, Đề Kiều chỉ huy đánh trận Tý Mã. Trận này Đốc Hội tử trận. Cũng trong tháng 12/1889 ông chỉ huy đánh trận Trí Chủ.

   Ngày 15 tháng chạp âm lịch (khoảng 20 tháng 1/1890), Nguyễn Quang Bích lâm bệnh nặng mất tại đại bản doanh ở núi Tôn Sơn.

   Trước tổn thất lớn lao mất chủ tướng. Đề Kiều cùng các tướng vẫn duy trì, phát triển lực lượng quân sự, liên tục tấn công quân Pháp. Tháng 1/1890 , nghĩa quân đánh đồn Văn Bàn lần thứ 2. Cũng trong tháng 1 ông còn chỉ huy đánh trận làng Bản Nguyên, trước mặt Hưng Hóa, giết chết chánh tổng tổng Văn Phú và giết chết chánh tổng tổng Cẩm Khê.

   Tháng 5/1890 , Đề Kiều thống nhất các toán nghĩa quân tại vùng Hưng Hóa. Ông trực tiếp chỉ huy 300 tay súng giỏi lập căn cứ tại phía Nam huyện Cẩm Khê (Phú Thọ), bên Hữu ngạn sông Hồng. Ông phối hợp chặt chẽ với Đốc Ngữ đánh nhiều trận lớn. Đề Kiều đã liên hệ với các lực lượng nghĩa quân khác ở thượng lưu sông Hồng, sông Đà, Bắc Ninh, triền sông Lục Nam, Thanh Hóa, Nghệ An. Ông còn cử người sang Trung Quốc liên lạc với Tôn Thất Thuyết để nhận súng đạn. Ông chịu ảnh hưởng lớn chí hướng hành động của Tôn Thất Thuyết.

   Ngày 25/11/1892, Đề Kiều vượt sông Hồng sang Tam Đảo bàn việc hợp tác với nghĩa quân do Tuấn Đạt, Tuấn Bôn, Đốc Khoát, Đội Giang, Đốc Đông chỉ huy. Ngày 27/11/1892 ông về tới căn cứ, song quân Pháp dùng chính sách chia rẽ dân tộc, mua chuộc một số nghĩa quân người dân tộc, những người này chỉ điểm cho quân Pháp biết nơi ông đóng quân. Giặc đem quân bao vây chặt trong nhiều ngày, tấn công liên tục, nghĩa quân bị tiêu hao, lương thực không còn, đạn hết. Giặc bắt, dụ dỗ ông làm quan cho chúng, ông cự tuyệt, chúng giam lỏng ở quê, ông mở đồn điền vẫn ngầm giúp đỡ nghĩa quân, sống cuộc đời dân thường cho đến khi mất.