Ông là người nặng lòng yêu nước, đau buồn vì triều đình đầu hàng, để mất lục tỉnh Nam Kỳ về tay Pháp. Tháng 8 năm 1883, triều đình Huế lại ký Hiệp ước Hác Măng (Harmand), thực tế là văn tự bán nước.

   Nguyễn Phạm Tuân treo ấn từ quan, buồn rầu về nhà tự tử. Người nhà biết đã kịp thời cứu chữa được. Tháng 7 năm 1885 phe chủ chiến đứng đầu là Binh bộ Thượng thư Tôn Thất Thuyết tấn công phủ Khâm sứ và đồn Mang Cá. Song việc không thành, các ông đưa vua Hàm Nghi ra sơn phòng Quảng Trị, nhà vua hạ chiếu Cần vương, Nguyễn Phạm Tuân nhiệt liệt hưởng ứng mộ quân chống Pháp.

   Tháng 10 năm 1885 vua Hàm Nghi phong cho ông chức Tán tương quân vụ quân thứ Quảng Bình. Tháng 11 năm 1885, Nguyễn Phạm Tuân hoạt động quân sự ở Quảng Bình, mạnh nhất là ở các huyện Quảng Trạch, Tuyên Hóa, Bố Trạch.

   Ông vốn là tâm đắc với Tôn Thất Thuyết, do đó Tôn Thất Thuyết đã ủy thác cho ông nuôi Tôn Thất Trọng khi đó mới lên bảy tuổi, nên Tôn Thất Trọng mang tên là Nguyễn Phạm Trọng. Vì vậy khi Tôn Thất Thuyết phò vua ra sơn phòng Quảng Trị là ông hưởng ứng, mộ quân chống Pháp. Tháng 10 năm 1885 vua Hàm Nghi phong cho ông chức Tán tương quân vụ quân thứ Quảng Bình. Nguyễn Phạm Tuân cùng với Lê Trực là người chỉ huy chiến đấu. Tháng 11 năm 1885, Nguyễn Phạm Tuân hoạt động quân sự ở Quảng Bình, mạnh nhất là ở các huyện Quảng Trạch, Tuyên Hóa, Bố Trạch.

   Năm 1886, Tôn Thất Thuyết sang Trung Quốc cầu viện, đã ủy thác cho ông nuôi giúp Tôn Thất Trọng là con nhỏ của mình khi đó mới 7 tuổi, bởi vậy Tôn Thất Trọng mới mang tên là Phạm Trọng. Ông giữ chức Thượng tướng cùng Đề đốc Lê Trực và Tôn Thất Tiệp, Tôn Thất Đàm phò vua đánh Pháp. Nguyễn Phạm Tuân lập căn cứ ở vùng rừng núi Tuyên Hóa. Nghĩa quân của ông chiến đấu dũng cảm, lập nhiều chiến công oanh liệt. Có trận ông chỉ huy nghĩa quân đột nhập vào thành Quảng Bình giết Bố chính Nguyễn Đình Dương.

   Ngày 8 tháng 4 năm 1887, lợi dụng tết Nguyên đán, quân ta mất cảnh giác, tên Đại úy Mu tô (Mouteauz) chỉ huy đồn Minh Cầm (Tuyên Hóa) đem lính đến vây làng Cổ Liễu nơi ông đóng quân (Văn thơ yêu nước nửa sau thế kỉ XIX, NXB Văn học viết ông bị bắt ở làng Yên Ninh). Sáng ngày 9 tháng 4 năm 1887, cuộc chiến đấu diễn ra ác liệt, nghĩa quân dũng cảm, tiêu diệt nhiều tên. Nhưng Nguyễn Phạm Tuân bị trọng thương và bị sa vào tay giặc cùng với con nuôi là Nguyễn Phạm Trọng. Giặc lục soát thu được cả ấn của vua Hàm Nghi ở nơi ông, chúng đưa ông về đồn Minh Cầm.

   Giặc tìm mọi cách mua chuộc ông để hỏi chỗ ở của vua Hàm Nghi, nhưng trước sau ông không chịu khai, chỉ chửi mắng  giặc Pháp và lũ người Việt làm tay sai cho giặc. Ông không chịu ăn uống, phun nhổ thuốc vào mặt chúng. Ông làm câu đối tỏ rõ ý chí của mình:

         BỊ ĐÃI THỜI TÁC

      Sổ thế quân ân thù nhất tử,
      Thập niên hoạn nghiệp túc tam sinh.
            (Bài ngoại hịch truyện)

Dịch:
         CÂU ĐỐI LÀM KHI BỊ BẮT

      Ơn nước mấy đời, đền một chết.
      Nghềquan mười tuổi, vạn ba sinh.

   Đến nửa đêm 9 tháng 4 ông chết vì vết thương quá nặng. Giặc Pháp vừa hèn hạ vừa tàn bạo ném xác ông xuống song. Một nghĩa quân đã tìm xác vớt ông lên và đem chôn ở trên núi Yên Phong.

   Còn Đồng Khánh, tên vua bán nước hèn hạ đã thưởng cho tên giặc Pháp Mu tô một chiếc khánh vàng, còn lính Pháp, lính ngụy đi theo đều được thưởng tiền.

   Nguyễn Phạm Tuân không chỉ là một nhà giáo dục, nhà quân sự mà còn là một nhà thơ, chúng tôi trích đăng bài: Đề miếu Nguyễn Biểu: 

         ĐỀ NGHĨA VƯƠNG MIẾU

      Đông A nhật mộ khởi hoàng phân, 
      Mã sâu hoa nguyên thuộc gián thần.
      Năng đạm nhân đầu năng đạm Phụ.
      Thượng tồn ngô thiệt thượng tồn Trần.
      Nhất thanh mạ tặc hưởng thiện địa.
      Bát tư đề điều khấp quỷ thần .
      Thê thảng Bình-Hồ thiên cổ miếu,
      Y y chính khí dẫn thanh phân.

            Hàm Nghi Ất Dậu xuân
         (Hợp tuyển thơ văn Việt Nam tập IV. NXB Văn hóa 1963)

Dịch thơ:

         ĐỀ MIẾU NGUYỄN BIỂU

      Đông A ngày tối đám mây vần,
      Ngựa vượt đồng hoa cậy gián thần.
      Hễ nuốt đầu người thì nuốt Phụ.
      Hãy còn tấc lưỡi vẫn còn Trần.
      Một câu chửi giặc vang trời đất,
      Tám chủ đề cầu khóc quỷ thần.
      Miếu cổ Bình-Hồ còn phảng phất,
      Mùi thơm chính khí tỏa lâng lâng.
            (Khương Hữu Dụng dịch)

   (Nghĩa vương tức Nguyễn Biểu, người làng Bình-Hồ, huyện Đức Thọ, tỉnh Hà Tĩnh đời Trần Trùng Quang làm chức ngự sử được cử đi sang gặp tướng nhà Minh là Trương Phụ đóng ở núi Thành (Nghệ An). Phụ dọn cỗ đầu người. Ông lấy đũa khoét lấy con mắt ăn xong ra về. Phụ cho lính đuổi theo, ông biết chắc sẽ bị giết, liền cầm bút viết 8 chữ: “Thất nguyệt sơ nhất nhật Nguyễn Biểu tử – Ngày mồng một tháng bảy Nguyễn Biểu chết” vào cột cầu, rồi trở lại mắng Trương Phụ trước khi bị giết.
   Đông A tức nhà Trần do chữ Trần gồm một bên là bộ phụ của chữ A và một bên là chữ đông.
   Ngựa vượt đồng hoa: Ý nói đi sứ).