Hoàng Cao Khải tự nguyện theo giúp quân xâm lược, rất được Pháp tin dùng. Ông được cử làm tiễu phủ sứ, phụ trách “dẹp loạn” ở các tỉnh Bắc Ninh, Hưng Yên, Hải Dương. Sau đó, ông được thăng chức tổng đốc Hải Yên (liên tỉnh Hải Dương – Quảng Yên); đến năm 1889, ông leo lên địa vị cao nhất xứ Bắc Kỳ: kinh lược sứ, được Pháp gọi là “phó vương Bắc Kỳ” (vice–roi du Tonkin), một chức quan không hề có trong sử sách Việt Nam. Việc này được De Lanessan (làm toàn quyền Đông Dương từ 21-4-1891 đến 29-12-1894) nhắc tới trong cuốn “Công cuộc thuộc địa hoá ở Đông Dương” (La colonisation française en Indochine): “Thấy tuyệt vọng không thể bình định được vùng đồng bằng [Bắc Kỳ] bằng những đội quân chính quy và những đội dân vệ mà lúc đó quân số cũng đã lên 8 000 người, viên toàn quyền tạm quyền [François Bideau] và viên thống sứ [Eusèbe Parreau] đã tổ chức, với những dân vệ và những lính cơ dưới quyền của vị kinh lược [Hoàng Cao Khải] và vài vị quan, những “đội quân cảnh sát” hành động trong các tỉnh bị rối loạn nhất, đặc biệt là ở Bắc Ninh, Hưng Yên, Hải Dương, Hà Nội...”.
Trong báo cáo ngày 27-3-1889, thống sứ Bắc Kỳ Eusèbe Parreau cũng viết : “Cần có biện pháp mới, nghĩa là phải làm sao cho dân bản xứ chống lại nhau.Tôi đã giao nhiệm vụ này cho tổng đốc Hoàng Cao Khải, viên quan rất có nghị lực và đầy tham vọng” 5 . Theo nhà sử học Pháp Philippe Devillers, thi hành chủ trương của Pháp, “Hoàng Cao Khải thành lập một lực lượng [gồm] 400 lính tình nguyện lấy trong số những lính khố đỏ cũ và 500 vệ binh dân sự do các công sứ cung cấp. Lực lượng này đi ngang dọc khắp nơi ở Bãi Sậy, có khi đụng độ với những nhóm kháng chiến chính yếu, nhưng thường là hành động theo chiều sâu, trên cơ sở những tin tức tình báo, do đó bắt được nhiều người và thường là hành quyết ngay...” 6. Phối hợp với quân viễn chinh Pháp, “đội quân cảnh sát” của Khải mở các cuộc hành quân càn quét vào những khu căn cứ của nghĩa quân (Bãi Sậy ở Hưng Yên, Hai Sông ở Hải Dương...), bao vây dài ngày để cắt đứt việc tiếp tế lương thực, chém giết bừa bãi nhằm khủng bố dân chúng để họ không dám giúp đỡ nghĩa quân. Nghĩa quân ở các tỉnh đồng bằng Bắc Kỳ chịu nhiều tổn thất nặng nề.
Ở Trung Kỳ, Pháp đánh mãi mà không đàn áp được cuộc khởi nghĩa Hương Khê, nên tháng 11-1894 toàn quyền De Lanessan sai Hoàng Cao Khải lấy danh nghĩa đồng hương và có quan hệ thông gia để viết thư dụ Phan Đình Phùng. Trong thư, Khải khẳng định việc Pháp cướp nước ta là điều không thể xoay đổi (“Sự thế gần đây đã xoay đổi ra thế nào, thử hỏi việc đời có thể làm được nữa không, dầu kẻ ít học thức kém trí khôn cũng đều trả lời không được”), do đó kháng chiến giành lại độc lập chỉ làm cho “quê hương điêu đứng xiêu tàn” (“Nếu như ngài cứ khăng khăng làm tràn tới mãi thì e rằng khắp cả sông Lam núi Hồng đều biến thành hồ cá hết thảy”) và như thế có lỗi với dân (“Dân ta có tội gì mà vướng phải nông nỗi lầm than thế này, là lỗi tại ai?”). Khải ca ngợi “nhà nước Bảo hộ khoan dung biết dường nào!”, khoe “với quan toàn quyền vốn có tình quen biết nhau lâu; lại có quan khâm sứ ở kinh [đô] và quan công sứ Nghệ Tĩnh cùng tôi quen thân, hiệp ý nhau lắm” nên đã từng “bảo toàn” cho người “ra thú” được “yên ổn vô sự” 7
Phan Đình Phùng viết thư khước từ, đồng thời nói với người đưa thư: “Tôi thề quyết làm việc tôi làm đây tới cùng, dầu sấm sét búa rìu cũng không làm sao cho tôi thay lòng đổi chí được. Anh về nói dùm cho Hoàng Cao [Khải] biết như thế” 8. Khải cho dịch thư của Phan Đình Phùng ra chữ Pháp, gửi kèm theo báo cáo lên toàn quyền De Lanessan: “Bổn chức đã lấy hết sự thế lợi hại để tỏ bày khuyên nhủ Phan Đình Phùng ra hàng thú, nhưng y vẫn tỏ ý hôn mê bất ngộ (mê mẩn tối tăm, không tỉnh). Giờ xin Chánh phủ Bảo hộ vì dân [!]mà dùng binh lực tiễu trừ cho hết văn thân loạn phỉ” 9. Hành động của Khải bị người dân Nghệ - Tĩnh - Bình phê phán trong bài vè “Vè quan Đình” (tức đình nguyên Phan Đình Phùng):
Thua cơ, Tây phải cầu hoà
Sai Hoàng Cao Khải tiến thơ thuyết hàng
Quan Đình sắt đá bền gan
Lòng trung bạch nhật minh quang chẳng dời
Hoàng Cao nói chẳng đắt lời
Lại xui Tây tặc phải thời tiến binh
Sao không biết hổ với mình?10
Ngày 27-12-1896, Paul Doumer được cử làm toàn quyền mới của Đông Dương. Hơn nửa năm sau, để thực hiện chủ trương trực trị đối với Bắc Kỳ, Pháp bãi bỏ chức kinh lược, chuyển toàn bộ quyền hành vào tay viên thống sứ Pháp. Khải được điều động vào Huế, làm phụ chính đại thần, cố vấn đặc biệt cho vua Thành Thái (lúc đó mới 18 tuổi), có chân trong Viện Cơ mật, thượng thư Bộ Binh. Năm 1903, Khải về hưu với hàm thái tử thái phó, Văn Minh Điện đại học sĩ, tước Duyên Mậu quận công.
Giáo sư Hà Văn Tấn