cụ Thảo được đào tạo tình báo từ năm 1946 hoạt động cho Việt Minh 9 năm kết nạp **** từ năm 1946 có anh ruột là Phạm Ngọc Thuần là phó chủ tịch uỷ ban hành chính kháng chiến Nam Bộ, không di tập kết mà ở lại làm tình báo mà cụ dám còm là chỉ có tình cảm với miền bắc, chưa dám nói là người bên ta cài vào. tôi cũng bó tay
Năm 1946, trường Võ bị Trần Quốc Tuấn khai giảng. Ông cùng 12 chiến sỹ Nam Bộ khác được cử ra Sơn Tây học tập. Tốt nghiệp khoá I, ông được điều về Phú Yên nhận nhiệm vụ làm giao liên. Một lần, ông được giao nhiệm vụ đưa một cán bộ về Nam Bộ. Đó chính là Lê Duẩn, người có ảnh hưởng rất lớn đến hoạt động tình báo của ông sau này.
Sau khi trở về Nam Bộ, ông được giao nhiệm vụ Trưởng phòng mật vụ Ban quân sự Nam Bộ – tổ chức tình báo đầu tiên của cách mạng ở Nam Bộ, rồi được bổ nhiệm làm Tiểu đoàn trưởng Tiểu đoàn 410, Quân khu 9 (có tài liệu nói là tiểu đoàn 404 hoặc tiểu đoàn 307). Trong thời gian này ông hướng dẫn về chiến tranh du kích cho Trần Văn Đôn, Nguyễn Khánh, Lê Văn Kim... những người sau này trở thành các tướng lĩnh trong Quân lực Việt Nam Cộng hòa.
Những năm 1952-1953, ông là sĩ quan tham mưu trong một số đơn vị chủ lực của Việt Minh tại miền Tây Nam Bộ. Cũng trong những năm ở chiến khu này, ông lập gia đình với bà Phạm Thị Nhiệm, là em ruột giáo sư Phạm Thiều, nguyên đại sứ tại Tiệp Khắc.
Giai đoạn bắt đầu hoạt động
Sau Hiệp định Genève, các cán bộ của Việt Minh (cả dân sự lẫn quân sự) đều được tập kết ra Bắc. Cũng có nhiều cán bộ Việt Minh đã bí mật ở lại hoạt động. Riêng trường hợp của Phạm Ngọc Thảo, chính Tổng Bí Thư Lê Duẩn đã chỉ thị cho ông không tập kết ra Bắc mà ở lại miền Nam để hình thành "lực lượng thứ ba". Về việc này, nguyên Thủ tướng Võ Văn Kiệt nói: “anh Ba Duẩn rất tin cậy Phạm Ngọc Thảo và đã giao cho đồng chí Thảo một nhiệm vụ đặc biệt.
khi cụ Thảo gặp nguy hiểm thì cụ Kiệt đã yêu cầy Thảo ra chiến khu ngay nhưng ông không chịu vì thấy vẫn còn cơ hội làm đảo chính nửa. Ông chưa bị lộ là tình báo của phía bắc.
cả Khánh Đôn Kim đều là lính của cụ Thảo thời còn ở Việt Minh. Vì vậy đám này bị cụ Thảo hạ dễ dàng.
các ông Diệm Nhu Thiệu Minh Khánh Khiêm đều đã từng theo Việt Minh giai đoạn 1946, quả là rất trùng hợp