Xã Vân Canh đã được hình thành lâu đời, ít nhất là từ thời Lý và tên xã Vân Canh xuất hiện thời Lê sơ. Gồm 3 làng: Kim Hoàng (do 2 làng Kim Bảng và Hoàng Bảng gộp vào), An Trai và Hậu Ái (Nhân Ái).
Tổng Hương Canh xưa có hai xã là Hương Canh và Vân Canh, gồm tất cả bảy làng Canh. Đây là một vùng đất cổ, các làng Canh đều được gọi theo Nôm là kẻ Canh, cư dân đến sống ở đây ít nhất cũng từ đầu công nguyên.
Theo bản Ngọc Phả do Đông các đại học sỹ Nguyễn Bính soạn, từ đời Vua Hùng thứ XVIII, ông Phan Tây Nhạc đã từ Châu Ái (Thanh Hóa) ra vùng Canh cư ngụ. Sau ông có theo Tản Viên Sơn Thánh đi đánh quân Thục, nên được Vua Hùng gả cháu gái và cho phong ấp ở vùng Canh. Đây là một vùng quê cổ kính, văn hiến, đã được ghi nhận qua câu phương ngôn nổi tiếng: Mỗ, La, Canh, Cót tứ danh hương…