Nhưng đến năm 1890, sau khi Tổng trú sứ Paul Bert qua đời trong nhiệm kỳ ở Hà Nội, người ta chủ trương dựng một pho tượng đồng để kỷ niệm vị Tổng trú sứ đã có nhiều công tích đối với thuộc địa Đông Dương. Hội đồng thành phố Hà Nội quyết định sẽ đặt tượng tại vườn hoa trung tâm thành phố nằm giữa bốn toà nhà nhìn ra hồ Hoàn Kiếm, đồng thời đặt cho nó tên gọi mới là vườn hoa Paul Bert. Tưởng được yên vị tại đó, tác phẩm của Bartholdi lại phải dời đi nơi khác, dành chỗ cho pho tượng mới.
Ngày 11-7-1890, đã diễn ra lễ hội lớn khánh thành tượng Paul Bert dưới sự chủ toạ của toàn quyền Piquet. Pho tượng được dựng ngay tại nơi đặt phiên bản thu nhỏ của thần Tự do. Người ta hạ bức tượng đồng của Bartholdi xuống khỏi bệ, và trong khi chờ đợi chiếc bệ bằng đá hoa cương núi Vosges dành cho tượng Paul Bert, cả hai pho tượng được đặt tạm bên nhau trên hai nền đất đắp cao. Lễ khánh thành đã diễn ra với sự có mặt của con gái người quá cố và chồng bà ta, ông Klobukowski, công sứ Pháp ở Yokohama, nguyên chánh văn phòng của toàn quyền Paul Bert, sau này sẽ trở lại làm Toàn quyền Đông Dương năm 1908. Từ đấy vườn hoa được người Việt gọi là Vườn hoa Nhà kèn, vì ở đấy có dựng lên một nhà bát giác để hàng tuần đội kèn đồng của nhạc binh Pháp ra biểu diễn.
Vậy là phải tìm một chỗ khác để đặt tượng Thần Tự Do.
Có ý kiến đề xuất là đặt ở chỗ ga xe điện Bờ Hồ trước đây, nay là đài phun nước trước nhà Thủy Tạ và đầu phố Hàng Đào. Nhưng một kỹ sư Pháp là Daurelle đề nghị đặt ngay trên nóc Tháp Rùa mà người Pháp gọi là Ngôi đền nhỏ (Pagodon) hay Qui Sơn Tháp (Tour de l ' ile de la Tortue). Chi tiết này được viết rất rõ trong cuốn “Bắc Kỳ xưa” (Le vieux tonkin) của Claude Bourrin, viết về xứ Bắc Kỳ trong các giai đoạn từ 1890 đến 1894 (nhà in IDEO, Hà nội, 1941, tr. 48-49).
Lúc ấy báo chí Pháp thảo luận rất nhiều về vị trí đặt pho tượng này. Có nên đặt nó trên nóc Tháp Rùa không? Và nếu đặt thì tượng Thần Tự Do sẽ quay mặt về hướng nào? Cuối cùng thì tượng Thần Tự Do vẫn được đặt trên nóc Tháp Rùa, mặt quay về vườn hoa Paul Bert, tức quay về tượng Lý Thái Tổ bây giờ, lưng quay về phía Nhà Thờ Lớn.
Có 2 tấm hình trong cuốn sách “Bắc kỳ xưa” minh họa cho điều đó. Hình thứ nhất là toàn cảnh Hồ Gươm, nhìn từ phía tượng Pôn Be, cho thấy Tháp Rùa, trên có tượng Thần Tự Do (hình này lấy từ báo L' Indépendance tonkinoise, số đặc biệt, ra tháng 7-1891. Hình thứ hai là hình Thần Tự Do, do Césard vẽ, phía sau có Nhà Thờ Lớn, với ghi chú “Liberté sur le Pagodon du Petit - Lac à Hanoi” (Tượng Tự Do trên nóc Tháp Rùa ở Hà nội). Hình này được đăng trong báo La Vie Indochinoise, tháng 12 năm 1896. Điều này cho thấy ít nhất Tượng Tự Do cũng đã nằm trên nóc Tháp Rùa trong 6 năm, từ 1891 đến 1896, trước khi được chuyển về vườn hoa Cửa Nam và mang tên “Bà Đầm xòe”.
Năm 1945, trước khi Cách mạng tháng 8 nổ ra, ngày 31-7-1945, thị trưởng Hà nội của Chính phủ Trần Trọng Kim lúc ấy là Trần Văn Lai, có lẽ đã không biết đến ý nghĩa lịch sử của pho tượng, nên đã liệt “Bà Đầm xòe” vào số những tàn tích nô lệ của thực dân Pháp và ký lệnh cho giật đổ pho tượng này cùng một số tượng khác, trong đó có tượng Paul Bert. (Theo bản tin trên báo Đông Pháp, 2-8-1945).
Bản tin trên báo Đông Pháp ngày 2-8-1945 cho biết, pho tượng “Bà đầm xoè” bị giật đổ 9 giờ 45 phút ngày 1-8-1945.