Theo một số tài liệu ghi nhận, Hồ Con Rùa được cho là xây dựng vào khoảng thời gian từ 1965-1967, người thiết kế ra nó là kiến trúc sư Nguyễn Kỳ, song chưa thể xác định độ chính xác thông tin đó. Nơi đây cho đến thời điểm hiện tại vẫn được biết đến là một khu vực sầm uất, nhộn nhịp của trung tâm TPHCM, là nút giao thông của các tuyến đường Trần Cao Vân, Võ Văn Tần, Phạm Ngọc Thạch.

Thiết kế chỉ có trụ bê tông lớn cắm xuống hồ nước hình bát quái, Hồ Con Rùa xưa kia gắn liền với giai thoại trấn yểm long mạch của Tổng Thống Việt Nam Cộng Hoà, ông Nguyễn Văn Thiệu. Trong cuốn sách Vụ Án Hồ Con Rùa (nhà xuất bản tuổi trẻ 1982), của tác giả Huỳnh Bá Thành, đã nhắc đến một câu chuyện truyền miệng kể về thời điểm năm 1967. Đây là năm tướng Nguyễn Gia Thiệu chính thức lên làm Tổng thống Việt Nam Cộng Hoà, sau đó ông đã cho mời một thầy phong thuỷ nổi tiếng người Hoa đến coi vị trí của Dinh Độc Lập.

Theo lời thầy phong thuỷ, thì Dinh Độc Lập nằm ở vị trí đầu rồng, ngay tại long mạch của đất Sài Gòn xưa. Phần đuôi rồng nằm ở vị trí Công trường Chiến sĩ (Hồ Con Rùa ngày nay). Tuy phát hưng vượng nhưng đuôi rồng hay vùng vẫy nên sự nghiệp dễ bị lung lay, cần phải cúng yểm bùa bằng cách đúc một con rùa lớn để trấn phần đuôi rồng, thì mới giữ được vị trí tổng thống lâu bền.

Vì nghe theo lời tiên đoán đó, ông Nguyễn Gia Thiệu đã cho xây dựng một hồ nước có hình bát giác, khuôn viên nước có hình bát quái, bên giữa có hình âm dương, phỏng theo bát quái trận đồ thường dùng để trấn yểm của người xưa, đặt thêm một con rùa lớn được đúc bằng đồng ngay giữa hồ. Nhiều người còn cho rằng, cột kiến trúc tháp cao giữa hồ nhìn giống như một thanh gươm khổng lồ đóng xuống giữa hồ để giữ chặt đuôi rồng. Nhưng đó cũng chỉ là giai thoại không được kiểm chứng.

Vị trí nguyên thuỷ của Hồ Con Rùa vào năm 1790 là cổng thành Khảm Khuyết của thành Bát Quái (hay còn gọi là thành Quy) được xây theo lệnh vua Gia Long. Tuy nhiên, đến giai đoạn 1833-1835, sau cuộc nổi loạn của Lê Văn Khôi, vua Minh Mạng đã cho phá thành Bát Quái và xây một ngôi thành nhỏ hơn, có tên thành Phụng (hay thành Gia Định). Vị trí cửa Khảm Khyết trở thành một điểm ở ngoài thành và nối thẳng con đường ngoài mặt tây thành xuống bến sông (đường số 16 - Catinat và bây giờ là đường Đồng Khởi).

Năm 1859, sau khi chiếm được thành Gia định (tên chính thức của thanh Phụng), người Pháp đã cho phá huỷ toàn bộ thành Gia Định. Cho đến năm 1878, người pháp đã cho xây dựng ngay tại vị trí Hồ Con Rùa một tháp nước để phục vụ cho nhu cầu cung cấp nước uống của người dân. Cho đến năm 1921 thì tháp nước này bị dở bỏ, do không còn đủ sức để cung cấp nước cho nhu cầu thực tế mới. Sau khi phá bỏ tháp nước thì con đường được mở rộng, kéo dài cho đến đường Mayer (đường Võ Thị Sáu ngày nay) và đoạn cuối có tên là đường Garcerie. Từ đó, vị trí Hồ Con Rùa đã trở thành giao lộ cho đến ngày nay.

Cũng ngay tại giao lộ, người Pháp đã cho xây dựng tượng đài ba binh sĩ bằng đồng với hồ nước nhỏ, chính là biểu tượng của việc người Pháp làm chủ Đông Dương, đánh dấu thời kỳ xâm chiếm của họ. Cho đến năm 1956, tượng đài này đã bị phá bỏ bởi chính phủ Việt Nam Cộng Hoà, chỉ để lại hồ nước và họ cũng đổi tên giao lộ thành Công trường Chiến sĩ.

Đến thời của chế độ Việt Nam Cộng Hoà thì vị trí của Công trường Chiến sĩ là vòng xoay giao thông của hai con đường Trần Quý Cáp và Duy Tân. Đây cũng là thời điểm xây dựng Hồ Con Rùa bằng thiết kế của kiến trúc sư Nguyễn Kỳ, theo nhiều thông tin được ghi chép lại như đã nói ở trên.

Giai đoạn 1970-1974, Hồ Con Rùa chính thức được trùng tu và chỉnh trang xây dựng thêm bởi chính phủ Việt Nam Cộng Hoà. Công trình mới này là một vòng xoay giao thông có đường kính khoảng gần 100m, được trang trí bởi cây xanh và hồ phun nước hình bát giác lớn, với 4 đường đi bộ hình xoắn ốc cùng hướng đến khu vực trung tâm. Điểm nhấn của phần trung tâm là 5 cột bê tông cao có dạng 5 cánh tay xoè ra đón đỡ, giống như các cánh hoa đang đỡ nhuỵ hoa, và một con rùa lớn được đúc bằng hợp kim đồng. Trên mai rùa có tấm bia đá lớn ghi tên các nước ghi nhận Việt Nam Cộng Hoà, do đó nơi đây mới có tên gọi dân gian là Hồ Con Rùa. Sau khi xây dựng xong, đến năm 1927 giao lộ có tên gọi chính thức là Công trường Quốc Tế, thay thế cho tên gọi trước đó là Công trường Chiến Sĩ Tự Do.

Sau năm 1975, chính quyền đã cho phá bỏ chữ ở tấm bia trên mai rùa. Đồng thời đổi tên đường Duy Tân thành đường Phạm Ngọc Thạch, đường Trần Quý Cáp thành Trần Cao Vân. Cho đến đầu năm 1976 (cũng có thể là 1978), thì cả bia và con rùa đều bị phá huỷ sau một vụ nổ. Tuy nhiên, mọi người vẫn quen gọi nơi này là Hồ Con Rùa cho đến thời điểm hiện tại, thậm chí nhiều người còn không biết đến tên gọi chính thức của hồ là Công trường Quốc Tế.

Khoảng đầu năm 2022, Ông Phan Thế Huy Trưởng phòng Quản lý đô thị quận 3 cho biết, quận đã lấy ý kiến của cộng đồng cư dân xung quanh khu vực Hồ Con Rùa, và lên kế hoạch về dự án để xây dựng dự án cải tạo, chỉnh trang lại nơi đây từ khoảng đầu năm 2021. Dự kiến, công trình hiện đại phục vụ người dân và khách du lịch, sẽ có tổng kinh phí đầu tư khoảng 50 tỉ.