Phố Hiến nằm bên bờ tả ngạn sông Hồng. Từ thế kỷ 10, vùng Đằng Châu ở phía bắc thành phố Hưng Yên ngày nay vốn là một lãnh địa của sứ quân Phạm Bạch Hổ, đến thời Tiền Lê là thực ấp của Lý Công Uẩn. Thế kỷ 13, dưới thời nhà Trần, khi nhà Nguyên diệt Tống, một số kiều dân Trung Quốc tị nạn đã kéo sang Việt Nam, lập nên làng Hoa Dương. Cùng lúc đó, một số người Việt từ nhiều địa phương khác nhau cũng dần dần đến sinh sống tại địa điểm tụ cư này để buôn bán và làm ăn.

Khi Pháp chiếm Sài Gòn, con đường đã mang trong mình một giá trị đặt biệt rồi. Cụ Vương Hồng Sển miêu tả trong “Sài Gòn năm xưa”: nó được biết đến nhiều vì ở đầu đường, giáp với bờ sông Sài Gòn, từng là nơi vua nhà Nguyễn đến nghỉ ngơi nên còn được gọi là Bến Ngự.

Kiến Trúc Sư Ngô Viết Thụ trước khi rời Sài Gòn có căn dặn: "Không được phát triển thành phố Sài Gòn về hướng Nam - Đông Nam. nếu muốn mở rộng Sài Gòn thì hãy mở rộng về hướng Tây - Tây Bắc. Vì hướng Nam - Đông Nam là nơi duy nhất thoát nước cho thành phố Sài Gòn."