Nhà thờ Đức Bà Sài Gòn được xếp chung nhóm với một số nhà thờ của nhiều quốc gia trên thế giới như Nhà thờ thánh John the Divine ở thành phố New York (Mỹ); Nhà thờ chính tòa Milano ở Milano (Ý); Nhà thờ chính tòa Saint Sebastian ở Rio de Janeiro (Brazil); Nhà thờ Đức Bà ở Ottawa (Canada); Nhà thờ Ký túc xá ở Moscow (Nga)…

Công trình Nhà thờ Đức Bà tổ chức cuộc thi tuyển thiết kế vào tháng 8.1876 và kiến trúc sư thiết kế J.Bourard trúng thầu công trình này với phong cách kiến trúc Roman cải biên pha trộn nét phong cách kiến trúc Gothic.
Mọi vật liệu xây dựng công trình như xi măng, sắt thép, cho đến cả ốc vít đều được đặt mang từ Pháp qua. Đặc biệt nhất ở đây đó chính là công trình được xây dựng bằng gạch được làm tại Toulouse (Pháp), để trần, không tô trát, không bị bám bụi rêu nên đến nay vẫn còn như mới.
Ngày 7/10/1877, Đức cha Isidore Colombert (tên Việt là Mỹ - Giám mục đại diện Tông tòa giáo phận Tây Đàng trong lúc bấy giờ) đã tiến hành làm phép và đặt viên đá đầu tiên xây dựng nhà thờ. Nhà thờ được thi công khá nhanh, khoảng 2,5 năm là xong. Thời kỳ đầu gọi là Nhà thờ Nhà nước, bởi tất cả kinh phí xây dựng đều do nhà nước Pháp cung cấp với số tiền 2.500.000 francs Pháp.
Năm 1895, nhà thờ xây thêm hai tháp chuông, mỗi tháp cao 57,6 m và có 6 chuông đồng lớn. Trên đỉnh tháp có đính một cây Thánh Giá cao 3,50 m, ngang 2 m, nặng 600 kg. Tổng thể chiều cao từ mặt đất lên đỉnh Thánh Giá là 60,50 m.
Trước đây, vào năm 1903, Người Pháp cho đặt tượng đồng Pigneau de Béhaine (còn gọi là Giám mục Bá Đa Lộc hoặc Giám mục Adran vì vị này làm Giám mục hiệu tòa Adran) nắm tay dẫn Hoàng tử Cảnh (con vua Gia Long). Tượng được làm tại Pháp và vạn chuyển qua, tượng được đặt trên một bệ đá hoa cương được đặt ngay giữa vườn hoa trước nhà thờ nhưng cho đến năm 1945 thì tượng này bị phá bỏ.
Năm 1958 Linh mục Giuse Phạm Văn Thiên cai quản Giáo xứ Sài Gòn thời ấy, đã đặt tạc một Tượng Đức Mẹ Hòa bình bằng loại đá cẩm thạch trắng Carrara của Ý. Tượng được tạc tại Pietrasanta cách Roma khoảng 500 km. Sau khi hoàn tất, tượng được vận chuyển đến Sài Gòn vào ngày 15/2/1959 và được đặt lên bệ đá vốn đã để trống từ năm 1945.
Đến chiều 16/2/1959, Đức hồng y Agagianian làm phép tượng Đức Mẹ tại quảng trường trước nhà thờ nên từ sự kiện này, nhà thờ có tên gọi là Nhà thờ Đức Bà và quảng trường phía trước được gọi là Quảng trường Đức Bà Hòa Bình.