Trường tiểu học Phú Nhơn được thành lập theo quyết định số 1480/QĐ-UB ngày 31 tháng 3 năm 2008 của Chủ tịch UBND thị xã Tân An (nay là UBND Thành phố Tân An). Lúc bấy giờ, trong khuôn viên nhỏ hẹp tọa lạc tại đường Cử Luyện, phường 5, thành phố Tân An, nhà trường chỉ có 7 phòng học và 3 phòng làm việc. Vào năm 2010, trường tiểu học Phú Nhơn được xây dựng mới khang trang gồm 1 dãy trệt và 2 dãy lầu có 15 phòng học, hoàn thành đưa vào sử dụng kể từ năm học 2011-2012. Từ đó đến nay, trường tiểu học Phú Nhơn được dời về địa điểm mới tọa lạc trên đường Nguyễn Văn Tiếp, khu phố Phú Nhơn, phường 5, thành phố Tân An (gần cạnh UBND phường 5), khuôn viên trường có diện tích là 10.000m2. Đến năm 2014, trường tiểu học Phú Nhơn được đầu tư xây dựng thêm dãy hành chánh gồm dãy 1 trệt và 2 dãy lầu có 9 phòng chức năng. Tiếp đó, sân đường được mở rộng, cột cờ được cải tạo ở vị trí chính diện, lối vào sân trường có 2 hàng cây xanh thảm cỏ làm cho quang cảnh nhà trường trở nên khang trang, tươi đẹp hơn trước. Hiện tại, cơ sở vật chất nhà trường đã đáp ứng đủ điều kiện dạy học 2 buổi/ngày, tỉ lệ học sinh học 2 buổi/ngày đạt 100%. Trong năm học 2014-2015, được sự quan tâm của lãnh đạo Sở Giáo dục và Đào tạo, Ủy ban nhân dân thành phố Tân An, Phòng Giáo dục và Đào tạo, Đảng ủy – Ủy ban nhân dân phường 5, phụ huynh học sinh, tập thể cán bộ, giáo viên, nhân viên và học sinh của trường tiểu học Phú Nhơn ra sức phấn đấu hoàn thành các tiêu chí  xây dựng trường tiểu học đạt chuẩn quốc gia. Đến tháng 2 năm 2015, trường tiểu học Phú Nhơn đã được Ủy ban nhân dân tỉnh Long An công nhận là trường tiểu học đạt chuẩn Quốc gia mức độ 1.