Невдовзі після Полтавської битви, в ознаменування перемоги, Петро І видав указ про спорудження на полі Полтавської битви Петропавлівського монастиря, з нижньою церквою на честь Сампсона Странноприїмця (оскільки битва відбулася 27 червня, в день преподобного Сампсона). Незважаючи на наказ Петра І про невідкладність спорудження монастиря і монумента та виділення коштів для будівництва, справа посувалася дуже повільно. У 1840 році, за пропозицією генерал-губернатора графа Строганова, був проведений конкурс проектів на будівництво церкви. Із числа представлених проектів перевага була віддана проекту архітектора Ж.-Ж. (Йосипа Івановича) Шарлеманя (1782-1861). Закладини церкви відбулися 27 червня 1852 року. Її зведення, яке здійснювалося під наглядом місцевого архітектора Хоруженка, було закінчене в 1856 році. Церква освячена 15 липня 1856 року.
Побудована за зразком старослов’янських візантійських храмів (Псевдоросійський стиль). Наприкінці ХІХ століття в Полтаві було створено окрему комісію, яка визнала необхідним значно розширити Сампсоніївську церкву. У 1890 році архітектор М. Ніконов виконав проект реконструкції церкви. Наприкінці вересня 1895 року роботи з реконструкції храму були завершені, і 1 жовтня 1895 року його заново освятили. Під час підготовки до 200-річного ювілею Полтавської битви Сампсоніївська церква отримала нові зміни. За проектом полтавського єпархіального архітектора С. Носова із західного боку до неї була добудована вхідна частина з дзвіницею. Під час останньої реконструкції суттєво змінився не тільки екстер’єр, але й інтер’єр церкви. Стіни, склепіння стелі та внутрішні поверхні центрального барабану бані було вкрито суцільним шаром високохудожніх декоративно-рослинних та сюжетних розписів, виконаних у стилі В. Васнєцова. Дерев’яний іконостас було замінено на одноярусний, виготовлений із мармуру. Художньо-образні характеристики розписів та іконостасу Сампсоніївського храму дають всі підстави класифікувати їх як унікальний високохудожній зразок храмового монументального мистецтва.