Вскоре после Полтавской битвы, в ознаменование победы, Петр I издал указ о сооружении на поле Полтавской битвы Петропавловского монастыря, с нижней церковью в честь Сампсона Странноприимца (поскольку битва состоялась 27 июня, в день преподобного Сампсона). Несмотря на приказ Петра I о неотложности сооружения монастыря и монумента и выделение средств для строительства, дело пошло очень медленно. В 1840 году, по предложению генерал-губернатора графа Строганова, был проведен конкурс проектов на строительство церкви. Из числа представленных проектов предпочтение было отдано проекту архитектора Ж. (Иосифа Ивановича) Шарлеманя (1782-1861). Закладке церкви произошли 27 июня 1852. Ее возведение, которое осуществлялось под надзором местного архитектора Хоруженко, было закончено в 1856 году. Церковь освящена 15 июля 1856 года.
Построенная по образцу старославянских византийских храмов (псевдорусском стиле). В конце XIX века в Полтаве была создана отдельная комиссия, которая признала необходимым значительно расширить Сампсониевскую церковь. В 1890 году архитектор М. Никонов выполнил проект реконструкции церкви. В конце сентября 1895 работы по реконструкции храма были завершены, и 1 октября 1895 года его заново освятили. Во время подготовки к 200-летнему юбилею Полтавской битвы Сампсониевская церковь получила новые изменения. По проекту полтавского епархиального архитектора С. Носова с западной стороны к ней была достроена входная часть с колокольней. Во время последней реконструкции существенно изменился не только экстерьер, но и интерьер церкви. Стены, своды потолка и внутренние поверхности центрального барабана купола были покрыты сплошным слоем высокохудожественных декоративно-растительных и сюжетных росписей, выполненных в стиле В. Васнецова. Деревянный иконостас был заменен одноярусным, изготовленным из мрамора. Художественно-образные характеристики росписей и иконостаса Сампсониевского храма дают все основания классифицировать их как уникальный высокохудожественный образец храмового монументального искусства.