Родился 12 февраля 1915 года в поселке Константиновка Екатеринославской губернии. Окончил индустриально-химический техникум в Славянске.
Работал в Харькове в железнодорожных мастерских, занимался в аэроклубе.
Одесскую военную авиационную школу окончил в 1939 году.
Уже в июне 1941 года он сбил Ме-109, пилота взяли в плен.
Это был один из первых захваченных немецких летчиков.
25 мая 1942 года старший лейтенант Дзюба был сбит, ранен в голову, ноги и руки.
После возвращения в строй сражался под Сталинградом и Севастополем.
В одном из боев над Крымом самолет Дзюбы был подожжен в воздухе, он сумел сбить пламя, но на посадке машина взорвалась, и летчик в тяжелейшем состоянии был отправлен в госпиталь.
Ему ампутировали ногу.
За время участия в боевых действиях гвардии капитан Дзюба в 425 боевых вылетах лично сбил 22 самолета противника и 16 — в группе.
Демобилизовался в 1945 году.
Жил в своем доме с садом в Харькове.
«Воевал как умел, по велению сердца и совести», — отвечал он обычно на вопросы о его боевом пути.
ПЛ. Дзюба умер 17 января 1965 года.
Герой Советского Союза (01.11.1943).
Награжден орденом Ленина, двумя орденами Красного Знамени, орденами Александра Невского, Отечественной войны 1-й степени, медалями.