Родился 6.4.1915 в поселке Михаиле-Коцюбинское ныне Черниговского района Черниговской области в семье крестьянина. Украинец. Член КПСС с 1941. Учился в Житомирском педагогическом институте.

В Советской Армии с 1934. Окончил Одесскую школу военных пилотов в 1938. Служил в авиации Тихоокеанского и Балтийского флотов.

В боях Великой Отечественной войны с декабря 1942.

Заместитель командира эскадрильи 9-го гвардейского минно-торпедного авиационного полка (5-я минно-торпедная авиационная дивизия, ВВС Северного флота) гвардии капитан Шкаруба к июлю 1944 совершил 73 боевых вылета. Потопил лично 2 транспорта общим водоизмещением 18 тысяч тонн и в группе 6 транспортов и миноносец противника.

Звание Героя Советского Союза присвоено 19.8.44.

В 1948 окончил Высшие офицерские курсы авиации ВМС. С 1950 майор Шкаруба — в запасе. Жил в Риге.

Награжден орденом Ленина, 3 орденами Красного Знамени, орденом Красной Звезды, медалями.

Умер 14.3.1954. Именем Героя в пгт Михаиле-Коцюбинское названа улица, бюст установлен на территории Музея ВВС Северного флота.