Родился 23.9.1921 в Киеве в семье рабочего. Украинец. Член КПСС с 1943. Окончил 2 курса Никопольского агролесомелиоративного техникума и аэроклуб в 1939.

В Советскую Армию призван в 1939. Окончил Качинскую военно-авиационную школу летчиков в 1940.

На фронтах Великой Отечественной войны с октября 1941.

Командир эскадрильи 347-го истребительного авиационного полка (193-я истребительная авиационная дивизия, 13-й истребительный авиационный корпус, 16-я воздушная армия, 1-й Белорусский фронт) капитан Рыжий к марту 1945 совершил 250 боевых вылетов, в 89 воздушных боях сбил 17 самолетов противника.

Звание Героя Советского Союза присвоено 15.5.46.

В 1951 окончил Военно-воздушную академию, в 1963 — Московский государственный университет. С 1973 полковник Рыжий — в запасе. Живет в Москве, преподавал в Военной академии химзащиты.

Награжден орденом Ленина, 4 орденами Красного Знамени, орденом Александра Невского, 2 орденами Отечественной войны 1 степени, 2 орденами Красной Звезды, медалями.