Родился 25 ноября 1903 года в селении Старый Батакоюрт Правобережного района Республики Северная Осетия-Алания в семье крестьянина. Осетин. Окончил начальную школу. С раннего детства батрачил.

В РККА – с марта 1922 года. Служил в отряде Особого назначения при Особом отделе Отдельной Кавказской армии красноармейцем. В июне 1923 года был демобилизован. В августе этого же года вновь призван в армию и направлен в Ленинградскую кавалерийскую школу, которую окончил в 1926 году.

В 1926-30 годах- курсовой командир Северо-Кавказской горских национальностей кавалерийской школы (в г. Краснодаре). В 1933 году окончил Военную академию имени М.В. Фрунзе. В 1933-36 годах – начальник оперативного отделения штаба 5-й Ставропольской кавалерийской дивизии имени М.Ф. Блинова (на Украине). С июня 1936 года по декабрь 1938 года- советник в Монгольской Народно-Революционной Армии, затем-инструктор штаба Объединенного военного училища в г. Улан-Баторе. С февраля 1939 года –командир 48-го кавалерийского полка 6-й Чонгарской кавалерийской дивизии (в Белорусском военном округе)

В сентябре 1939 года участвовал в освободительном походе РККА в Западную Украину и Западную Белоруссию. С октября 1940 года учился в Академии Генерального штаба, которую досрочно окончил с отличием в июне 1941 года.

Участник Великой Отечественной войны с июля 1941 года в должности командира 50-й кавалерийской дивизии (Западный фронт). Дивизия под его командованием участвовала в Смоленском сражении и обороне г. Москвы, дважды совершала рейды по тылам немецко-фашистских войск группы армий «Центр» в Подмосковье и на Смоленщине в составе кавалерийской группы генерала Л.М. Доватора.

С декабря 1941 года –командир 2-ого гвардейского кавалерийского корпуса (Западный фронт), который принимал участие в разгроме немецко-фашистких войск под г. Москвой. В апреле- июне 1942 года –командир 5-ого кавалерийского корпуса (Южный фронт), который вел тяжелые оборонительные бои южнее г. Изюма (Харьковская область, Украина). С июля 1942 года – командир3-го гвардейского кавалерийского корпуса (сталинградский, Донской и Юго-Западный фронты). Участвовал в Сталинградской и Курской битвах, в освобождении Левобережной Украины.

6 марта 1944 года введенная в рейд по тылам противника конно-механизированная группа под командованием И.А Плиева обеспечила окружение и разгром частей 6-ой немецкой армии.

16 апреля 1944 года указом Президиума Верховного Совета СССР за умелое руководство действиями конно-механизированной группы 3-го Украинского флота при уничтожении в апреле 1944 года южно-бугской группировки противника на Украине и проявленные при этом личное мужество и героизм генерал-лейтенанту И.А. Плиеву присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая звезда».

В составе 1-ого Белорусского фронта 4-й гвардейский кавалерийский корпус под командованием И.А. Плиева принимал участие в Минской операции и освобождении Западной Белоруссии. Участник советско-японской войны 1945 года в должности командира конно-механизированной группы Забайкальского фронта, которая отличилась при проведении Хингано-Мукденской операции.

8 сентября 1945 года указом Президиума Верховного Совета СССР за успешное командование конно-механизированной группой (Забайкальский фронт) в Маньчжурской операции советских войск в августе 1945 года, личное мужество и героизм, проявленные в боях, генерал-полковник И.А.Плиев был награжден второй медалью «Золотая звезда».

После окончания Великой Отечественной войны продолжил военную службу в Вооруженных силах СССР. В феврале-июне 1946 года – командующий войсками Ставропольского военного округа. С июня 1946 года- командующий 9-й механизированной армией (Южная группа войск, Румыния). С февраля 1947 года – командующий 13-й армией (в Прикарпатском военном округе). В 1949 году окончил Высшие академические курсы при Высшей военной академии имени К.Е. Ворошилова. С апреля 1949 года-командующий 4-й армией (в Закавказском военном округе).

С июня 1955 года по апрель 1958 года- первый заместитель командующего, а с апреля 1958 года- командующий войсками Северо-Кавказского военного округа. Генерал армии (1962 год).

Во время Карибского кризиса с июля 1962 года по май 1963 года командовал Группой советских войск на Кубе в ходе операции «Анадырь». После возвращении в СССР вновь командовал войсками Северо-Кавказского военного округа. С июня 1968 года генерал армии И.А. Плиев –военный инспектор-советник Группы генеральных инспекторов Министерства обороны СССР.

Кандидат в члены Центрального Комитета КПСС в 1961-1966 годах. Депутат Верховного Совета СССР 2-7 созывов (1946-1970 гг.).

Жил на проспекте Чехова,60 в Кировском районе г. Ростова-на-Дону (1955-1979 гг., 24 года).

Умер 6 февраля 1979 года (75 лет) в г. Москве. Похоронен в г. Владикавказе (Северная Осетия) Там же Герою установлен Бронзовый бюст.
Именем И.А. Плиева названа одна из улиц Ворошиловского района г. Ростова-на-Дону.