20 августа 1963 года Совет Министров Абхазской АССР вынес решение о создании в Сухуме картинной галереи на правах филиала Абхазского государственного музея. В создании галереи принял участие ценитель искусства, сухумский врач Езекиэль Лазаревич Фишков. Он передал в дар галерее часть своего дома (ул. Пушкина 24) и 60 картин.
В коллекции Фишкова были работы русских художников — Б. Петрова, В. Контарева, О. Сегаль и другие. Они посетили Абхазию в начале ХХ века.
К открытию галереи, которое состоялось 17 марта 1964 года, художники Абхазии М. Эшба, О. Брендель, И. Цомая, В. Иванба и другие подарили свои произведения.
В трех залах экспонировалось 100 картин и 20 скульптурных работ. С годами фонды галереи систематически пополнялись работами художников Абхазии.
17 мая 1985 года — в день перезахоронения в Сухуме останков выдающегося абхазского художника А. К. Чачба-Шервашидзе (1867-1968) экспозиция Картинной галереи была перенесена в помещение по ул. Лакоба 31, где сейчас располагается Союз художников Абхазии.
После Отечественной войны народа Абхазии 1992-1993 гг. экспозиция галереи закрылась. В 1994 году картинная галерея Абхазского государственного музея была переименована в Национальную картинную галерею и стала самостоятельным государственным учреждением.
В 1997 году по решению первого президента Абхазии Владислава Григорьевича Ардзинба Национальной картинной галерее было выделено здание бывшей дореволюционной женской гимназии по ул. Пушкина 8. Вскоре начались первые ремонтные работы в здании, которые были остановлены из-за нехватки средств. Картины из фонда галереи хранились на втором этаже здания ЦВЗ по ул. Лакоба.
В фонде галереи хранилось более четырех тысяч работ таких известных абхазских мастеров, как Александр Чачба-Шервашидзе, Варвара Бубнова, Борис Петров, Владимир Контарев, Марина Эшба, Виталий Лакрба, Валерий Гамгия, Виталий Джения, Амиран Адлейба, Ольга Брендель и др.