Є апеляційним спеціалізованим адміністративним судом, який розташований у місті Харкові за адресою: м. Харків, майдан Театральний, 1.
Юрисдикція суду поширюється на Полтавську, Сумську та Харківську області.
Указом Президента України №455/2017 від 29 грудня 2017 року «Про ліквідацію апеляційних адміністративних судів та утворення апеляційних адміністративних судів в апеляційних округах» утворено Другий апеляційний адміністративний суд в апеляційному окрузі, що включає Полтавську, Сумську та Харківську області, з місцезнаходженням у місті Харкові.
До початку роботи нового суду, правосуддя здійснював Харківський апеляційний адміністративний суд.
Приміщення Другого апеляційного адміністративного суду розташоване в будівлі Національного банку міста Харкова, яке є пам»яткою архітектури. Побудовано воно у 1897—1900 роках за проектом архітектора Р. Голенищева.
Спочатку це була двоповерхова будівля, до якої згодом у 1932 році під керівництвом архітектора О.Бекетова добудовано ще два поверхи.
Рішенням Виконавчого комітету Харківської обласної ради народних депутатів № 196 від 12.01.1981 року вказану будівлю визнано історичною пам'яткою місцевого значення, у зв'язку з тим, що в цьому будинку у 1918 році працював Г.К. Орджонікідзе.