В январе 1935 года Совет народных комиссаров Казахской ССР принял решение о немедленном создании зоопарка в городе Алма-Ата. Выбором места для строительства первого в Республике зоопарка и его созданием занимался опытный охотник и отличный знаток Семиречья Мурзахан Толебаев. Под зоопарк была отведена территория в 26,6 га.

Мурзахан Толебаев лично участвовал в отлове представителей местной фауны для экспозиции зоопарка. Первыми поступившими в Алматинский зоологический парк животными были косули, пара волков, молодые лисицы, архаренок, сайгак, джейран, горный козел. Чтобы с первых дней работы зоопарка удивить алмаатинцев, Толебаев вел переговоры с Московским зоопарком о приобретении животных. Из Ашхабадского зоопарка в Алма-Ату были направлены гиены, шакалы, каракалы, лисы. Из Ленинградского зоопарка прислали белого медведя, северных оленей, енотов. Из Московского зоопарка направили эму, бизонов, зубробизонов, антилоп нильгау. Из заповедника Аскания-Нова прибыли антилопы зеву, гну и канны. В год основания коллекция животных достигла 70 видов.

Зоопарк торжественно открыл свои двери для посетителей 7 ноября 1937 года.

В годы войны наступило непростое время для зоопарка. Многие сотрудники отправились на фронт. Рабочих рук не хватало в этот период остро стояла проблема недостатка кормов для животных, особенно хищников. Сотрудники скупили у местных жителей всех ослов. Позже начали отлов бродячих собак. Львов кормили даже сушеным урюком. Часть коллекции погибла, но многих животных удалось спасти.

В год открытия Алма-Атинский зоопарк из отведенной для него территории занял всего 7 гектаров. В 60-е годы началось расширение и обновление зоопарка. Был построен новый павильон хищных зверей, зимний павильон для слонов и бегемотов, новые вольеры для птиц.

5 сентября 1961 года в зоопарке впервые появились индийские слоны. Молодые слонята Дубас и Пальма стали подарком жителям Алма-Аты от премьер-министра Индии Джавахарлала Неру, в 1955 году посещавшего наш город со своей дочерью.

У этой пары впоследствии родилось пять слонят. Самый известный из них — Батыр из Алма-Аты — был направлен в Карагандинский зоопарк. Слоненок прославился тем, что научился с помощью хобота говорить свое имя.

Другие известные обитатели зоопарка — бегемоты Юлька и Спутник, дававшие потомство практически каждый год.

В общей сложности у пары родилось десять бегемотиков, которые разъехались по зоопаркам и циркам всей страны.

В 2017 году  зоопарку исполнилось 80 лет.

На сегодняшний день в коллекции зоопарка 310 видов и 2781 экземпляров животных.

Для улучшения условий жизни животных сегодня проводятся реконструкции и строительство новых вольеров. Планируется комплектация пар для сохранения исчезающих видов. Также началось строительство новой ветеринарной клиники, оборудованной новой медицинской техникой.