Posjeduje preko 640 arhivskih fondova i zbirki, od čega je 229 proglašeno Nacionalnim spomenikom Bosne i Hercegovine, kao i rariteti iz arhivske biblioteke. Uviđajući neophodnost, značaj i važnost jedne arhivske ustanove za grad Sarajevo, kao centra cjelokupnog političkog, ekonomskog i kulturnog života, Narodni odbor grada Sarajeva je, po ugledu na slične ustanove koje su već postojale u Beogradu,
Zagrebu i Ljubljani, predložio osnivanje Arhiva. Odluku o osnivanju Arhiva, koja je donesena pod brojem I/6491, donio je Narodni odbor grada Sarajeva 3. Odluka je stupila na snagu objavljivanjem u Službenom listu Narodne Republike Bosne i Hercegovine br. 20 od 20. maja iste godine. Arhiv je osnovan kao ustanova čiji je zadatak bio da sakuplja, sređuje, čuva i omogućava proučavanje arhivskog materijala koji se odnosi na život i razvitak, kao i na političku, kulturnu i privrednu prošlost grada Sarajeva. Ozbiljnije pripreme za zvaničan početak rada Arhiva započele su još 7. januara 1948. godine u sobi broj 106 Gradskog narodnog odbora. Arhiv je tako prvo bio smješten u jednoj sobi, zatim u dvije manje tavanske prostorije veličine 40 kvadratnih metara u zgradi Gradske vijećnice. Početak rada je bio skopčan sa mnogim poteškoćama zbog nedostatka adekvatnog prostora za rad i stručnog kadra. Na samom početku Arhiv je djelovao samo na području grada Sarajeva, ali je vremenom prerastao u regionalnu arhivsku ustanovu u čijoj je nadležnosti vršenje arhivske djelatnosti na široj teritoriji. Sve do 1950. godine radilo se uglavnom na pronalaženju, evidentiranju i prikupljanju arhivske građe koja se nalazila na raznim mjestima. Tada je najvažnije bilo preuzeti dokumente u Arhiv da ne bi bili uništeni i da bi bili sačuvani. 1951. godine imenovan je upravnik Arhiva, nakon čega je počeo djelovati kao samostalna institucija. Tada je prvi put utvrđena i organizaciona struktura i zasnovan stalni radni odnos sa određenim brojem radnika. Obilje arhivske građe koja je do tada prikupljena i zadaci koji su stajali pred arhivom na sređivanju i obradi prikupljene građe bili su u velikom nesrazmjeru sa brojem uposlenika koji su radili. Krajem 1952. godine Arhivu je dodijeljeno nešto više prostora za rad, međutim nedovoljno za ogroman priliv nove građe. Zbog toga Narodni odbor grada 1953. godine dodjeljuje Arhivu polovinu zgrade tadašnjeg Muzeja grada Sarajeva u ulici Svetozara Markovića 50. Arhivu je dodijeljeno desetak manjih i većih prostorija za rad i smještaj arhivske građe, čija je površina iznosila oko 250 kvadratnih metara, ali koje nisu bile podesne za smještaj i čuvanje jer u njima arhivska građa nije bila dovoljno zaštićena. Godine 1966. Arhiv je dobio prostorije u zgradi tadašnjeg Prirodno-matematičnog fakulteta u ulici Maršala Tita br. 112. Ni ove prostorije nisu bile dovoljne za potrebe Arhiva jer nisu omogućavale dalji razvoj i izvršavanje obaveza koje su mu stavljene u zadatak. Čuvanje i zaštita arhivske građe, kao i druga pitanja iz rada arhivske službe uopšte, tada su već dobrim dijelom bili zakonski regulirani. Skupština NRBiH donijela je 1962. godine Zakon o arhivima, a 1965. godine su izvršene izmjene i dopune tog zakona kojim su posebno naglašene obaveze imalaca registraturskog materijala da isti čuvaju i stručno održavaju. Također, 1964. godine, na sjednici od 6. februara te godine, Skupština sreza Sarajevo, u sporazumu sa Gradskim vijećem grada Sarajeva, donosi rješenje o prenosu prava osnivača nekih ustanova iz oblasti kulture (među kojima i Arhiva) na Gradsko vijeće grada Sarajeva, čime prestaje da važi rješenje o prenosu prava osnivača iz oblasti školstva, prosvjete i kulture iz nadležnosti Narodnog odbora sreza na narodne odbore opštine. Posebno je bila teška situacija sa prostorom za smještaj arhivske građe, jer je njen najveći dio bio smješten u zgradi Hanikaha (koja je bila jedna od najstarijih građevina u gradu, a koju je Arhiv napustio tek u decembru 1990. godine kada je arhivska građa preseljena u depo na Vrbanjušu, današnja Čadordžina ulica br. 90). Problem smještaja građe nije zadovoljavajuće riješen ni slijedeće, 1967. godine, kada su Arhivu dodijeljene također neadekvatne podrumske prostorije u zgradi Skupštine opštine Centar. Arhiv je poslije 1972. godine brže mijenjao kadrovsku strukturu. Dolazili su novi kadrovi koji su imali adekvatniju školsku spremu, a užu specijalnost iz arhivistike sticali su iskustvom u radu, usavršavanjem na tečajevima i seminarima, uglavnom onim koji su organizovani pri Arhivu Srbije, ali i kroz savjetovanja koja je organiziralo Društvo arhivskih radnika Bosne i Hercegovine, kao i Društvo arhivskih radnika Jugoslavije. Značajan korak u pogledu osiguravanja povoljnijih uslova za rad Arhiva, prvenstveno uposlenika, učinjen je 1973. Skupština opštine Centar dodijelila je je Arhivu zgradu u Koturovoj ulici br. 3. Poslije temeljite adaptacije u zgradu su smještene sve službe Arhiva, a bolje je smješten i dio arhivske građe (priručni depo za građu koja se sređuje i obrađuje, depoi u podrumu). U junu mjesecu 1975. godine Arhiv grada Sarajeva mijenja ime i od tada nosi naziv Istorijski arhiv Sarajevo. Tek 1978. godine, uz podršku Skupštine grada, obezbijeđen je i adaptiran depo (zamišljen i kao sklonište) od oko 200 kvadratnih metara u tadašnjoj ulici Vase Miskina br. 13, sada ulica Ferhadija (u taj prostor preseljena je građa iz podruma Skupštine opštine Centar). Iako je time učinjeno mnogo na adekvatnoj zaštiti, ostali su uzaludni napori za osiguravanje tehničkih sredstava (oprašivanje, osiguravanje od vlage, dezinfekcija, kopiranje, konzervacija itd). Ovaj depo – atomsko sklonište bio je podložan poplavama. U nekoliko navrata su poplave bile takve da je stradao dio arhivske građe. Zbog toga su vršeni uglavnom manji zahvati (zbog nedostatka finansijskih sredstava), da bi spriječili poplave, ali taj prostor do danas nije adekvatno sređen. Sredinom 1986. godine Gradska komisija za obrazovanje, kulturu i nauku je proglasila Arhiv Radnom Organizacijom od posebnog društvenog interesa. Tokom nedavnih ratnih događanja (1992-1995.) Arhiv je uspio sačuvati cjelokupnu arhivsku građu koja se nalazila u njegovom posjedu, zahvaljujući u prvom redu njegovim radnicima. Zgrada Arhiva je u maju 1992. godine bila i pogođena granatom. Za vrijeme ratnih dejstava Arhiv nije prestajao sa radom, tako da je u ovom periodu preuzeo arhivsku građu od 34 registrature. Odlukom Skupštine Kantona Sarajevo od 24. jula 1997. godine Kanton preuzima prava osnivača JU Istorijiski arhiv Sarajevo. Upravnu zgradu Arhiva su poslije rata, 1999. godine preselili u novi, mnogo manji prostor, u ulici Alipašina 19, gdje se i sada nalazi, a koja ne odgovara stvarnim potrebama. Osim što je prostor upravne zgrade mali i nefunkcionalan, arhivska građa je na tri lokacije, što u velikoj mjeri otežava normalan i efikasan rad. Trenutna organizaciona šema Arhiva je:
1. Odsjek za opće-pravne poslove i zaštitu građe izvan arhiva:
1.1. Služba za opće-pravne poslove;
1.2. Služba za stručni nadzor i zaštitu arhivske i registraturske građe u registraturama;
2. Odsjek za smještaj, korištenje i tehničku zaštitu arhivske građe i knjižnog fonda (u sklopu kojeg je specijalna biblioteka Istorijskog arhiva Sarajevo);
3. Odsjek za sređivanje i obradu arhivske građe;
4. Odsjek za naučno-istraživačku, izdavačku i kulturno-obrazovnu i propagandnu djelatnost. Arhiv djeluje u skladu sa važećim Zakonom (Zakon o arhivskoj djelatnosti Kantona Sarajevo: Sl. novine Kantona Sarajevo br. 2/2000, izmjene i dopune Zakona u br. 3/05). Dok je Arhiv poslovao pod nazivom Arhiv grada Sarajeva vršio je nadzor na teritoriji grada Sarajeva, zatim Sreza Sarajevo i šire okoline. Jedan period je pokrivao i područje Srednje Bosne sa zeničkim i travničkim okrugom. godine ponovo počinje da radi Arhiv u Travniku koji je pokrivao područje zeničkog i travničkog regiona, a ovaj Arhiv od tada vrši nadzor nad 26 općina sarajevske regije. Od 1984. godine počinje sa radom Opštinski arhiv Foča kome je zajedno sa arhivskom građom sa tog područja Istorijski arhiv sarajevo predao i kompletnu opremu (arhivske kutije, željezne police i sl.), kao i, po tada utvrđenim ppdacima, nadzor nad ukupno 382 registrature na 6 općina Gornjedrinskog regiona. Do 1992. godine Istorijski arhiv Sarajevo pokrivao je svojom nadležnošću područje 10 općina grada Sarajeva kao i 10 općina vangradskog područja. Arhiv sada pokriva područje Kantona Sarajevo u kome su evidentirane 1753 registrature. JU Historijski arhiv Sarajevo, kako ova ugledna ustanova od 2009. nosi ime, ostao je i opstao kao jedna od središnjih institucija arhivske djelatnosti koja je nezaobilazna za proučavanje naše historije, kulture, ekonomije, graditeljstva i drugih ljudskih djelatnosti. Baština prikupljena i smještena u našim depoima neiscrpno je vrelo za istraživanje prošlosti, ali i temelj za razumijevanje sadašnjosti. Doprinos Arhiva ogleda se i u brojnim publikacijama i drugim izdanjima nastalim na osnovu podataka koje čuvamo, kao i u njegovoj izdavačkoj djelatnosti. Brojne izložbe, urađene na osnovu bogate i neponovljive arhivske građe, predstavljaju značajan segment kulturno-prosvjetne djelatnosti Arhiva, a priređivane su različitim prigodama (jubileji, sjećanja na događaje, datume, ljude i sl.). Kada bi sumirali dosadašnji, šezdesetpetogodišnji period postojanja i neprekidnog djelovanja Arhiva kroz suhoparni sistem brojeva, to bi izgledalo ovako: preko 100 ljudi je svako na svoj način dalo svoj doprinos da se prikupi 640 fondova i zbirki, odnosno preko 10000 dužnih metara arhivske građe; preko 21 700 ljudi je posredno ili neposredno koristilo podatke iz fondova i zbirki da bi ostvarili neko svoje pravo; oko 600 istraživača je razgledalo, proučavalo, istraživalo naše zbirke i fondove; organizovana je 34 izložba (samostalno ili u suradnji sa drugima); objavljeno je 28 knjiga (samostalno ili kao suizdavači); objavljeno preko 100 naučnih radova u raznim stručnim časopisima i konferencijama.