Linna rakennettiin lähiseuduilta louhitusta ja kerätystä luonnonkivestä. Muurikivet ovat vaihtelevan näköisiä, sillä rakentamiseen kelpasi moni kivilaji. Muuraamiseen käytettyä kalkkilaastia varten louhittiin kalkkikiveä todennäköisesti Paltamon Melalahdesta. Linnojen ulkomuurit peitettiin usein ohuella kalkkilaastikerroksella, ja Kajaanin linnasta on säilynyt jäänteitä valkoisesta kalkkauksesta. Ikkunasyvennykset sen sijaan olivat punaiset.Vuonna 1619 valmistuneessa ensimmäisessä rakennusvaiheessa linnaan kuului kaksi pyöreää tykkitornia ja niiden välissä ollut yksikerroksinen ympärysmuuri. Linnassa oli lisäksi kaksi nelikulmaista patteria ja porttitorni pohjoisella portilla. Muurien sisäpuolella olleet rakennukset olivat puisia. Kehämuurin pituus oli noin 39 metriä, korkeus 9,6 metriä ja paksuus 3,6 metriä. Saarelle johti silta sekä pohjoisesta että etelästä. Pohjoinen silta oli 50 metriä ja eteläinen 91 metriä pitkä. Portit olivat puolustuksen heikkokohta, ja niille oli suunnattu ampuma-aukkoja. Porttien edessä oli nostosillat, joiden rakenteesta ei ole juurikaan jäänyt tietoja.Puiset asuintilat korvattiin myöhemmin kivitaloilla. Koska niihin haluttiin holvatut katot, taloihin muurattiin neljä seinää, vaikka ne olivatkin kiinni kehämuurissa. Kivitalot noudattivat parituvan mallia: niiden keskellä oli porstua, josta oli käynti kahteen tupaan. Kansliarakennus oli kaksikerroksinen, ja sen välipohja oli puurakenteinen. Ylempiin kerroksiin kuljettiin ulkoportaita pitkin. Huoneiden kiviseinät olivat valkoiseksi kalkitut. Komendantin tuvassa oli tiililattia, ja muissa huoneissa todennäköisesti lautalattia. Linnan pohjoismuuria vasten oli neljä huonetta, ruutikamari, tupa, porstua ja keittiö, jonka alla oli lisäksi kellari. Itäisen tornin toisessa kerroksessa oli vuodesta 1669 niin sanottu suuri sali.
