Il territorio provinciale, con 7.520 kmq prevalentemente montuosi, è costituito da diversi massicci tra i quali spicca per dimensioni il Limbara. La litologia più abbondante è il granito, emblema della Gallura e che ha dato luogo a spettacolari tafoni come la Roccia dell'Orso, per citare la più nota, ma non mancano i calcari sia nella Nurra che nel Sassarese, dando luogo a spettacoli suggestivi quali le scogliere di Capo Caccia e le sezioni di Scala di Gioca; la carsificazione di questi calcari ha creato le celebri grotte di Nettuno ad Alghero. Le coste della provincia sono stremante variegate ed annoverano coste alte frastagliate, come quelle granitiche della Gallura o quelle calcaree della Nurra, e zone basse e sabbiose, come quelle del golfo dell'Asinara.

Tra le zone archeologiche più importanti le aree archeologiche di Alghero, l'area archeologica di Arzachena, l'altare prenuragico di Monte d'Accoddi, la valle dei nuraghi di Torralba; in provincia sono inoltre state trovate le prime tracce antropiche in Sardegna. Edifici di grande interesse sono le chiese romaniche di Tergu, di Ardara e la più nota basilica di Saccargia a Codrongianus, con i loro preziosi affreschi.

Il clima è mediterraneo, con estati calde e inverni miti, escursioni termiche modeste e precipitazioni scarse. Il principale corso d'acqua è il Coghinas, formato dalla confluenza nell'omonimo lago artificiale di due affluenti, mentre tra i laghi è da segnalare il lago di baratz, l'unico lago naturale della Sardegna.

La provincia è suddivisa nelle regioni storiche della Nurra, Anglona, Gallura, Meilogu, Goceano e le Baronie.