Il termine provincia, dopo gli ampiamenti del territorio della Repubblica tra la fine del III e il II secolo a.C., passò gradualmente a significare non più la sfera di competenza di un magistrato, ma il territorio sul quale questi esercitava i propri poteri, fuori dall'Italia.
L'organizzazione dei nuovi territori annessi alla res publica romana, veniva normalmente realizzata dal generale che li aveva conquistati, per mezzo di una lex provinciae ("legge della provincia" per la "redactio in formam provinciae" o "costituzione in forma di provincia"), emanata sulla base dei poteri che gli erano stati delegati con l'elezione alla carica. La legge doveva quindi essere ratificata dal Senato, che poteva inoltre inviare delle commissioni di legati con poteri consultivi.
La legge stabiliva la suddivisione in circoscrizioni amministrative (spesso denominate conventus) e il grado di autonomia delle città già esistenti. Non sempre tuttavia la legge seguiva immediatamente alla conquista, soprattutto per le province annesse in epoca più antica.
Le province erano governate da magistrati appositamente eletti (pretori) o da consoli o pretori di cui veniva prolungata la carica (prorogatio imperii o "prolungamento del comando": proconsoli e propretori), coadiuvati per l'amministrazione finanziaria da proquestori e da numerosi altri funzionari (cohors praetoria).
Le province si contrapposero, inizialmente in modo sfumato, al territorio dell'Italia. Nel periodo iniziale vennero considerate soprattutto territori di conquista e sottoposte a tributo (stipendium) e allo sfruttamento economico. Le condizioni dei sudditi erano tuttavia piuttosto varie, a seconda delle diverse condizioni di partenza e soprattutto nei casi in cui l'ampliamento territoriale era avvenuto in via pacifica, come per i testamenti regali che portarono all'acquisizione del regno di Pergamo, della Cirenaica, della Bitinia e dell'Egitto e nei quali si prevedeva il rispetto delle precedenti autonomie cittadine.
Le città conservarono in grado variabile la propria autonomia (spesso in relazione all'atteggiamento tenuto nei confronti del vincitore): civitates stipendiariae ("città stipendiarie") liberae ("libere"), o liberae et immunes ("libere ed esenti da imposta"), in entrambi i casi per concessione, sempre revocabile, da parte di Roma, o foederatae ("alleate") in forza di un patto. A queste si aggiunsero le colonie di cittadini romani o italici. L'organizzazione territoriale si articolava sulle città già esistenti, soprattutto nelle province orientali, mentre nelle province occidentali, dove le città erano più scarse, il territorio venne inizialmente articolato in distretti rurali, a fini essenzialmente tributari. La successiva fondazione sistematica di colonie e la concessione ad altre città dello status di municipio, favorì la romanizzazione dei territori conquistati.
Il governatore esercitava un potere assoluto (imperium) militare, amministrativo, finanziario e giuridico, sia penale che civile. La provincia era suddivisa in distretti giudiziari (conventus o diocesi), ciascuno con il proprio capoluogo: inizialmente si trattò delle tappe dell'itinerario che il governatore seguiva all'interno del territorio di sua competenza per esercitarvi le proprie funzioni giudiziarie.
All'inizio del proprio mandato, il governatore emanava un "editto provinciale", nel quale venivano fissati i modi della gestione delle proprie competenze, forse estensione ai cittadini romani residenti nella provincia del simile editto del pretore urbano.
Anche la proprietà del suolo e i modi dell'esazione tributaria variavano a seconda della situazione presente all'atto della conquista. Solo una parte del territorio veniva annessa direttamente come ager publicus populi romani e il suo sfruttamento era appaltato alle società di pubblicani (societates publicanorum), a cui più tardi venne appaltata anche la raccolta delle imposte.
A partire dalla seconda metà del II secolo a.C. l'iniziale linea politica di conservazione dello status quo e di neutralità formale viene progressivamente a modificarsi, in particolare in relazione con le lotte politiche romane e con il desiderio dei contendenti di creare un centro di potere personale attraverso il governo provinciale.
Durante le conquiste di Cesare (58-51 a.C.), le esistenti province della Gallia Transalpina e Cisalpina erano state riunite sotto il suo comando, e vi si erano aggiunti man mano i territori conquistati della cosiddetta Gallia Comata. Le province galliche furono riorganizzate solo sotto Augusto, tra il 27 e il 16 a.C..
L'Illirico (Illyricum), analogamente alla Macedonia, era stato diviso in tre "repubbliche" formalmente indipendenti nel 168 a.C.. La Dalmazia, dopo una serie di lotte condotte a partire dalla metà del II secolo a.C., si era arresa a Cesare nel 46 a.C.. Una nuova provincia sarà creata solo nel 27 a.C. da Augusto. Anche la Grecia sarà costituita come provincia separata con la riforma augustea (Acaia).
In Palestina Pompeo mise fine nel 63 a.C. al regno di Giudea degli Asmonei, mentre Ircano II governò come "etnarca" e "sommo sacerdote". Governarono quindi la Giudea Erode Antipatro, Erode il Grande, che riebbe il titolo di re, e i tre figli di quest'ultimo, Erode Archelao, Erode Antipa ed Erode Filippo.
Dopo la battaglia di Tapso (46 a.C.) il regno di Numidia fu suddiviso tra il regno di Mauretania e la nuova provincia dell'Africa Nova, mentre la vecchia provincia d'Africa prese il nome di Africa Vetus. Le due province furono nuovamente riunite sotto Augusto, riprendendo la denominazione ufficiale di "Africa" o anche "Africa Proconsolare". Il regno di Mauretania, lasciato in eredità nel 33 a.C. allo stato romano dal re Bocco II, venne in seguito assegnato nel 25 a.C. al re Giuba II, della famiglia reale numida, e rimase quindi formalmente indipendente fino al 40 d.C.