Bien que les premières traces d'habitation remontent à l'époque chalcolithique, la ville de Samarra connaît son époque de gloire sous le califat des Abbassides. C'est grâce au choix du calife al-Mutasim (833-842), fils d'Harun al-Rashid, que la ville va devenir en 834 une capitale. Accompagné par une garde personnelle de 4000 Turcs, al-Mutasim s'installe en 836 en ce lieu qu'il baptise : "Surra man ra'a" ce qui signifie : "Heureux celui qui la voit". Huit califes vont se succéder à Samarra avant que la capitale ne redevienne Bagdad, un demi-siècle plus tard. La ville est alors abandonnée ; aujourd'hui, Samarra est une petite ville.
Le plus grand bâtisseur de Samarra reste le calife Jafar al-Mutawakkil (847-861). Il fait doubler la surface de la ville et se fait bâtir 18 résidences. A Samarra, les califes construisirent sans retenue : palais, jardins, maisons, mosquées, casernes s'étendent sur des dizaines d'hectares, aujourd'hui un des sites archéologiques les plus vastes du monde. A l'époque, la ville est construite en brique cuite, crue et en pisé : plus de 5700 bâtiments ont déjà été identifiés.
L'édifice le plus imposant de la ville est la mosquée d'al-Mutawakkil et son minaret hélicoïdal de 52 mètres de haut. C'est en admirant cet exceptionnel monument que les premiers voyageurs ont pensé que les ziggourats mésopotamiennes avaient des formes hélicoïdales. Cette assimilation a frappé l'esprit des Européens qui ont imaginé que la Tour de Babel avait aussi une forme hélicoïdale. La construction de la mosquée s'étale de 848 ou 849 à 852.
La connaissance des palais abbassides en Irak est largement due à la richesse du site de Samarra et de ses environs. Les archéologues ont dégagé sept palais califaux, en particulier celui du calife al-Mutasim, le al-Djausak Khakani construit de 836 à 838, autour d'un vaste bassin circulaire qui apportait de la fraîcheur et de la détente aux résidents.