Il potere in Sicilia fu sempre esercitato autonomamente, anche se, in linea teorica, esso dipendeva dagli Aghlabidi  prima e poi dagli Fatimidi, nei primi anni del X secolo. Quando questi si trasferirono in Egitto, la conduzione della Sicilia fu affidata ai loro fedeli emissari Kalbiti.
Nella capitale, Palermo, risiedeva l’Emiro, che dirigeva l'esercito, l'amministrazione, la giustizia e poteva battere moneta. In più poteva nominare i governatori delle città più grandi, i principali giudici (qādī) e gli arbitri per dirimere le controversie fra privati (hakam).
Le etnie presenti nell’isola erano quella araba, quella berbera e quella persiana, raramente turca, di provenienza centro-asiatica.
Per amministrare la Sicilia, gli arabi la divisero in tre zone dette “valli”: la Val di Mazara, che comprendeva la zona occidentale; la Val Dèmone (dall’antica città di Dèmena)  che com­prendeva la zona nordorientale e la Val di Noto, che comprendeva la zona sud-orientale. Queste erano governate da kadì (in dialetto «gaìti»), che sottostavano all’emiro che soggiornava a Palermo. Proprio per essere il capoluogo siciliano, la città conobbe, in questo periodo, un grande sviluppo, raggiungendo una popolazione più grande di trecentomila abitanti.
Sempre a causa dell’amministrazione della Sicilia, i siciliani vennero divisi in classi di diversa tipologia:
indipendente, che conservava i vecchi ordinamenti;
tributaria, che pagava la «gezia»;
vassalla, o «dsimmi» assoggettata dalla conquista;
servi della gleba  o «memluk», legati ai latifondi che coltivavano.

Nonostante quello che si può pensare, i musulmani in Sicilia non perseguirono i cristiani, né tentarono di islamizzarli direttamente. Ai siciliani applicarono lo statuto giuridico della dhimma, consentendo loro, in ogni caso,  il culto in forma privata e nelle chiese già esistenti.
Essi si insediarono stabilmente in Sicilia, sostenuti, soprattutto, da una consistente immigrazione dal Nord Africa e da una certa opera di islamizzazione delle popolazioni, per lo più nella zona occidentale dell'isola. Questa islamizzazione non cancellò, comunque, come detto, nè l'elemento greco-latino, che rimase prevalente, né l’importante peso delle comunità ebraiche, (che lasciarono l'isola per deliberazione spagnola, molti secoli dopo).