Albahari se je rodil leta 1948 v kosovski Peći. Njegova prva knjiga, zbirka zgodb Porodično vreme (Družinski čas), je izšla leta 1973, pet let kasneje je izšel njegov prvi roman Sudija Dimitrijević (Sodnik Dimitrijević). Je avtor več romanov in zbirk zgodb, njegove knjige so prevedene v 21 jezikov. Prevedel je številna dela ameriških, britanskih, avstralskih in kanadskih pisateljev, med njimi Saula Bellowa, Isaaca Bashevisa Singerja, Vladimirja Nabokova, Margaret Atwood, Sama Sheparda in drugih. Med letoma 1973 in 1994 je delal v uredništvih več beograjskih ter novosadskih revij in založb. Med literarnimi priznanji, ki jih je prejel, velja omeniti Andrićevo nagrado, nagradi Stanislava Vinaverja in Branka Čopića, nagrado NIN za najboljši roman leta in mednarodni nagradi Balkanika in Most-Berlin.

Leta 2012 je na mednarodnem literarnem festivalu Vilenica prejel nagrado vilenica. Predsednik žirije Andrej Blatnik je v utemeljitvi nagrade Albaharijevo pisanje označil kot »prozo sprememb in praznine«. V njej je, kot je zapisal, veliko nedorečenega, prepuščenega bralcu. Temu namreč Albahari na pripovednem krožniku ne postreže z vsem, ampak ga stalno postavlja pred prekoračevanje mej in zapolnjevanje vrzeli, česar pa ne počne le z znotrajbesedilnimi izraznimi sredstvi, ampak tudi z izbiro kontekstov. Leta 2012 je v intervjuju za Dnevnik dejal: »Prijateljem, ki so me spraševali, kaj sem se naučil iz zen budizma, sem vedno rekel: naučil sem se, da je življenje čakanje na avtobus. Stojiš in čakaš, ni ti treba nenehno pogledovati, ali prihaja, ni se ti treba živcirati, ker ga še ni. Če zamuja, ga ne moreš pospešiti. Umiri se. Pride, ko pride.«

V slovenščino so prevedene tri njegove knjige – izbor zgodb Besede so nekaj drugega (Aleph, 2007), roman Vaba (Cankarjeva založba, 2008) ter roman Götz in Meyer (2013, Cankarjeva založba). sta, kul