Les MCs Mr. Funke et DoltAll Dupré font la rencontre du disc jockey Lord Jazz pendant leurs études à l’Université Shaw3. Un ami de Doitall les présente au producteur Marley Marl, qui, impressionné par leur flow, les invite par la suite à venir enregistrer dans son propre studio, avec l’aide de K-Def.
Le premier album du groupe, Here Come the Lords, duquel est extrait leur titre phare, Chief Rocka, est publié en 1993 et rencontre un succès honorable. Avant même la publication de l’album, les trois singles — Psycho, Funky Child, et Chief Rocka — qui y sont extraits se placent dans les classements musicaux, L’album atteint la 13e place des R&B Albums et 66e place du Billboard 2006. À la fin de 1993, le groupe est récompensé au BET Awards dans la catégorie de « meilleur groupe rap de l’année »2. En 1994, le groupe compose et publie Keepers of the Funk, son deuxième album, qui comprend le single à succès Tic Toc7. George Clinton fait un featuring sur le single-titre Keepers of the Funk7. L’album atteint la 16e place des R&B Albums et 57e place du Billboard 2008. Keepers of the Funk est positivement accueilli bien qu’il n’atteigne pas le succès similaire à celui de leur dernier opus.
Le groupe se sépare en 1995, avant de se reformer en 19999. Ils publient leur troisième album, Resurrection le 6 avril 19991, après quatre ans d’inactivité.
En 2007, Lords of the Underground fait paraître son quatrième album, House of Lord. Une tournée internationale pour la promotion de l’album est ensuite lancée, incluant des dates européennes entre juin et août 200710. En 2011, le groupe annonce la parution, sans communiquer de date, d’un cinquième album fêtant sa vingtième année d’existence10. Le 8 juillet 2014, le groupe fait paraître une compilation au label Pirate Recordings, Lotug 20: The 20th Anniversary Collection.