Randjelovic nació en la localidad serbia de Leskovac, debutando como profesional en el Radnicki Nis. En verano de 2019 fichó por el Olympiacos griego, con el que se proclamó campeón de Liga y Copa en su primera temporada, en la que, además, debutó en competiciones europeas, disputando la fase de grupos de la Liga de Campeones y varias eliminatorias de la UEFA Europa League, jugando 31 partidos y marcando seis goles.

En el pasado curso 2020/21 repitió campeonato de Liga con Olympiacos, jugando otros 35 encuentros con los de El Pireo y disputando de nuevo partidos de las dos competiciones europeas. Sus buenas actuaciones le llevaron a debutar con la selección absoluta de Serbia, con la que ya había sido internacional en categorías inferiores habiendo disputado la Eurocopa sub-21 de 2019.