yum history

cuando instalas un paquete suele tener dependencias, ejemplo:

yum install git requiere instalar también perl-Error y perl-Git pero yum remove git sólo desinstalará git.

el comando yum history es lo que necesitamos:

yum history list git
Complementos cargados:langpacks
ID | Linea de comandos | Día y hora | Acción(es) | Modific
-------------------------------------------------------------------------------
752 | install git | 2014-12-27 17:06 | Install | 3

y para borrarlo a él y las dependencias que instaló con él, tan sencillo como:

yum history undo 752