Dans ce type de phrase, il faut chercher le mot en rapport d'idée avec le participe passé. On ne vous a pas prêté un tiers, mais des livres. Par conséquent, comme Pascaline vous le suggère, vous accordez "prêtés" avec "livres" :
"le tiers des livres que tu m'as prêtés"