杨五郎出家的原因主要有以下几点：
家族罪孽：
杨五郎上了五台山后，智聪禅师和他大谈佛经，并指出杨家虽有功于社稷，但在战场上杀戮太重，以至遭受灭顶之灾。智聪禅师劝五郎全心修佛，减轻罪孽。
寻求内心平静：
杨五郎的个人经历，可能包括亲人去世、生活困苦等，使他认识到人生的无常，从而选择出家寻求内心的平静。
传承杨家武艺：
为了免一身武艺失传，杨五郎将杨家棍、杨家刀、杨家三十六路梨花枪等杨家传统武术传于杨家子弟，并在此基础上发展了其他的僧人加入，为五台山培养了一批护院武僧。
综合以上几点，杨五郎出家既是为了减轻家族罪孽，也是为了寻求内心的平静，并将杨家武艺传承下去。