Pierwszym, a zarazem jedynym, klubem piłkarskim w karierze Yamady był Urawa Red Diamonds, do którego trafił w 1994. W J1 League zadebiutował 27 kwietnia1994 w meczu z Shimizu S-Pulse. W 1999 spadł z Urawą do J2 League. Już po roku Urawa powróciła do pierwszej ligi. Z Urawą zdobył mistrzostwo Japonii w 2006, dwukrotnie Puchar Cesarza w 2005, 2006, Puchar J.League w 2004 oraz Azjatycką Ligę Mistrzów w 2007. W Urawie występował do 2013 i rozegrał w tym czasie w jej barwach 725 spotkań, w których strzelił 39 bramek.