In 1981 ging Yoshida naar de Morioka Commercial High School, waar hij in het schoolteam voetbalde. Nadat hij in 1984 afstudeerde, ging Yoshida spelen voor Furukawa Electric, de voorloper van JEF United Ichihara. Met deze club werd hij in 1985/86 kampioen van Japan. Yoshida veroverde er in 1986 de JSL Cup. In 11 jaar speelde hij er 126 competitiewedstrijden en scoorde 2 goals. Hij tekende in 1995 bij Brummell Sendai. Yoshida beëindigde zijn spelersloopbaan in 1997.
