Enfant, Tōshi Yoshida contracta la poliomyélite, qui le paralysa d'une jambe. Ce handicap le handicapa toute sa vie. L'autre influence, plus importante encore, fut son père, Hiroshi Yoshida. Comme l'indique l'ouvrage « Un héritage japonais : quatre générations d'artistes de la famille Yoshida » : « La famille, ce rempart contre les épreuves professionnelles et les tribulations sociales, n'offrit à Tōshi qu'un réconfort partiel. Son père, qui était aussi son professeur et son critique le plus ardent, chercha à façonner Tōshi et son art à l'image de lui-même et de son naturalisme si reconnu. […] Ce n'est qu'à la mort d'Hiroshi en 1950 que Tōshi s'émancipa quelque peu du patriarche et commença à explorer un style plus expressif. » Et : « Dans tous ses styles et pour tous ses sujets, Tōshi privilégiait les formes naturelles et les manières de représenter qui respirent la sérénité. » (op. cit., p. 73).