Nossa escola é o resultado de uma divisão da Getúlio Vargas. Até 1963, a Getúlio Vargas funcionava na Rua Piratininga no bairro do Brás, mas a necessidade de mais vagas no Ensino técnico, provocou o desmembramento desta unidade em outras duas escolas: o Ginásio Industrial Estadual de Vila Prudente, também chamada de “Getúlio Vargas” seção Vila Prudente e o Ginásio Industrial Estadual do Tatuapé, mais tarde conhecida como Martin Luther King. A Getúlio Vargas então, fica com os Cursos que hoje chamaríamos de Ensino Médio (na época chamados de Colegial) e as duas novas unidades, com os cursos do Fundamental II (na época chamados de Ginásio).
Para abrigar a escola da Vila Prudente, foi construído um novo prédio ao estilo “fábrica”, pois seu objetivo era abrigar oficinas de mecânica, elétrica, marcenaria, fundição, salas para encadernação, etc. O prédio em que a escola da Vila Prudente funciona é o mesmo de sua fundação e foi construído especialmente para abrigar a nova unidade.
Para os padrões da época, a escola estava instalada em local até certo ponto isolado e de difícil acesso. Isso porque ela se localizava na várzea do Ribeirão da Mooca que constantemente alagava (atualmente, este ribeirão se encontra embaixo de Av. Anhaia Mello). Por outro lado, estava distante da estação de trem do Ipiranga, o que exigia dos alunos uma boa caminhada.
Parte do mobiliário de nossa escola, especialmente os móveis da diretoria, foram produzidos na marcenaria da Getúlio Vargas, ainda no começo do século e mostram o grande capricho e habilidade que a escola procurava desenvolver em seus alunos. A própria marcenaria da Getúlio Vargas foi herdada por nossa escola que continuou a formar artífices ainda por muito tempo após a separação do Ginásio Industrial.
O Ginásio da Vila Prudente ainda oferecia os cursos de Mecânica e Reparo de Máquinas, Desenho Mecânico, Eletricidade e Reparo de Rádio-receptores, Marcenaria, além do curso extraordinário de Desenho e Pintura de Cartazes entre outros.
No final da década de 1960, o Regime Militar estava se consolidando no poder e a luta política se acirrava pautada por uma reação mais violenta por parte do regime. Era o ano de 1968 e no frenesi das cassações e combate à guerrilha, os órgãos de repressão torturam e provocam a morte do ex-sindicalista e então deputado cassado José da Rocha Mendes Filho. O governador do Estado naquela época era Roberto Costa de Abreu Sodré que, apesar de apoiar os militares admirava muito o deputado Rocha Mendes. Pretendendo homenagear o líder trabalhista e político de oposição morto pela repressão, “rebatiza” a escola com o nome de Ginásio Industrial José Rocha Mendes.
Dois anos mais tarde, é criado o Colégio Técnico Industrial de Vila Prudente, que passa a funcionar no mesmo prédio juntamente com o Ginásio Industrial.
Em meados da década de 70, termina a cisão entre o ginásio e o colégio e é criado o Centro Estadual Interescolar José Rocha Mendes.
Em 1977 a última turma do ginásio é diplomada e em 1978, a escola passa a ser denominada Escola Estadual de Segundo Grau José Rocha Mendes, tornando-se uma unidade de formação de técnicos exclusivamente com nível secundário. Alguns anos mais tarde a escola finalmente recebe a denominação de ETESG José Rocha Mendes, muito mais familiar aos termos usados atualmente.