O primeiro jogo oficial do novo time foi contra a Portuguesa Santista, que acabou em vitória da equipe reestreante por 3x2, gols de Rui, Antoninho e Carrazo. Apesar do bom início, no primeiro Paulista que disputou, o São Paulo não saiu de um nono lugar.
A falta de dinheiro voltou a rondar o clube que, com poucos sócios, não tinha nem campo, nem concentração - os jogadores se dividiam entre a torre da Igreja da Consolação e a casa do presidente do clube, monsenhor Bastos. Felizmente, nesta época, o ainda desconhecido Vicente Feola aceitou treinar o time do São Paulo.
Em 1938, o tricolor, finalmente conseguiu arranjar um campo fixo ao se unir com o Estudantes, time da Mooca, que se encontrava numa situação financeira ruim. O primeiro grande reforço da equipe foi Leônidas da Silva, o Diamante Negro, comprado do Flamengo. O jogador foi responsável por uma das grandes fases do time.
Na década de 50, veio finalmente o Morumbi. Com a ajuda do prefeito Fábio Prado e de uma construtora, o São Paulo conseguiu recursos para erguer o estádio. A primeira partida no Morumbi foi disputada em 25 de janeiro de 1960, com o estádio ainda inacabado. O tricolor saiu vitorioso por 1 x 0 com um gol de Peixinho.
O primeiro grande título só veio em 1977, com a conquista do Campeonato Brasileiro, feito repetido em 86 e 91. Além destes, foram 22 títulos estaduais, três Libertadores (1992, 1993 e 2005) e três Mundiais (1992, 1993 e 2005).