A Associação Portuguesa de Esportes foi fundada no dia 14 de agosto de 1920. Neste dia, o Lusíadas F.C., a Associação 5 de Outubro, o Esport Club Lusitano, a Associação Atlética Marquês de Pombal e o Portugal Marinhense, se uniram para formar um único clube da colônia lusitana, capaz de disputar a primeira divisão do campeonato paulista.
A data da fusão dos cinco clubes foi escolhida a dedo. Neste dia, no século XIV, Portugal derrotou a Espanha na Batalha de Aljubarrota, marcando o primeiro passo para se desligar do Reino de Castela.
Em novembro de 1920, foi eleita a primeira diretoria, tendo Eugênio Torres de Lima como presidente. Escolher as cores do time foi fácil: verde e vermelha, as mesmas de Portugal. A Cruz de Avis, que simboliza as glórias lusitanas nas Cruzadas, foi adotada como o símbolo do novo clube.
A primeira sede da Portuguesa foi o Largo de São Francisco, depois a rua XI de Agosto, a XV de Novembro e por fim a Rua São Bento, onde viveu suas maiores glórias. O Canindé foi comprado do São Paulo Futebol Clube em 1956. O terreno era formado por vários lagos e, por causa das arquibancadas de madeira, o estádio ficou conhecido como "Ilha da Madeira". As construções do anel só terminaram em janeiro de 1972, durante a presidência de Oswaldo Teixeira Duarte, que acabou sendo homenageado dando nome ao Estádio do Canindé.
 

Em 1920, a Portuguesa se inscreveu na APEA para disputar o Campeonato Paulista. Como o número de participantes da Liga já estava fechado, a Portuguesa se associou ao Mackenzie, que estava com problemas financeiros, para participar do campeonato. Durante três anos a Lusa disputou o Campeonato Paulista com o nome Portuguesa-Mackenzie, união desfeita em 1923.

Na sua partida de estréia, a Lusa foi derrotada por 3 x 0 pelo São Bento. A primeira vitória do time viria no mesmo campeonato de 1920, por 4 x 2, contra o Paulistano de Friendereich.

Em 1935, a Portuguesa conquistou seu primeiro título, ao ser campeã paulista pela APEA. Repetiu a dose no ano seguinte e foi bi-campeã. Neste mesmo ano, teve pela primeira vez o artilheiro do campeonato: Carioca, com 19 gols.

Em 1940 a Lusa mudou seu nome para o atual Associação Portuguesa de Desportos. Em 51, o time ganhou mais um troféu: a Tri-Fita Azul, taça dada aos clubes brasileiros que conseguiam se manter invictos por mais de dez jogos no exterior.

Pelo time da Portuguesa passaram grandes jogadores: o maior deles foi Djalma Santos. A equipe campeã do Rio-São Paulo de 1952 que contava, além de Djalma, com Nininho, Pinga e Simão, também foi a mais marcante. Três anos depois, em 55, a Lusa voltou a conquistar o Rio-São Paulo, após uma goleada histórica de 8 x 0 sobre o Santos.

Em 1973, após 37 anos de jejum, a Portuguesa foi novamente campeã paulista junto com o Santos. Graças a um erro de matemática do juiz Armando Marques, a disputa de pênaltis na final do campeonato foi encerrada antes do resultado estar decidido. Para desfazer a confusão, a título foi dividido.

Depois de quatro passagens pela 2ª divisão do Campeonato Brasileiro (1979, 82, 83 e 87), a Portuguesa fez sua melhor campanha em 1996. Liderada pelo jovem atacante Rodrigo, a Lusa foi vice-campeã brasileira, perdendo o título para o Grêmio, com um gol aos 39 minutos do 2º tempo da final, no Estádio Olímpico.