Natural de Lisboa, filho de Maria Leocádia de Jesus e de Santos da Costa e Sá, irmão de [Manuel José Maria da Costa e Sá], Joaquim José da Costa e Sá estudou na Congregação do Oratório do Espírito Santo. Desconhece-se a situação profissional de Costa e Sá até ao ano de 1772, data em que foi incumbido, por nomeação especial, de prestar assistência ao seu antigo mestre, [António Pereira de Figueiredo], nos trabalhos de versão para latim dos novos Estatutos da Universidade de Coimbra e do Compêndio Histórico do Estado da Universidade de Coimbra, incluindo o seu Appendix. Posteriormente, por carta de 13 de janeiro de 1774, foi nomeado professor de Gramática Latina do Real Colégio dos Nobres, instituição na qual terá cessado funções em finais de 1777. Que o afastamento do Colégio não teria sido voluntário depreende-se de duas missivas dirigidas a [Frei Manuel do Cenáculo Villas-Boas], a primeira datada de 18 de dezembro do mesmo ano, da qual se deduz a perda da titularidade da cadeira que lecionava, e a segunda, de 10 de janeiro de 1780, em que confirma ter sido “lançado fora do Colégio”. Embora não apresente uma razão objetiva para a dispensa, a data e as considerações que tece em missivas anteriores situam o seu afastamento no quadro da nova realidade política que se estabelece com a subida ao trono de D. Maria I. Inocêncio da Silva (1860: IV, 97) transmite também a informação de que Costa e Sá estabelecera um colégio de educação em sua casa, embora se desconheçam as datas e as condições em que teria decorrido essa atividade.
Foi eleito sócio correspondente da Academia das Ciências de Lisboa, classe de Letras, a 4 de abril de 1781, tendo recitado, a 18 de julho do mesmo ano, Memória sobre a origem das Academias e sobre hum novo commentario das Poesias de Camões e, na sessão pública de 11 de Julho de 1799, Memoria sobre huma Talha, que appareceo cheia de Medalhas de Constancio e de Constantino em hum campo da Aldea de Almofaens, Termo de Barcellos. Em 1784, reassume oficialmente funções na docência ao ser nomeado professor régio de Gramática Latina, com serviço na rua Nova de Almada. Foi colaborador e, a partir de 1792, editor, com Francisco Luís Leal, do Jornal Enciclopédico. A 20 de novembro de 1798, foi provido no cargo de oficial da Secretaria de Estado dos Negócios da Marinha e Domínios Ultramarinos, tendo-se mantido nessas funções até ao término da sua vida. Durante este período foi também nomeado, por alvará de 7 de Dezembro de 1801, diretor Literário da Impressão Régia (futura Imprensa Nacional) juntamente com [Custódio José de Oliveira], Hipólito José da Costa e [Frei José Mariano da Conceição Veloso]. Entre as responsabilidades listadas e documentalmente comprovadas no requerimento de decretamento dos serviços de Costa e Sá, submetido pelos seus filhos, mencionam-se funções desempenhadas no gabinete do Real Palácio e certificam-se as suas diligências em prol do enriquecimento dos fundos literários da Biblioteca Real, em documento datado de agosto de 1797, assinado por [António Ribeiro dos Santos]. Desse processo constam ainda, entre outras, declarações assinadas por [João Guilherme Christiano Müller], [José Bonifácio de Andrade e Silva] e [Manuel do Cenáculo], que atestam os méritos de Costa e Sá como latinista, editor de clássicos e professor. Em 1802, veria Costa e Sá reconhecidos os seus serviços com a concessão do título de Cavaleiro-Fidalgo da Casa Real. No ano seguinte, na sequência do pedido de demissão de Tadeu Ferreira do cargo de administrador da Junta Económica e Administrativa da Impressão Régia, foi nomeado, por decreto de 5 de abril de 1803, com [Frei José Conceição Veloso] e [Custódio de Oliveira], para a direção desta Junta, incumbida do exercício de todas as obrigações e encargos inerentes ao lugar de Administrador. Costa e Sá viria a falecer dois meses depois, a 7 de junho do mesmo ano.
Em concomitância com o exercício destes cargos, a Costa e Sá foram oficialmente atribuídos serviços complementares, entre os quais, além da já referida assistência a [A. P. de Figueiredo], as traduções do processo verbal do “trono de justiça”, presidida por Luís XVI a 12 de novembro de 1774, e das Letras apostólicas da extensão do Jubileu universal, celebrado em Roma em 1775.
Entre as contribuições publicadas e manuscritas de Costa e Sá encontram-se obras de caráter metalinguístico e didático, destinadas ao ensino da língua latina e elaboradas em estreita acomodação ao espírito da reforma pombalina e ao influxo metodológico do novo método. Merecem igualmente menção as traduções anotadas e comentadas de autores clássicos (Fedro, Virgílio, Terêncio, Salústio, Cícero, Horácio, Cornélio Nepos, entre outros), aprovadas para as aulas públicas, que frequentemente incorporam as análises e comentários amplamente difundidos de proeminentes filólogos europeus, bem como a laboriosa atividade lexicográfica de composição, revisão e ampliação de dicionários, que resultou na publicação do Diccionario italiano e portuguez, (1773-4), do Diccionario das línguas franceza e portugueza (1786) e do Diccionario portuguez-francez-latino (1794). Iniciou também a composição do Novus Thesaurus ou Grande Lexicon latino e português, obra que, todavia, não chega a concluir.
Das suas publicações e manuscritos é igualmente percetível o seu interesse pela literatura portuguesa e pelas Antiguidades romanas, tendo deixado registo de escavações arqueológicas e descrições de achados, nomeadamente de moedas e inscrições. Manteve também uma expressiva correspondência com [Frei Manuel do Cenáculo Villas-Boas], a quem estava ligado por relações familiares por via do casamento com Ana do Nascimento Rosa de Oliveira Villas-Boas, sua prima. As suas cartas constituem-se como fontes para o conhecimento do ambiente político e cultural da época e, neste particular, oferecem informações particularmente relevantes para a reconstituição das dinâmicas que levaram à criação de fundos documentais das bibliotecas patrimoniais.