Giovanni Pierluigi prit le nom de sa ville natale, Palestrina (la Praeneste des Romains), à quarante kilomètres à l'est de Rome. Dans les Notizie dei maestri di cappella si di Rome che ultramontani 1600-1700", manuscrit conservé au Vatican, Giuseppe Ottavio Pittoni (1657-1743) prétend que le jeune Palestrina chantait dans les rues de Rome en vendant les produits de la ferme de ses parents. Il semble plutôt qu'à la mort de sa mère en 1536, son père, Sante Pierluigi, le fit admettre à la maîtrise de Sainte-Marie-Majeure, où sa présence est signalée le 25 octobre 1537. C'est ainsi qu'il aurait été recruté par le maître de choeur de Sainte-Marie-Majeure, qui, impressionné par la voix magnifique et le talent prononcé du garçon, s'occupa de son éducation musicale. Selon certaines sources, il aurait été élève de Jacques Arcadelt.
De 1544 à 1551, il occupa le poste d'organista e maestro di canto à la cathédrale de sa ville natale. En 1547, il épousa Lucrezia Gori, et en eut trois fils, Rudolfo, Angelo et Iginio, qui furent tous musiciens. En 1553-1554, il eut l'occasion de rencontrer un jeune homme prometteur, Roland de Lassus. Lorsque l'évêque de Palestrina, Giovanni Maria del Monte, devint pape sous le nom de Jules III, le musicien fut appelé à Rome comme maestro della Cappella Giulia, puis élevé à la très honorable situation de membre du conseil pontifical, en remerciement de la dédicace de son premier livre de messes en 1554. Un an plus tard, à la mort de Jules III, le pape Marcel II lui succéda et mourut à son tour au bout de trois semaines. Durant ce très court pontificat, il avait recommandé plus de simplicité et d'intelligibilité dans la musique polyphonique d'église. Ce voeu, en partie exaucé dans la Messe du Pape Marcel (Missa Papae Marcelli, 1555), fut confirmé un peu plus tard par le Concile de Trente (1562). Cette même année 1555, Palestrina abandonna sa charge de maître de chapelle pour le poste de chanteur à la Chapelle Sixtine.

Plafond de la Chapelle Sixtine (construite en 1473)

Palestrina présentant une de ses oeuvres au pape Jules III (cliquez sur cette image pour l'agrandir)

Dès son avènement en 1555, le successeur de Marcel II, Paul IV, exigea la démission de la chapelle pontificale de tous les chanteurs qui se seraient mariés ou auraient "commis" des madrigaux (fautes lourdes et inexcusables ;-))))))) ). Coupable des deux forfaits (comme son collègue Domenico Maria Ferrabosco), Palestrina accepta la direction de la Cantoria de Saint-Jean-de-Latran (1555-1560), puis celle de Sainte-Marie Majeure (1561-1568). Parallèlement, il enseigna la musique au séminaire de Rome, et organisa pendant l'été les festivités musicales du cardinal Hippolyte d'Este dans sa villa de Tivoli récemment achevée. En 1570, il reprit ses fonctions à la Capella Giulia avec des émoluments plus élevés. Quelques années plus tard, il fut chargé, sur l'ordre de Grégoire XIII, de la réforme du répertoire grégorien : tâche impossible en l'absence de documents originaux, et qui fut abandonnée après quelques années.
Les années 1570 furent noires pour Palestrina : pendant cette période il perdit sa femme, deux de ses trois fils (Rodolfo mourut le 20 novembre 1572) et ses deux frères dans les épidémies consécutives aux guerres. Il obtint alors du pape l'autorisation d'entrer dans les ordres. Mais, moins d'un an plus tard, il épousa une riche veuve, Virginia Dormoli, dont il géra avec succès le commerce de fourrure pendant au moins dix ans. S'ensuivit une période d'aisance, qui lui permit de publier régulièrement sa musique. C'est la période de ses plus belles oeuvres, et également celle où sa réputation est à son apogée. Il avait décidé de se retirer dans sa ville natale lorsqu'il mourut subitement. Une foule nombreuse assista à ses obsèques, et il fut enseveli à Saint-Pierre dans la Capella Nuova, démolie peu après lors des travaux de reconstruction de la basilique. Ses restes n'ont jamais pu être retrouvés.
Palestrina fut l'ami et le conseiller de la fondation de l'Oratoire, fondée quelques années plus tôt par Saint Philippe Neri pour lequel il composa quelque laudi et motets. Il semble avoir détesté le madrigaliste Luca Marenzio (qu'il avait pourtant fréquenté dans la Vertuosa compagnia dei musici romani, groupe comprenant également Giovanni de Macque), au point que Marenzio ne put exercer aucune fonction ecclésiastique.
Deux demi-frères de Palestrina, Bernardo et Silla, issus du remariage de son père vers 1537, devinrent également musiciens. Giovanni Pierluigi da Palestrina eut parmi ses élèves deux de ses fils, Iginio et Rodolfo, ainsi que Giovanni Maria Nanini (avec qui il fonda une école en 1571) et l'Espagnol Tomas Luis de Victoria. Ses oeuvres furent adaptées au luth par entre autres, l'Allemand Melchior Neusidler et l'Italien Giovanni Bassano.
Le style de Palestrina fut étudié au cours des siècles suivants par de nombreux théoriciens : Johann Joseph Fux en fit le fondement de son essai sur le contrepoint intitulé Gradus as Parnassum (1725). Sa connaissance limitée des oeuvres du maître italien, limitée, jointe à la célébrité du livre, est à l'origine d'une tradition pédagogique rigide peu en rapport avec le style de Palestrina. L'héritage de Palestrina n'est pas uniquement composé de quelques centaines d'oeuvres musicales : vers 1588, il fonda à Rome la Vertuosa Compagnia, première association pour la défense des intérêts professionnels de musiciens. Cette associaciation est à l'origine de la Congregazione di Santa Cecilia, qui donna naissance, au XIXè s., à l'Accademia di Santa Cecilia.