Caffieri naquit à Paris. Appartenant à la troisième génération d'une famille de sculpteurs et de bronziers italiens, qui s'était installée en France pendant la régence du cardinal Mazarin, il est le fils de Jacques Caffieri et le frère cadet du bronzier Philippe Caffieri. Il fut l'élève de Jean-Baptiste Lemoyne. Jean-Jacques remporte le prix de Rome en 1748 et passe quatre ans (de 1749 à 1753) à la Villa Médicis à Rome pour étudier l'art de l'antiquité. Pendant son séjour à Rome, il est également inspiré par l'art du Bernin.

À son retour à Paris, il devient sculpteur de Louis XV et fournit des dessins ornementaux pour la ferronnerie, notamment pour l'escalier du Palais-Royal.

Il entre à l'Académie Royale de Peinture et de Sculpture en France en 1757. Pour être accepté à l'Académie en 1757 (30 juillet), Caffieri avait présenté une figure en plâtre représentant une rivière, qu'il exposa au salon la même année. Le fleuve est représenté par un vieillard nu, assis sur une urne d'où s'écoule l'eau. La main gauche s'appuie sur une rame, la droite prend le bord de l'urne. La tête couronnée est tournée vers la droite.

Jean-Jacques Caffieri fait preuve d'une grande facilité d'exécution : moins de deux ans après l'approbation du modèle en plâtre, il présente le marbre comme œuvre de réception le 28 avril 1759. Ce marbre est toujours visible dans la galerie des œuvres de réception du Louvre.

Il s'est cependant fait connaître par une série de portraits-bustes de contemporains comme Madame du Barry, Pierre Corneille, Thomas Corneille, Philippe Quinault, Jean de la Fontaine et Jean-Philippe Rameau et de célèbres dramaturges du passé. Pour avoir fait don de bustes d'acteurs et de dramaturges à la Comédie Française, Jean-Jacques Caffieri, grand amateur de théâtre, a obtenu une entrée gratuite à vie. Son habitude de faire des moulages de ses sculptures en marbre et de les donner à des institutions fut fortuite, car de nombreux marbres de Caffieri furent perdus dans un incendie en 1761.

Caffieri insistait sur la fidélité absolue aux caractéristiques du modèle, et son talent consistait à rendre ces caractéristiques vivantes. Il a su rendre la gentillesse du chanoine Pingre, astronome, ainsi que le visage farouche du docteur Borie. Le philosophe et critique d'art français Denis Diderot a déclaré que le docteur Borie de Caffieri était "assez ressemblant pour faire mourir de peur un malade".

Parmi ses élèves figurait Jean-Joseph Foucou.