Nacido en 1943 en Draveil, a los siete años ya declara que quiere hacer cine de y su madre le compra una cámara fotográfica. Más tarde entra en la École de Vaugirard y en el IDHEC. Una vez acabados sus estudios se mete por casualidad de asistente de spots industriales. Con más de 500 anuncios, Annaud se convierte en un especialsita en contar de forma breve y eficaz las historias.

El servicio militar le obliga a viajar a Camerún, donde conocer a fondo África, un cúmulo de sensaciones que plasmará en su primer film, La Victorie en Chantant, un fracaso de público, pero un éxito para la crítica y más tarde, en 1977, una sorpresa al ganar el Premio Oscar de la Academia americana.

Con el film El Cabezazo, de 1979, Jean-Jacques Annaud se convierte en uno de los cineastas franceses más prometedores de la época. Le siguieron tres películas un tanto peculiares, como En Busca del Fuego, que plasma la angustia de la prehistoria que vivió en África, El Nombre de la Rosa, basada en la novela de Umberto Eco, y El Oso, donde demustra que los humanos no tenemos muchas diferencias con el resto de los animales.

Annaud se convierte en un cineasta mundialmente conocido, las majors americanas lo reclaman, y en 1991 escoje la historia que le ofrece un productor francés, basada en la novela de Marguerite Duras, y titulada El Amante.

Posteriormente dirigió los films Las Alas del Coraje, con Val Kilmer, Siete Años en el Tibet, con Brad Pitt, y Enemigo a las Puertas, con Ed Harris, Joseph Fiennes, y Jud Law.