Ossip Mandelstam naît le 3 janvier 1891 à Varsovie dans une famille juive peu pratiquante.

Son père est un commerçant en maroquinerie et sa mère professeur de piano. Enfant, Ossip est élevé par des tuteurs et des gouvernantes. En 1900, il entre dans la très prestigieuse école Tenichev de Saint-Pétersbourg où il fait toute sa scolarité. En 1907, alors âgé de 17 ans, il part à Paris et devient étudiant à La Sorbonne où il suit notamment les cours de Joseph Bédier et d’Henri Bergson qui auront tous deux une grande influence sur lui. C’est au cours de cette même période qu’il découvre la poésie de Paul Verlaine. Dès septembre 1909, il quitte la capitale française pour aller étudier en Allemagne, à l’Université de Heidelberg. Il y découvre la littérature française ancienne mais également l’histoire de l’art. C’est à cette période qu’il publie ses premiers poèmes dans la revue Apollon.

En 1911, afin d’être admis à l’Université de Saint-Pétersbourg dont l’admission d’étudiants de confession juive est encore régie par des quotas, il décide de se faire baptiser selon le rite méthodiste-épiscopale. Il peut désormais y étudier la philosophie, jusqu’en 1917. Dès son retour en Russie, en 1911 donc, il devient membre de l’Atelier des Poètes, appelé également Guilde des poètes, fondé en 1911 par Nikolaï Goumilev et Sergueï Gorodetski. Cet atelier ainsi que les réunions qui en découlent visent à rassembler des poètes et écrivains souhaitant évoquer les diverses questions esthétiques et artistiques de leur époque. C’est au cours de ces rassemblements que naît le mouvement de l’acméisme qui rompt avec le symbolisme à travers la simplicité et la concision d’une écriture nouvelle. Ossip est alors proche d’Anna Akhmatova, Nikolaï Goumilev, Sergueï Gorodetski, Mikhaïl Kouzmine, Mikhaïl Zenkevitch, Gueorgui Ivanov et Vladimir Narbout. Ossip publie son premier recueil de textes en prose intitulé Pierre dès 1912, pour lequel il obtient une certaine reconnaissance.

Dans les années 1920, Mandelstam pourvoit à ses besoins en écrivant des livres pour enfants et en traduisant des œuvres d’Upton Sinclair, de Jules Romains, de Charles De Coster, entre autres.

En 1930, alors qu’il est de plus en plus suspecté « d’activité contre révolutionnaire », il décide de rejoindre l’Arménie où il écrit Voyage en Arménie. Il revient alors à la poésie après un silence de plus de cinq ans.

À l’automne 1933, il compose une épigramme contre Staline intitulée « Le Montagnard du Kremlin » qui lui vaut d’être arrêté en 1934. Sa femme, Nadejda Mandelstam, relate la nuit de son arrestation, en présence d’Anna Akhmatova, par les forces Guépéou dans son récit Souvenirs. Au total, une cinquantaine de manuscrits, lettres et feuillets est confisquée. Ossip est dès 7h du matin emmené de force à la Loubianka, alors quartier général du NKVD.

En refusant de renier son épigramme classée comme « document contre-révolutionnaire sans exemple », dans un acte désespéré de courage et d’audace, Ossip se veut conscient de la déportation qui l’attend. Contrairement à Nikolaï Goumilev en 1921, il évite l’exécution et est ainsi condamné à trois ans de relégation à Tcherdyne, dans la région de Perm dans l’Oural. Le 27 mai 1934, sa femme Nedejda est également convoquée à la Loubianka. Quelques jours jours après l’interrogatoire, dans la nuit du 3 au 4 juin, Ossip tente en vain de se suicider. Finalement, la sentence est quelque peu révisée et le poète désormais âgé de quarante-quatre ans peut lui-même choisir son lieu de relégation. Il choisit alors la ville de Voronej, « dans la région des Terres noires, en Russie centrale, à six cents kilomètres au sud de Moscou » où il arrive avec sa femme le 25 juin.

Il écrit à ses amis Anna Akhmatova et Boris Pasternak : « Je suppose que je ne devrais pas me plaindre. J’ai la chance de vivre dans un pays où la poésie compte. On tue des gens parce qu’ils en lisent, parce qu’ils en écrivent. »

Car si la poésie est importante alors en Russie, elle l’est surtout aux yeux d’Ossip qui rédige, au cœur des collines de Voronej, les Cahiers de Voronej, recueil de poèmes « d’une beauté et d’une force indicible » selon les mots d’Anna Akhmatova issus de Feuillet du Journal paru en 1957.

Affaibli par la fièvre typhoïde qui sévit alors à Voronej, Mandelstam meurt le 27 décembre 1938, à l’âge de 47 ans.

L’œuvre de Mandelstam a influencé de nombreux poètes, parmi lesquels Paul Celan qui lui dédie son recueil La Rose de personne, André du Bouchet ou Philippe Jaccottet et, parmi les plus jeunes, Serge Venturini qui lui dédie son premier livre.