La mise en abyme désigne la relation de similitude qu'entretient tout élément, tout fragment avec l'œuvre qui l'inclut, principe souvent décrit de façon imagée comme un effet de miroir. Cet emboîtement s'apparente à une auto-citation.
Le concept, qui s'est imposé à grande échelle depuis sa prise en charge par le Nouveau Roman, appartient à la vaste problématique de la réflexivité (autoreprésentation, autoréférence) et est un des outils de base de la métafiction, cette écriture littéraire qui intériorise un commentaire sur son écriture mais aussi sur sa lecture (ou sur sa représentation dans le cas du métathéâtre).
André Gide illustre son emprunt à l'héraldique par un exemple littéraire principal, la scène des comédiens dans Hamlet (II, 3), une scène de théâtre dans le théâtre, et par des exemples picturaux, quand apparaissent dans les tableaux des jeux de miroirs reflétant la scène déjà représentée.
Victor Hugo avait cependant en 1864 décrit cette intuition dans son William Shakespeare : « trente-quatre pièces sur trente-six offrent à l'observation (...) une double action qui traverse le drame et le reflète en petit ».
Selon Lucien Dällenbach à qui l'on doit la description la plus précise du procédé (Le Récit spéculaire, 1977), la mise en abyme se caractérise par son « objet », son « amplitude » et sa « portée ».
En ce qui concerne d'abord l'objet, deux éléments du texte peuvent être mis en abyme. La réflexion de l'énoncé est le retour, le rappel du « résultat d'un acte de production ». La mise en abyme est fictionnelle (« dimension référentielle d'histoire racontée ») ou textuelle (« aspect littéral d'organisation signifiante »). Au contraire, la réflexion de l'énonciation consiste dans « la mise en abyme du contexte ou des acteurs de la production et / ou de la réception ».
Deuxièmement, il existe trois figures essentielles de l'amplitude : la réduplication simple, qui consiste en un rapport de similitude élémentaire ; la réduplication à l'infini, dans laquelle le fragment inclus inclut lui-même un fragment ayant cette relation de similitude ; et la réduplication répétée ou spécieuse, dans laquelle le fragment est censé inclure l'œuvre qui l'inclut.
Quant à la portée, il existe trois sortes de mises en abyme, reflétant trois formes de discordance entre l'ordre de l'histoire (diégèse) et celui du récit (narration) : la mise en abyme prospective, qui « réfléchit avant terme l'histoire à venir » ; la mise en abyme rétrospective, qui « réfléchit après coup l'histoire accomplie » ; la mise en abyme rétro-prospective, qui « réfléchit l'histoire en découvrant les événements antérieurs et postérieurs à son point d'ancrage dans le récit ».
Jean Ricardou décrivait à l'aide de plusieurs exemples la mise en abyme dans Problèmes du Nouveau Roman (1967) et Le Nouveau Roman (1973). Dans Problèmes du Nouveau Roman il posait les bases de ses réflexions ultérieures sur le sujet dans trois paragraphes : « La mise en abyme », « Contestations par la mise en abyme », « Révélations par la mise en abyme ». Mais dans la nouvelle édition de Le Nouveau Roman parue en 1990, il précise que les « rectifications minimes » qu'il tenait à apporter sont « principalement, au chapitre trois, à la suite des remarques d'un spécialiste, davantage de précautions dans le diagnostic de "mise en abyme" (...). »
En effet, entre temps, en 1977, est paru l'ouvrage de Lucien Dällenbach, qui comprenait également un panorama historique intitulé *Variations sur un concept+, une *Typologie du récit spéculaire+ et quelques «Perspectives diachroniques» consacrées au Nouveau Roman et au Nouveau Nouveau Roman.
Jean Ricardou ouvre d'un jeu de mots (abymé : « mis en abyme » et abîmé, au sens de l’anglais spoiled) sa propre description, qu'il intitule « le récit abymé ». C'est en effet dans le chapitre de son ouvrage sur Le Nouveau Roman consacré au « récit en procès » qu'il place sa description. Pour lui la mise en abyme relève de deux fonctions principales : la révélation et l'antithèse. La fonction de révélation fonctionne « d'une part de fonction générale (répétition) ; d'autre part selon des traits distincts (condensation, anticipation) ». La fonction antithétique, elle, est cette force qui « tend à briser l'unité métonymique du récit selon une stratification de récits métaphoriques. »
Lucien Dällenbach décrit la mise en abyme comme un « procédé de surcharge sémantique permettant au récit de se prendre pour thème ». Le résultat est la production d'un métatexte.
Mais comment peut-on caractériser une telle relation ? Selon Jean Ricardou, c'est un rapport d'opposition qui caractérise la relation entre l'enchâssant et l'enchâssé puisque la mise en relief de l'autoreprésentation produit l'affaiblissement du système de représentation : « Là où le sens domine, le texte tend à l'évanescence ; là où le texte domine, le sens tend au problématique. » (Nouveaux problèmes du roman, 1978). Jean Ricardou et Lucien Dällenbach perçoivent aussi le procédé en termes de contestation, surtout de la tradition mimétique de l'art. Jean Ricardou analyse la mise en abyme comme « la révolte structurelle d'un fragment du récit contre l'ensemble qui le contient » (Problèmes du Nouveau Roman).
Chloé Conant
Université de Limoges
Sur l'origine du procédé
Gide, André.– Journal 1889-1938.– Paris : Gallimard, 1948.
Gide, André.– Les faux-monnayeurs.– Paris : 1975.
Hugo, Victor.– William Shakespeare.– Paris : 1864.
Lafille, Pierre.– André Gide romancier.– Paris : Hachette, 1954.
Magny, Claude-Edmonde.– Histoire du roman français depuis 1918.– Paris : Seuil, 1950.
Sur la mise en abyme
Bal, Mieke.– Narratology. Inttroduction to the Theory of Narrative (transl.).– Toronto ; London : University of California Press, 1985.
Dällenbach, Lucien.– Le récit spéculaire. Essai sur la mise en abyme .– Paris : Seuil, 1977. The Mirror in the Text.– Cambridge : Polity Pres, 1989.
Févry, Michel.– La mise en abyme filmique.– Liège : CÉFAL, 2000.
Ricardou, Jean.– Le Nouveau Roman.– Paris : Seuil, 1973, 1990.
Ricardou, Jean.– Nouveaux problèmes du roman.– Paris : Seuil, 1978.
Ricardou, Jean.– Problèmes du Nouveau Roman.– Paris : Seuil, 1967.