Première publication dans Études littéraires, vol. XX, n^o 1, 1987, pp. 63-73.

On considère généralement que la différence entre littérature cultivée et littérature triviale ou massive réside dans l’opposition entre originalité et stéréotypie. Il est vrai que cette opposition est schématique et réductrice ; il est sûr aussi qu’elle n’échappe pas à une imposition idéologique (peut-on croire que toute l’innovation soit d’un côté et toute la redondance de l’autre ?). Mais il reste au moins que la distinction ainsi posée correspond en gros aux conditions de production respectives des deux littératures. Du côté de la production restreinte, la logique du système commande une incessante recherche de la nouveauté. Du côté de la production triviale, la loi économique exige avant tout que les recettes éprouvées soient reconduites et entraînent des répétitions. Acceptons donc cette opposition comme telle au moment de scruter un genre qui, tout implanté qu’il soit dans le secteur de la grande production, n’est pas sans lien avec l’autre réseau et occupe pour tout dire une position intermédiaire, une sorte de zone frontière.

Genre trivial dès l’origine, échappant en tout cas à la sphère de la littérature sérieuse, le roman policier fait office, pour tout un lectorat cultivé, de littérature de divertissement. On sait qu’il a, et peut-être de plus en plus, les faveurs d’un public intellectuel. Genre hypercodé par ailleurs, construit sur une suite de conventions, il joue en permanence de l’effet de surprise et tout spécialement à cet endroit critique qu’est la clôture de son récit. On voit ainsi combien sa « duplicité » est marquée. Elle est spécialement sensible dans le second aspect, qui a trait à la formule même. Certes, on pourra dire qu’il ne faut pas confondre, à cet égard, la structure d’énigme avec son habillage romanesque. Mais précisément, le choix que fait le genre de cette structure est ce qui fonde sa contradiction intime et tout autant notre question. Quelle que soit l’origine de la contradiction, c’est en celle-ci que prend source la problématique que nous voulons cerner.

En somme, le genre policier tire l’inédit de sa convention même et de la façon dont il la traite. C’est par le détour d’un usage singulier de ses règles génératives qu’il rejoint la loi distinctive gouvernant la grande littérature pour y adhérer à sa façon. Nous pensons ici à la solution de l’énigme et à tout ce qui, dans la narration, la prépare. Il y a d’abord la consigne voulant que cette solution soit, dans les limites du texte, surprenante : le nom du coupable est révélation. Mais il y a surtout qu’à l’intérieur du corpus des récits policiers, elle doit, autant que possible, figurer un écart, représenter une formule inusitée. Même s’ils se soutiennent et se renforcent, ces deux impératifs ne sont pas du même plan. Comparatif et relatif, le second garde un caractère largement implicite. C’est pourtant lui qui joue le rôle le plus déterminant dans la perception d’une originalité, cette originalité qui rapproche le genre des spécificités de la littérature de novation.

On peut pourtant hésiter à voir un réel effort de rupture dans les écarts recherchés par le genre trivial. Les formes de novation qu’il met en œuvre ne sont-elles pas elles-mêmes largement codifiées, donc aussi illusoires que prévisibles ? François Le Lionnais présentait naguère le récit d’énigme comme entièrement asservi à une combinatoire n’offrant qu’un nombre fini de possibilités¹. On conçoit dès lors qu’un auteur aussi inventif et aussi prolifique qu’Agatha Christie ait à peu près fait le tour des formules possibles. Chaque écrivain est susceptible d’épuiser de la même manière les ressources du système. Que dire alors de l’ensemble des auteurs qui ont contribué à la vie du genre et des innombrables récits qu’en un bon siècle ils ont mis sur le marché ? Tous réunis, ils ont dû faire plusieurs fois le tour des variations permises, même si certains écarts à valeur limite ─  tel le cas du narrateur criminel ─  ne sont représentés que par un nombre restreint d’occurrences dans la masse des fictions existantes. Si toutes les formules ont été employées, on peut se dire qu’il ne reste plus à ceux qui viennent qu’à tenter d’habiller de neuf des solutions usées.

Mais tout a-t-il été dit, en effet ? À qui observe le genre dans son ensemble et dans son évolution historique, il apparaît animé par une sorte de progrès continu. Et ce progrès est lui-même habité par une intentionnalité générale ─ la plupart du temps implicite ─ qui postule une recherche soutenue de l’originalité et de la rupture. À un premier plan, déjà relevé, la recherche opère sur la solution de l’énigme et ses « alentours » (par exemple, le rapport entre suspect et vrai coupable). Or, clairement, l’inédit de la solution, dans les meilleurs des cas, ne se limite pas à exploiter un répertoire de formules ou de variations. Les meilleurs textes font plus ; ils semblent reculer à chaque fois le seuil de ce qui a été déjà essayé et est désormais acquis.

Une tentation permanente de la surenchère, convertie en radicalité croissante, traverse et travaille le genre. Ainsi ce paradoxe en acte qu’est bien souvent la clé du problème voit-il son champ d’application ou d’exercice s’élargir de façon continue. Bien entendu, et nous le verrons plus loin, certaines formules inventives finissent par acquérir une stabilité et sont l’objet de reprises et variations nombreuses. Mais elles-mêmes peuvent encore faire l’objet d’agencements imprévus. Toutes proportions gardées, il y a similitude entre cette expérimentation constamment renouvelée sur les limites d’un code à laquelle se livrent les auteurs policiers et celle que les poètes mènent depuis longtemps sur la prosodie². Le dernier des « scandales » prosodiques n’est jamais l’ultime. La dernière trouvaille herméneutique est toujours en attente de la suivante et ne ferme pas la boucle.

Il est vrai que cette ouverture continûment assurée s’explique en partie par ce qui agit à un autre plan et qui participe également de la quête de l’original. Tout en maintenant la pratique d’une forme classique, le roman à l’anglaise comme horizon de permanence, le policier est en évolution depuis ses débuts. Ainsi sont apparus divers sous-genres tels que le thriller, le suspense, etc. Or, ce procès de diversification à hauteur de la formule globale n’est certainement pas étranger aux expérimentations sur la formule finale. Celles-ci sont vraisemblablement conjointes à celui-là dans la mesure où, on peut le supposer, toute usure des solutions finales incite au renouvellement de la formule générale. Ainsi et par hypothèse, on pourrait relever une concordance entre la généralisation d’une solution où l’enquêteur est le coupable et l’apparition d’un sous-genre qui fait de ce même coupable ou du suspect principal le substitut du détective en position de personnage central. Les deux procès seraient ainsi comme les deux faces inversées et complémentaires d’une même figure.

Il y aurait donc là deux tendances ou stratégies qui, en corrélation, agiraient sur le code en poussant sa logique à l’extrême et en repoussant de plus en plus loin la limite de ses possibilités. Avant de nous interroger sur la portée et la fonction de cette expérience des limites au sein de l’institution littéraire, nous voudrions donner une image rapide et concrète de la manière dont se développe la première de ces tendances.

Le corpus classique met en œuvre deux stratégies principales. La première s’instaure sur des écarts à la loi narrative, à la norme du récit d’énigme. La seconde opte pour des écarts à la loi sociale et morale. Dans un cas comme dans l’autre, il s’agit cependant de « levées de censure ». Il est vrai que la distinction entre les deux séries n’est pas entièrement rigide. Aussi voit-on Le Lionnais, dans son plaisant « Avant-projet de classification des structures du roman policier », confondre tous les procédés en un seul classement, plus proche à dire vrai d’un bricolage que d’une réelle catégorisation. En théorie toutefois les deux séries sont distinctes ; en pratique même, elles figurent deux traitements différents de la solution à l’énigme.

Partons des infractions à la norme en répétant qu’elles sont de deux ordres. Voici tout d’abord celles qui portent atteinte à la règle narrative. On sait que le récit policier se fonde sur une structure de rôles triangulaires opposant la victime, l’enquêteur et l’assassin. À ces trois acteurs ou actants, il faut dans bien des cas en ajouter un quatrième qui est le destinateur de l’enquête. En effet, la victime étant en général rayée du nombre des vivants, un autre personnage, par exemple un allié de cette victime, peut intervenir pour demander ou commander l’enquête. À ce niveau, et sachant que l’énigme porte sur l’identité de l’assassin, nous rencontrerons deux types d’écarts :

1. ceux qui portent sur la personnalité singulière du coupable :

   ─ l’assassin n’est personne et, par exemple, une chose.

   ─ l’assassin est multiple (cas fréquent : L’Assassin habite au 21 de Steeman, Le Crime de l’Orient-Express de Christie, La Nuit du carrefour de Simenon, etc.) ;

2. ceux qui consistent en des déplacements de rôles :

   ─ l’assassin est le destinateur de l’enquête (Le Faucon Maltais de Hammett, Le Saint de New York de Charteris) ;

   ─ l’assassin est l’enquêteur ou l’un des enquêteurs (autre cas fréquent : Autopsie du viol de Steeman, Compartiment tueurs de Japrisot, etc.) ;

   ─ l’assassin est la victime ou l’une des victimes (Dix petits nègres de Christie, Le Dernier des six de Steeman).

   À cette série de déplacements plus ou moins flagrants et qui relèvent du niveau diégétique, il faut ajouter deux cas qui touchent à l’énonciation même et à la relation narrateur-narrataire :

   ─ l’assassin est le narrateur (exemple célèbre : Le Meurtre de Roger Ackroyd de Christie) ;

   ─ l’assassin est le narrataire (pas d’exemple connu de nous).

   Enfin l’échange entre les rôles d’enquêteur et de victime occupe une place un peu à part puisqu’il est extérieur à la personne de l’assassin. Il est très fréquemment représenté si l’on prend en compte tous les récits où une victime en puissance ─ c’est-à-dire un personnage menacé ou poursuivi ─ se charge de démasquer son ennemi. Il s’agit là presque d’un genre dans le genre. Plus net, le cas suivant est rare :

   ─ la victime est l’enquêteur-narrateur (On ne meurt que deux fois de Cook).

   Terminons ce bref inventaire en notant que la combinaison de deux ou plusieurs solutions se rencontre et n’est même pas rare, quelques romans pouvant même entraîner leurs lecteurs dans un véritable tourniquet de rôles. Pour ne prendre qu’un exemple, Compartiment tueurs de Japrisot cumule l’assassin multiple avec l’assassin-policier.

Il va de soi que ce sont les cinq derniers cas qui, potentiellement, représentent les ruptures les plus radicales, donc aussi les plus délicates à mettre en œuvre. On constate d’ailleurs que la « figure » n’est réalisée dans ces cas-là en général qu’au prix d’une euphémisation. Ainsi, lorsque l’enquêteur est l’assassin, c’est le plus souvent un adjoint du détective principal et non celui-ci qui entre dans le rôle. Ou encore, pour faire que l’assassin soit la victime, ce qui présuppose une contradiction confinant à l’absurde, l’auteur va tantôt transformer le crime en suicide tantôt le métamorphoser en simulacre et c’est à chaque fois une tricherie. Enfin, s’il y a peu d’occurrences de l’assassin-narrateur, c’est que la formule exige une grande subtilité dans la manœuvre narrative.

Parmi les exemples qui viennent d’être passés en revue, les plus marqués ou les plus audacieux proposent un peu plus qu’un jeu. Ils rompent aux yeux du lecteur un contrat qui est de l’ordre de la confiance. Que l’enquêteur, le destinateur de l’enquête ou le narrateur tombent le masque et s’avèrent remplir un rôle contradictoire avec celui qui leur est prescrit et, même si nous faisons la part de l’humour, nous voyons se profiler la menace d’un double dérèglement ─ dérèglement de la communication romanesque tout d’abord, ensuite et par analogie perturbation du code social. Une faille s’est glissée dans nos représentations et elle touche à un double système. Le fait est particulièrement sensible dans le cas du détective coupable. Meneur de jeu quant à la structure narrative (ou encore actant sujet), il figure, quant à la représentation du réel, la fonction policière. Or, par une réaction proprement idéologique, nous répugnons à admettre que la police chargée de contrôler et de réprimer la criminalité en vienne à pratiquer le crime. Une convention morale et sociale forte se trouve de la sorte ébranlée.

Par son caractère double, l’exemple du policier-coupable ouvre à la seconde série des écarts, qui relèvent plus proprement de l’infraction. Il est des statuts et des rôles qui, a priori, sont par excellence incompatibles avec l’idée d’acte criminel. Avant tout, les professions à forte prescription déontologique qui sont aussi, la plupart du temps, des professions traitant avec la mort ou le crime. Nous pensons aux professions de police et de justice, de religion et de médecine. Des institutions sont ici en cause dont la fonction d’appareil idéologique est singulièrement visible. Par rapprochement, d’autres peuvent d’ailleurs venir s’ajouter, telles que la presse (donc le journalisme) et l’école (donc le professorat). À noter que, dans la tradition du genre policier, il n’est pas rare que le rôle du détective soit rempli par un journaliste (Rouletabille) ou par un avocat (Perry Mason) ; elle le sera même à l’occasion par un prêtre (Father Brown) ou un médecin (chez Scerbanenco). Évidemment, chacun sait qu’il existe en toute profession, même la plus garante du code moral, des brebis galeuses. Au nom de quoi l’effet d’écart risque de faire long feu dans les romans. Mais l’habileté du romancier sera de faire que le coupable ne soit pas x qui par ailleurs est médecin ou prêtre, mais que ce coupable soit le médecin ou le prêtre appartenant à telle communauté et exerçant parfaitement ses fonctions au sein de celle-ci, y compris éventuellement à l’égard du crime ou de l’enquête. Toujours dans Le Meurtre de Roger Ackroyd, où nous avons un exceptionnel cumul de fonctions-écarts, le coupable est non seulement narrateur de l’histoire et collaborateur occasionnel d’Hercule Poirot, mais il est encore l’ami et le médecin de la victime et donc celui à qui il revient de constater le crime. Sa désignation comme coupable abasourdit³, car elle est révélation d’une duplicité extrême chez quelqu’un qui est le type même du médecin de famille et de village et qui incarne toutes les vertus qui se rattachent à ce rôle.

Cet exemple complexe nous fait glisser des rôles à forte déontologie à certaines relations affectives marquées. Dans nos représentations, l’amitié n’est qu’un obstacle faible à l’acte criminel. Et ne parlons pas de la relation amoureuse ou conjugale. Par contre, les attaches familiales du type parents-enfants ou du type frères-sœurs en appellent ─ dans le roman comme dans la vie ─ à de très lourds interdits. On ne fait pas couler son propre sang. On ne fait pas violence aux siens. Une version dérisoire du tabou de l’inceste fait ici surface. C’est dire que l’auteur de romans de détection peut espérer tirer de puissants effets des liens de parenté entre victime et assassin. Aux figures hautes des parents assassins on peut conjoindre celle de l’innocent qui tue : attribuer le crime à un enfant, à un infirme ou à une « gentille vieille », c’est retourner encore autrement la violence, bousculer une censure et déjouer certaines règles.

Une des œuvres marquantes d’Ellery Queen, La Décade prodigieuse, propose une image forte de père qui tue les siens ─ contre toute attente. Rappelons sommairement l’intrigue. Un self-made man, le riche Diedrich van Horn, a adopté et élevé Howard, un enfant abandonné ; plus tard et sur le tard, il a pris en charge Sally, une jeune fille pauvre et l’a épousée. Sous le toit familial, les deux jeunes gens deviennent amants. Le père s’en avise et, pour se venger de cet adultère à demi incestueux, il met en œuvre un stratagème complexe et redoutable qui fait de son fils ─ sujet par ailleurs à des crises d’amnésie ─ l’apparent assassin de Sally. Hôte des van Horn, Ellery Queen assiste au drame sans pouvoir l’empêcher. Ce n’est que bien après les faits qu’il démasquera le vrai coupable et l’acculera au suicide.

Notons encore que ce canevas fort intense n’aboutit pas à une complète réussite. Le lecteur exercé soupçonne van Horn avant l’issue ; mais l’effet final de surprise et de fascination ne s’en produit pas moins.

Même annoncée, une figure de coupable comme celle de van Horn est saisissante, médusante. Ce père a quelque chose de puissant et d’accompli, d’autoritaire et de serein. Il a poussé le sens de la paternité jusqu’à choisir, par adoption, son enfant et disons même ses enfants si l’on songe à sa trop jeune épouse. Il a façonné ces deux jeunes gens. Il est donc comme un paradigme du Père et pourtant il va diaboliquement détruire ce qu’il a construit, ce qu’il a de plus cher. Lorsque nous l’apprenons, la pensée d’une telle horreur a quelque chose d’insoutenable et de quasi obscène. Rompant une censure, le secret surgit dans une clarté si violente qu’il aveugle. Extraite de la série floue des suspects (parmi laquelle le frère van Horn aurait pu faire un coupable plausible et sans excès) et basculant d’une nature à son inverse, la figure du coupable nous sidère ─ ou est censée le faire ─ à proprement parler. Nous croyons saisir enfin un objet qui s’est si longtemps dérobé à nous : c’est nous qui sommes pris de saisissement.

L’effet médusant du secret dévoilé provient de son caractère « indicible ». Et nous voyons d’où provient l’indicible en ce cas. La Décade est une fable freudienne quasi avouée. Nous sommes en plein roman familial et tout l’arsenal psychanalytique ─ Œdipe, inceste et tutti quanti ─ est convoqué. Un crime se commet au nom du Père, de la Loi du Père, de quelqu’un qui, ce n’est pas douteux, se prend pour le Tout-Puissant. De surcroît, le romancier, proche du Fils, double protecteur du Fils (donc à la fois fils et père de rechange) est en impuissance d’enquête et d’écriture jusqu’à ce qu’il se résolve à tuer le Père. On ne peut récuser l’intensité et la violence d’une telle représentation d’ensemble qui touche aux plus intenses de nos valeurs.

Du Parfum de la dame en noir à La Décade prodigieuse, le récit policier est sans doute toujours œdipien à quelque degré. Nom du Père, sexe de la Mère et leur insoutenable vision. Bien entendu ce n’est pas toujours une mère abusive ou un père tyrannique qui porte le poids du crime. Sauf à soutenir que, dans les romans de l’écart, ils sont au moins toujours présents à titre métaphorique. Pour que se produise l’effet médusant, il n’est pas indispensable que la transgression contenue dans le secret soit parentale et sexuelle. Si la transgression œdipienne est sans doute exemplaire du point de vue qui nous occupe, elle n’a rien d’exclusif : comme on l’a indiqué, des ruptures de caractère déontologique et donc plus sociologique peuvent parfaitement conduire à la « sidération » du dévoilement.

Si nous avons décrit de l’intérieur ce dispositif général de « transgression », c’est pour montrer comment et dans quel cadre s’exprimait la quête de l’originalité. C’est aussi pour faire voir ce qu’elle détient, au cœur d’un genre aussi ludique que conventionnel, de force de rupture et de scandale. Le jeu des infractions, sans avoir l’air d’y toucher, met à mal de grandes censures, que celles-ci relèvent du code moral ou d’un code plus purement sémiotique. Au terme, il y a cet effet saisissant d’un genre qui retourne sa logique contre lui-même en la poussant à l’extrême.

Pour donner sens et valeur à cette démarche, nous reprendrons une hypothèse que nous avons défendue ailleurs⁴ touchant la relation du policier à l’institution littéraire légitime. Dès qu’il apparaît, le « roman judiciaire » se pose en reflet mi-caricatural mi-ironique des pratiques de haute littérature. Il ne s’agit nullement ici d’imitation ou de contrefaçon. Nous avons vu déjà que sa manière d’atteindre à l’originalité était elle-même originale. Nous parlerons à ce propos de transaction symbolique suivant une expression lancée par Pascal Durand⁵. Dans le cas présent, cette transaction, qui est écho comme elle est échange, est un procès décomposable en quatre temps ou aspects : 1o par son côté localisé ou ponctuel, la formule finale du récit d’énigme vaut comme mise en abîme de l’originalité propre à la littérature novatrice et légitime ; 2o du fait même, elle exhibe sous une forme réduite et déformée ce même fait d’originalité en s’en faisant l’emblème ; 3o abîme et emblème, reprise déformante, elle est en même temps simulacre, conformément au caractère ludique d’un genre qui, de plus, joue constamment du masque et du secret : nous avons montré que l’écart dans le policier était effectif, relativement s’entend, mais il est en même temps artifice dans la mesure où il se marque dans un épilogue final qui, comme plaqué, n’engage pas vraiment le restant du texte ; 4o parce qu’elle est simulacre, elle est aussi ironie et dérision : dans un mouvement où sans doute la fascination a sa part, elle reproduit sur un mode dégradé, restreint et mesquin, ce qui se déploie en un autre lieu, et elle en vient ainsi à le contester.

On voit peut-être mieux à présent ce que postule la transaction et, dans le cas présent, à quel rôle elle voue le genre frontière. Elle attire tout d’abord l’attention sur la solidarité du champ littéraire général. Par-delà les clivages entre niveaux de littérature, des flux d’échange s’accomplissent, qui ne sont pas toujours d’ordre « substantiel » puisqu’ils peuvent, on vient de le voir, relever du « faire comme si ». Elle suggère ensuite que toute transformation dans un secteur du champ a des chances d’engendrer des « contrecoups » dans les autres secteurs. La naissance du genre policier est après tout contemporaine des premières « avant-gardes » romanesques et poétiques, c’est-à-dire en gros du naturalisme et du symbolisme. Elle permet enfin de penser qu’il est des formes ou des genres qui sont particulièrement destinés au jeu de la transaction. C’est parce qu’il est constante manipulation de ses propres limites que le genre policier est genre-limite ou genre transactionnel, placé aux confins des deux grands secteurs de la production littéraire.

Notes

Pour citer cet article :