Musique, mathématiques et philosophie

(2000-2001)


Discussion collective de l'exposé (4 novembre 2000) de Guerino MAZZOLA (mathématicien) : Penser la musique dans la logique fonctorielle des topoi

 

 

 François Nicolas
Différents points sur ce très intéressant exposé.

1) Guerino Mazzola s'est engagé dans une entreprise qui me semble très originale, peut-être d'ailleurs plus qu'il ne veut bien le reconnaître : une théorie mathématique de la musique. Cette position a pour vertu d'éliminer bien des problèmes souvent mal posés puisqu'il ne s'agit plus à proprement parler d'appliquer les mathématiques à la musique mais de construire une théorie mathématique originale ad hoc, susceptible de rendre compte de ce qui se passe en musique.
2) Cette théorie se déploie en s'appuyant sur un événement considérable interne aux mathématiques qui est la constitution de la théorie des topos. Il s'agit donc aussi pour partie d'apprendre à reconsidérer la théorie musicale à la lumière de cet événement de pensée intramathématique (Guerino Mazzola ne formulerait sans doute pas les choses exactement ainsi mais il s'agit bien aussi de cela, il me semble).
3) Son approche de la musique, du moins de cette musique servant de modèle pour la théorie mathématique à construire, met alors l'accent non pas sur les propriétés intrinsèques des objets musicaux mais sur leurs relations extrinsèques. Ce faisant, Guerino Mazzola est en effet fidèle au génie propre de la théorie mathématique des catégories.
4) Bâtissant cette théorie, Guerino Mazzola distingue nettement ce qui relève du discours musicien sur la musique et ce qui relève de la musique elle-même qui se déploie en indifférence (relative) à ce discours musicien. Pour Guerino Mazzola, cette musique est comme une nature : au lieu d'être une nature extérieure (comme la nature physique), elle est pour lui une sorte de nature intérieure.
5) Dans cette logique, la philosophie n'a aucun rôle particulier à jouer, pas plus qu'elle n'en a (ou n'en aurait) dans telle théorie mathématique de tel domaine physique, ou économique...
6) L'intérêt d'une telle théorie mathématique est alors
- de faire apparaître sous un nouveau jour des cohérences musicales qui n'apparaissaient pas aussi clairement dans un domaine spécifiquement musical (cf. l'exemple de l'unification de la théorie du contrepoint de Fux et de la théorie harmonique de Riemann) ;
- de permettre de généraliser très aisément des résultats ainsi théorisés (par exemple, ayant expliqué la théorie de la modulation telle que Schoenberg la pensait, on peut dégager des lois de modulations équivalentes dans n'importe quel autre système de modes).

Quelques éléments de la discussion sont également à relever.
- René Guitart faisait remarquer que le lemme de Yoneda (permettant de remplacer tout objet par l'ensemble des relations dans lequel il s'insère) ne vaut qu'à mesure du fait que cet objet est plongé dans une catégorie, c'est-à-dire somme toute dans un espace assez grand et bien structuré. Soit, pour ce qui nous occupe : on peut abandonner la saisie intrinsèque d'un objet au profit de son insertion dans un contexte à condition que ce contexte ait certaines caractéristiques de complexité minimale et de cohérence. Tout « contexte » n'y convient donc pas (voir nos discussion antérieures).
- Guerino Mazzola s'engage dans une extension de sa théorie donnant désormais place à des valeurs de vérité bien plus différenciées que celles, binaires, de la logique classique. Il en escompte à tout le moins la capacité de cette théorie à mieux caractériser ce qui se passe en musique puisque celle-ci ne saurait être appréciée du seul point d'un « oui ou non ».

Tenant compte de cette manière de rapporter musique et mathématiques au moyen d'une théorie mathématique de la musique, il me semble qu'on pourrait typologiser ainsi l'ensemble des rapports concevables entre mathématiques et musique :
1) Application des mathématiques à la musique
On applique ici les mathématiques à la musique selon une logique allant de l'ontologie à l'ontique c'est-à-dire par transition entre être et étants (ou encore : par application « naturelle » de ce qui se pense de l'être comme pur être à tout ce qui est, à tout étant donc).
2) Théorie mathématique de la musique ou de tel ou tel sous-domaine musical.
C'est ce qu'engage Guerino Mazzola, ce qu'a fait Euler pour l'échelle diatonique, d'autres pour tel ou tel tempérament. Ici on bâtit une théorie ad hoc qui a pour modèle (au sens de la théorie des modèles) la musique.
Bref rappel : en théorie des modèles, ce qui tient lieu de modèle n'est pas la maquette mais le canon à copier, le domaine factuel pris comme référence. La théorie a ici un modèle au sens où un peintre peut en avoir un (et ce contrairement à l'usage répandu du mot plutôt comme « modèle réduit », comme simulation). La théorie mathématique ainsi construite a pour particularité que ses enchaînements déductifs n'ont nuls équivalents dans le modèle. Les équivalences se font pour les « objets » et leurs prédicats, non pour les déductions. L'intérêt d'une telle théorie est qu'elle permet de déduire dans la théorie des résultats qui, projetés ensuite dans le modèle, éclairent la cohésion de celui-ci, et autorisent alors des généralisations.
3) Ce que j'ai appelé une fiction de modèle : tel fragment du domaine musical essaye d'être pensé comme modèle implicite (pathologique) d'une théorie mathématique prévue pour un tout autre domaine (exemple : la théorie mathématique de l'intégration, interprétée comme pouvant théoriser l'audition musicale). Bien sûr, en général cette fiction ne peut être tenue que « jusqu'à un certain point ». L'hypothèse est que cette fiction peut produire quelque effet de vérité sur le domaine musical retenu.
4) Contemporanéité d'ordre philosophique. Ici, c'est la philosophie qui institue l'existence d'un même temps pour la pensée entre problématique mathématique et problématique musicale. En général, cela se formule plutôt sous forme de questions, par exemple : en quoi le constructivisme sériel est-il ou non contemporain du constructivisme mathématique (Bourbaki) ou politique (marxisme-léninisme), etc. ? Ici mathématiques et musique sont à égalité, ou en position symétrique, ce qui n'était nullement le cas dans les trois types précédents.
Il y aurait donc trois types dissymétriques : application, théorie mathématique, fiction de modèle, et il y aurait un type symétrique : contemporanéité d'ordre philosophique.
La question est alors : existe-t-il un cinquième type ? Y a-t-il place pour des rencontres du cinquième type entre maths et musique ? Pourrait-il y avoir des rencontres autrement tramées entre mathématiques et musique, qui ne passeraient pas par la philosophie (comme la quatrième), qui ne s'inscriraient pas sous l'angle de l'application ou de la théorie (comme les trois premières), qui seraient plus proches d'une sorte d'inspiration ou de reprise en pensée d'un domaine par l'autre ?
Je prends un exemple très lointain : on peut considérer que le roman est (souvent) une manière de penser l'amour (ce qui pourrait être associé au fait que, si l'amour est une pensée, il n'est pas pour autant pensée de cette pensée : cette pensée de cette pensée pourrait alors prendre tournure dans un autre domaine de pensée : la littérature). Si l'on tient que la mathématique, comme les autres sciences, est une pensée mais n'est pas pensée de la pensée qu'elle est, la musique pourrait-elle être d'une certaine manière relève de cette pensée de la pensée mathématique ? C'est ce que j'appellerais l'hypothèse d'une reprise par la musique de la pensée mathématique. Dans l'autre sens, la mathématique pourrait-elle être inspirée par la pensée musicale, non pas reprise ou relève (s'il est vrai que la musique, comme les autres arts, est à la fois pensée et pensée de cette pensée) mais bien résonance ? Là je n'ai guère d'exemple à donner, sauf qu'il m'arrive, dans l'autre sens, d'être musicalement « inspiré » par telle ou telle question mathématique.
Donc, y aurait-t-il un cinquième type, ainsi différenciable :
5a : la relève ou reprise en pensée (des mathématiques par la musique)
5b : l'inspiration ou résonance (de la musique par les mathématiques) ?
Mais peut-être aussi, pourquoi pas :
5c : la relève ou reprise en pensée de la musique par les mathématiques
5d : l'inspiration ou résonance des mathématiques par la musique ?
Ces mots ne sont que des épingles proposées. Fixent-ils un possible ?

Emmanuel Amiot
François Nicolas : « Si l'on tient que la mathématique, comme les autres sciences, est une pensée mais qui n'est pas pensée de la pensée qu'elle est... »
« Y a-t-il place pour des rencontres du cinquième type entre maths et musique ? Par reprise ou inspiration... »
Il me semble que les mathématiques (du XX siècle) sont très particulièrement et de façon novatrice pensée de la pensée qu'elles sont. Au-delà des « strange loops » dont parle Hofstadter (en gros, autour de l'emploi du procédé diagonal de Cantor dans le théorème d'incomplétude de Gödel) il y a pas mal de démonstrations d'un type nouveau, qui utilisent ce qu'on peut voir comme une réflexion sur le fonctionnement de la mathématique (par exemple dans le domaine de l'existence de solutions d'équations en nombres entiers). Les catégories sont une formalisation de ce type de mécanismes, d'ailleurs. Et beaucoup de matheux se considéraient (ou étaient considérés) comme artistes avant cela !
Au-delà de ma réaction épidermique sur ce que je ressens (à tort) comme une tentative d'opposition entre mathématiques / sciences et musique / arts, je suis tout à fait d'accord avec le « cinquième type » proposé par F. Nicolas, qui intervient sans doute assez souvent dans le travail de recherche du mathématicien. Il faudrait aller voir ce que racontent les grands mathématiciens de leurs façons de trouver la lumière dans un problème de mathématiques (Strokes, Dieudonné et beaucoup d'autres ont écrit là-dessus).

Olivier Lartillot
La présentation très intéressante de Guerino Mazzola nous fait entrevoir un projet d'analyse de la musique à l'aide d'outils mathématiques. Ceci permettrait de procéder à une analyse de la musique plus rigoureuse, basée sur des méthodes issues des sciences exactes. On arrivera peut-être alors, enfin, à proposer une méthodologie de l'analyse musicale dégagée de penchants verbeux et sentimentaux. Déjà en 1966, Pierre Schaeffer, dans son Traité des objets musicaux, disait : « Dans son ensemble, l'abondante littérature consacrée aux sonates, quatuors et symphonies, sonne creux. Seule l'habitude peut nous masquer la pauvreté et le caractère disparate de ces analyses. [...] Si toute explication se dérobe, qu'elle soit notionnelle, instrumentale ou esthétique, mieux vaudrait avouer, somme toute, que nous ne savons pas grand-chose de la musique. Et pis encore, que ce que nous savons est de nature à nous égarer plutôt qu'à nous conduire. » La théorie des topoi pourrait répondre à ce manque.

Mon intervention a pour intention de suggérer, en toute modestie, une autre approche, similaire à la précédente dans son caractère « systématique » (je ne sais pas si ce mot convient), mais aussi et surtout complémentaire. Durant sa présentation, Guerino Mazzola a d'ailleurs mentionné très brièvement un aspect de cette approche.
Il s'agit de l'analyse de la musique selon un apprentissage par la machine (Machine Learning). Cette discipline, assez récente, est issue en partie de l'intelligence artificielle, se concentrant sur le concept d'intégration de connaissance suite à une forme d'expérience. Dans le cas de l'analyse musicale, l'expérience est la musique à analyser, la connaissance à intégrer est le fruit de l'analyse.
Guerino Mazzola a critiqué la notion de neurone formel, expliquant que ce modèle ne semble pas concorder avec la réalité, et ne peut être maîtrisé de manière satisfaisante. Ce modèle ne peut donc être utilisé dans le cadre d'une théorie « systématique » de l'analyse musicale. Je suis tout à fait d'accord avec lui sur ce point.
Ce qui m'intéresse dans l'intelligence artificielle, ce n'est pas cette approche biologique (réseaux de neurones) mais l'autre courant : l'approche calculatoire. Cette discipline tente de modéliser et d'implémenter le phénomène de l'inférence, de l'acquisition de nouvelles connaissances de manière logique et algorithmique. Toutefois les avancées récentes de l'intelligence artificielle donneraient à penser qu'une réunification des différentes disciplines (biologique et calculatoire) est imaginable : les réseaux de neurones peuvent être considérés comme un simple modèle mathématique, sans aucune prétention de véracité cognitive.

On pourra me répondre que mon approche souffre du fait que la théorie de l'inférence utilise la notion de plausibilité, de probabilité, notion difficilement intégrable dans le cadre d'une logique rationnelle et rigoureuse. Or une théorie assez récente, développée par E.T. Jaynes, révolutionne la notion de la probabilité. Dans son ouvrage « Probability Theory : The Logic of Science » , E.T. Jaynes établit une théorie de la probabilité permettant de généraliser la logique classique aux raisonnements probabilistes . Cette théorie très complète permet de procéder à des raisonnements logiques prenant en compte les incertitudes et les exprimant sous la forme de plausibilité, tout ceci quantifié de manière rigoureuse. L'application de cette théorie à la musique, par l'intermédiaire de l'apprentissage par la machine - notion disposant également d'une approche mathématique - pourrait donc être considérée comme une théorie mathématique de la musique.

Loin de vouloir entrer en concurrence avec l'impressionnante théorie de Guerino Mazzola, je cherche seulement à constater en quoi ces deux théories diffèrent. On peut remarquer tout d'abord que dans l'analyse musicale par la théorie des topoi, les mathématiques sont centrales, alors que dans l'analyse par apprentissage, les mathématiques sont diffuses. En effet, dans la première, on cherche à analyser la musique par les mathématiques, alors que dans la seconde, on procède à l'analyse par la machine qui, elle, utilise des briques mathématiques dans une modélisation impossible à appréhender totalement par l'esprit. Seul le résultat inféré compte ici.
Ceci étant, on peut dire que la première théorie explique la musique, alors que la seconde explicite la musique. De ce point de vue, la première théorie semble bien plus intéressante, puisqu'elle rentre au coeur du phénomène en jeu. La seconde permet de constater ou de valider ces phénomènes.
L'intérêt de la musique par apprentissage est que toute l'analyse est effectuée par la machine. Une fois que le programme d'inférence est implémentée - c'est là tout le problème, évidemment -, l'analyse devient automatique.

François Nicolas
Olivier Lartillot : [Il serait possible de] procéder à une analyse de la musique plus rigoureuse, basée sur des méthodes issues des sciences exactes. On arrivera peut-être alors, enfin, à proposer une méthodologie de l'analyse musicale dégagée de penchants verbeux et sentimentaux.
Je comprends bien cet enthousiasme pour une analyse « objective ». Mais attention au fait qu'il s'agit ici de musique, et fondamentalement d'oeuvres, donc de sujets et non pas de données physiques. Cela ne dissout pas l'intérêt pour les théories mathématiques de la musique mais contribue seulement à délimiter son champ de validité.
Cela touche à un point, d'ordre plus philosophique, que je formulerai volontiers ainsi : il ne peut y avoir de théorie mathématique du sujet (au sens fort de « théorie mathématique »). C'est un point me semble-t-il à ne pas oublier quand on se lance dans une théorie mathématique de la musique.

Une théorie assez récente, développée par E.T. Jaynes, révolutionne la notion de la probabilité. [...] Cette théorie très complète permet de procéder à des raisonnements logiques prenant en compte les incertitudes et les exprimant sous la forme de plausibilité, tout ceci quantifié de manière rigoureuse.
Est-ce que techniquement ceci n'a pas à voir avec le passage d'une algèbre de Boole à une algèbre de Heyting ? Auquel cas, tout ceci serait directement connecté (ou connectable) à la théorie des topoi.

L'application de cette théorie à la musique, par l'intermédiaire de l'apprentissage par la machine - notion disposant également d'une approche mathématique - pourrait donc être considérée comme une théorie mathématique de la musique.
Si ma remarque précédente s'avérait valide, cela voudrait dire qu'une théorie mathématique de la musique ne saurait faire aujourd'hui l'économie de la mathématique des topos. Dit grossièrement : le passage en mathématiques de la théorie des ensembles à la théorie des catégories permettrait un développement de ce type de théories mathématiques de la musique que ne permettait pas la seule théorie des ensembles (voir la maigreur des « résultats » musicaux de la set-theory et autres...)

La première théorie explique la musique, alors que la seconde explicite la musique.
Je suis réservé sur l'idée qu'une théorie mathématique de la musique « expliquerait » la musique. Je tiens qu'en général, ce n'est pas le cas : plus largement, une théorie n'explique pas son modèle. Cela tient au fait que le régime des inférences déductives, qui est le propre de la théorie, n'a nul équivalent dans le modèle et ne s'y traduit donc nullement. La théorie ne prétend pas reproduire les consécutions du modèle. Elle construit son ordre propre de consécution, de calcul, sous condition simplement que la « traduction » des termes permette un recouvrement du calculé (dans la théorie) et du vérifié (dans le modèle). L'idée que la théorie expliquerait le modèle me semble une hypothèse supplémentaire. Très précisément ceci prenait la forme, dans l'exposé de Guerino Mazzola, du « principe anthropique » dont à mon sens on peut et on doit faire l'économie. C'est pour cela que j'émets une réserve sur son introduction dans son exposé. Guerino Mazzola avait précisément besoin de ce principe pour traduire dans la musique les enchaînements logiques de sa théorie. Mais il n'y nul besoin d'une telle traduction (ou d'une telle équivalence) pour que la théorie fonctionne.
L'idée d'une machine qui opère selon ses lois propres et qui explicite ce faisant son modèle me semble de ce point de vue plus proche d'une « philosophie » spontanée de la théorie des modèles.

Olivier Lartillot
Qu'est-ce qu'une algèbre de Heyting ? Est-ce que le concept de « philosophie » spontanée est un concept développé par la théorie des modèles ?

François Nicolas
Une algèbre de Heyting est une algèbre plus générale et plus riche que celle de Boole (laquelle s'avère alors en être un cas particulier). Elle se construit sur un ensemble partiellement ordonné ayant minimum et maximum, sur lequel on définit
- pour tout sous-ensemble un « plus petit supérieur »
- pour toute paire d'éléments un « plus grand inférieur »
et à partir de là une distributivité et différentes opérations (« implication », « négation »...)
Le modèle de cette algèbre est donné par les ouverts d'une topologie sur un ensemble.
Avec cette algèbre on théorise en fait des espaces logiques qui ne sont pas « classiques ». On y retrouve cependant l'algèbre de Boole comme cas particulier : quand le tiers exclu et la double négation sont bien valides.
« Est-ce que le concept de philosophie spontanée est un concept développé par la théorie des modèles ? » Non. J'employais ici le mot « philosophie » au sens plat : celui d'esprit, ou de génie propre de la théorie des modèles. Cette théorie est purement mathématique, en fait purement logique, et ne fait donc aucune référence à la philosophie.

Guerino Mazzola
1. Problèmes de modélisation
Dans mon exposé concernant la topographie de la musique, je distinguais trois niveaux de réalité : mental / physique / psychologique.
1.A. Mais je ne voulais pas dire par là que la mathématisation de la musique s'identifie à une modélisation au sens de simulation d'une réalité (musicale, en l'occurrence) par un système formel. En effet, les mathématiques ne sont pas un système formel mais un système précis ! Sans sémantique, les symboles mathématiques ne valent rien. Les mathématiques sont un système sémiotique très épais, c'est-à-dire de profondeur sémantique considérable.
Rappelons pour cela que, en logique, un modèle est (en première approximation) une application d'un système totalement formel (constitué de symboles vides - tels que les variables x, y, z -, de connecteurs logiques - &, v, - -, et de règles purement syntaxiques) dans un domaine où ces symboles sont remplacés par de « vrais objets » (tels que des ensembles, des éléments d'une algèbre de Boole etc.). Un modèle mathématique de la musique n'est pas un modèle en ce sens du mot modèle ! Les mathématiques ne sont pas réductibles à des symboles vides. Comme en physique, le modèle mathématique d'un phénomène musical est d'abord une précision conceptuelle, comme l'usage de nombres réels est une précision conceptuelle d'espaces classiques de la mécanique. Ce n'est point là une réduction ontologique mais une précision, et même un enrichissement : le phénomène se conçoit dans une ontologie d'objets mathématiques. Il serait en effet une illusion de croire que l'ontologie physique puisse valoir beaucoup hors de la spécification mathématique. Par exemple, sans l'ontique mathématique de la dérivée d'une fonction, la vélocité momentanée en physique n'aurait guère d'ontique proprement dite... C'est l'histoire fascinante du concept de vélocité momentanée que seuls les mathématiciens ont su sortir des disputes scolastiques stériles.
1.B. De plus, il ne faut pas a priori penser qu'un modèle mathématique est un modèle totalitaire, c'est-à-dire un modèle comprenant toute la réalité, toute la communication, toute la sémiotique de la musique. Modéliser un aspect mental (tel que la modulation) ne veut pas dire qu'on modélise aussi la psychologie des procès de modulation, ni qu'on les modélise sur tous les niveaux de la communication. Je vois là un joli exemple d'ontologie distribuée.

2. La phrase (fascinante !) de François Nicolas : « il ne peut y avoir de théorie mathématique du sujet » appelle de ma part trois remarques marginales.
2.A. Je ne vois pas pourquoi il ne pourrait exister une science du sujet. Je rappelle que la sémiotique moderne (disons : initiée sur les bases linguistiques des personnes grammaticales de Benveniste, et incluant les signes déictiques qui ouvrent un vaste champ pour les aspects du Moi, du Toi, etc.) est tout à fait capable de constituer un discours scientifique sur le sujet. Or, dès qu'on accepte un discours scientifique sur le sujet, si celui-ci veut être d'une précision croissante, le langage sui generis de la précision - c'est-à-dire les mathématiques - peut fort bien être utilisé pour ce faire. Il ne s'agit pas là de remplacer l'ontique du Moi - « de moi-même » - par le discours, mais d'en construire une image scientifique. Ou encore, la réalité psychologique n'est pas équivalente à une autre, mais on peut cependant très bien essayer de la décrire. La psychologie ne fait rien d'autre, et elle est d'ailleurs pleine d'outils mathématiques, non seulement au niveau de la statistique, mais également au niveau des théories cognitives (vision, etc.).
2.B. Dans la musicologie allemande, la subjectivité a obtenu une triste célébrité dans les approches de H.H. Eggebrecht. Dans un article (Neue Zeitschrift fuer Musik), il a même réduit la musicologie au sujet en disant que la musique et sa science se centrent sur le sujet (sic ! « La science, c'est Moi »). Dans une réponse à cet article apocalyptique, j'avais averti Eggebrecht que sa démarche allait détruire toute scientificité en musique. Le sujet est, bien sûr, très important en tant que thème scientifique, mais une réduction de la musicologie à des critères subjectifs serait sa faillite. Eggebrecht m'avait alors traité de fasciste, de fonctionnaire totalitaire, etc., suite à cette intervention. Mais j'insiste : le subjectif en musique n'est pas a priori extra-scientifique ; il faut en développer un langage, une théorie, et tout cela dans une topographie musicale distribuée ! Et d'ailleurs, pourquoi toujours mettre ainsi en relief le sujet alors qu'on est loin d'avoir perfectionné la connaissance du versant objectif ; et il y en a tant à faire !!! S'agit-il alors de paresse, ou de l'échec des gens qui espèrent toujours éviter l'effort de la précision ?
2.C. Une comparaison : bien que la chimie soit une science dont les psychologues « puristes » ne pensent pas qu'elle puisse expliquer beaucoup de l'âme humaine, les progrès pharmaceutiques démontrent qu'il existe des constructions (synthèses) chimiques produisant des effets très importants sur le niveau de la réalité psychique (valium, etc.). De même pour les psychoses, telles la schizophrénie (voir les médicaments neuroleptiques), la dépression (voir les médicaments antidépresseurs)... Je veux dire par là qu'il faut, en musicologie comme ailleurs, reconstruire les bases de la discipline pour voir dans quelle mesure les fantômes du passé peuvent se dissoudre pour être remplacés par des énoncés, des modèles, des théorèmes raisonnables, établis dans un langage et un environnement précis, mathématiques. Il est parfaitement ridicule d'attaquer les questions complexes du sujet humain avant d'avoir compris les faits élémentaires, objectivables, quantifiables, mathématisables, tels que l'harmonie, le contrepoint, la classification des structures d'objets sonores (de nature physique / mentale / cognitive), les procès d'interprétation, les multiples synthèses / analyses des ondes acoustiques etc.

François Nicolas
Concernant les questions ouvertes par Guerino Mazzola.

I. Questions de modèles
Les mathématiques ne sont pas uns système formel, mais un système précis !
Rappelons pour cela que, en logique, un modèle est (en première approximation) une application d'un système totalement formel dans un domaine où ces symboles sont remplacés par de « vrais objets ». Un modèle mathématique de la musique n'est pas un modèle en ce sens du mot
modèle ! Les mathématiques ne sont pas réductibles à des symboles vides.
Je vois et ne vois pas ce que tu veux dire.
- Tout à fait d'accord pour dire que les mathématiques ne sont pas un système formel (ou encore : ce n'est pas une langue formelle) mais un dispositif de pensée qui a son propre domaine d'exercice.
- Pour le reste, rappelons-nous qu'un modèle n'a pas besoin d'autre caractéristique que d'être doté d'un critère de vérité sur lequel la théorie à construire ne prend pas position mais prend simplement acte de son existence et de son caractère opératoire. Il suffit donc qu'on puisse décider (par une procédure qui n'a pas besoin d'être théorisée mais dont on présuppose l'existence effective) pour tout « énoncé » de la théorie si ce à quoi cet énoncé correspond dans le modèle est « vrai » ou non (au sens intrinsèque de ce domaine modélisé). À ce titre, la musique (ou plutôt, comme tu le rappelles ensuite utilement, tel ou tel aspect du monde de la musique) me semble tout à fait susceptible de servir de modèle pour une théorie mathématique. Et je ne vois pas en quoi ceci enfermerait les mathématiques dans un pur statut formel. Il est vrai que dans la théorie logique des modèles, on ne traite que de la dimension logique des théories mais ceci n'interdit nullement que telle ou telle théorie ait aussi (en plus) un caractère mathématique.

II. Questions du sujet
La phrase de François Nicolas : « il ne peut y avoir de théorie mathématique du sujet » appelle de ma part... [...] Je ne vois pas pourquoi il ne pourrait exister une science du sujet. [...] La sémiotique moderne est tout à fait capable de constituer un discours scientifique sur le sujet. [...] Dans la musicologie allemande, la subjectivité a obtenu une triste célébrité. [...] Une réduction de la musicologie à des critères subjectifs serait sa faillite.
1. La discussion porte ici, à l'évidence, sur ce que l'on entend par « sujet ». Je m'inscris pour ma part dans une conception philosophique « moderne » du sujet qui déprend cette catégorie de toute acception psychologique. En ce sens, le sujet est au plus loin du « moi ». Tout au plus est-il éventuellement un « je ». Le « moi », c'est lorsque le sujet qui dit « je » voudrait se prendre réflexivement pour objet. Mais justement, la conception du sujet à laquelle je me réfère tente de penser le sujet sans le constituer par rapport à un objet, à « son » objet, en particulier à distance d'une conscience de soi. Le sujet dont je parle n'est donc pas un sujet réflexif, il n'est pas défini comme étant une conscience (comme disait Sartre, toute conscience est conscience de soi...).
Dire alors que les oeuvres musicales sont les véritables sujets de la musique, ce n'est donc aucunement en appeler d'une psychologie des oeuvres, moins encore d'une prise en compte de la subjectivité des musiciens. C'est d'ailleurs à ce titre que pour ma part je trouve la tripartition de Molino-Nattiez impertinente et, à dire vrai, une tautologie.
2. Une science est une chose, la mathématique en est une autre. Là aussi, il s'agit de s'entendre sur le mot « science ». En général, dans l'usage courant (en particulier l'usage musicologique), « science » veut simplement dire « savoir », et même pas « savoir transmissible » (cf. certaines discussions sur les éventuels secrets ineffables des savoirs musiciens). En ce sens, il y a bien place pour un savoir sur le sujet. De mon côté, je mets la catégorie de « science » au-dessus de ce seul savoir et je pose les mathématiques comme paradigme pour cette catégorie.
C'est à partir de là que je tiendrais
- qu'il peut y avoir des théories du sujet (et il y en a bien effectivement : voir les travaux de Lacan, Badiou...) ;
- qu'il ne peut pour autant y avoir de théorie mathématique ou scientifique du sujet (il peut y en avoir des « mathèmes » - voir Lacan - mais un mathème n'est précisément pas une théorie mathématique) car il ne peut y en avoir de théorie que philosophique.
On est ce faisant renvoyé à la question qui rode sous notre discussion : celles des rapports entre mathématiques et philosophie. Que la question de la musique relance cette interrogation est bien dans le génie propre de notre séminaire ! Pourquoi poser une telle distinction ? Par exemple, René Guitart tient, a contrario, que les mathématiques sont une partie de la philosophie (non l'inverse !). Il me semble que ton opinion ne serait pas très éloignée de la sienne (mathématicien oblige !). Pour ma part, je m'inscris dans l'horizon philosophique tracé par Alain Badiou qui distingue philosophiquement ce qui touche à l'être et ce qui touche au sujet. La mathématique est la « science » de l'être et la philosophie est la « théorie » du sujet. L'idée qu'il y ait une théorie mathématique du sujet impliquerait alors qu'il y ait un être propre du sujet, ce qui est écarté par la conception même du sujet engagée en cette affaire (mais cela demanderait ici de plus amples développements philosophiques...).

III. Questions de théorie mathématique de la musique.
Pourquoi toujours mettre ainsi en relief le sujet alors qu'on est loin d'avoir perfectionné la connaissance du versant objectif ; et il y en a tant à faire !!! S'agit-il alors de paresse, ou de l'échec des gens qui espèrent toujours éviter l'effort de la précision ?
Il est parfaitement ridicule d'attaquer les questions complexes du sujet humain avant d'avoir compris les faits élémentaires, objectivables, quantifiables, mathématisables.
Tout à fait d'accord pour ne pas faire du « sujet » une boite noire ou un asile d'ignorance.
Ma position est que « le monde de la musique » ne se réduit nullement aux sujets musicaux (aux oeuvres musicales donc) mais engage un champ constitué (par l'harmonie, le contrepoint, et quodlibet...) avec des pièces, ou morceaux de musique (qui ne sont pas, ipso facto, des oeuvres, c'est-à-dire des sujets). Mais attention ! Cette distinction (que je viens d'esquisser) ne recouvre nullement la polarité entre objectif et subjectif pour la raison (philosophique) essentielle que je rappelais plus haut : le sujet ne peut plus (ne doit plus) être pensé dans un rapport à l'objet. Badiou en déploie une conception à partir des « événements » et des « vérités » qui en découlent, et l'événement est précisément ce qui s'inscrit au défaut de l'être, en un point de défaillance ontologique (donc aussi en un point impensable mathématiquement). Mais l'événement n'est nullement un objet, pas plus que telle ou telle vérité...
Bref, de tout ceci (le champ musical, les pièces de musique) il y a lieu de faire théorie, et donc en particulier théorie mathématique mais la question de l'oeuvre reste à mon sens d'un autre ordre : de l'ordre du sujet ; et de l'être au sujet, on ne passe que par un saut qualitatif, par un changement radical d'ordre. On peut (on doit ?) donc faire théorie musicienne des oeuvres (pourquoi pas, pour ceux que cela tente, une théorie philosophique) mais on ne saurait en faire une théorie mathématique.
Il me semble que c'est sur le terrain d'une théorie mathématique du champ musical et des pièces de musique (plutôt qu'à proprement parler des oeuvres) que ton entreprise propre est en tous points remarquable.