• MP3 • WMA • AAC • OGG • qualité à 96 kbps (évaluation)

• MP3 • WMA • AAC • OGG • qualité à 96 kbps (évaluation) - Traitement Audio - Video & Son

Marsh Posté le 09-08-2005 à 17:13:04    

Après une première évaluation à 80 kbps, je poursuis mon périple estival avec une comparaison des divers formats d'encodage audio réalisée au débit de 96...100 kbps. Cette nouvelle évaluation comprend plusieurs finalités :
 
- déterminer lequel des formats testés présente la meilleure qualité dans cette tranche de débit
- voir si, après leur échec à 80 kbps, certains de ces formats sont capables à 96 kbps de rivaliser avec le MP3 à 128 bkps
- voir enfin, en comparant les résultats obtenus ici avec les précédents, comment évoluent les formats avec un apport de seulement 16...20 kbps.

 
 
La méthodologie n'a pas évoluée depuis le dernier test. Pour la résumer en quelques points :
 

  • l'évaluation est structurée en deux phases successives. La première a pour objectif de déterminer dans autant de poules dédiées lequel des différentes implémentations de chaque format ou des différents paramétrages de chaque encodeur est le meilleur. Au terme de ces tests préliminaires, les vainqueurs de chaque poule s'affronteront entre eux dans la phase finale.


  • le test mobilise 185 échantillons répartis en 2 groupes fondamentaux. Le groupe 1 est composé de 150 échantillons de musique classique que j'ai sélectionné moi-même, et qui sont structurés en plusieurs sous-groupes (musique instrumentale, instruments solistes, voix et musique artificielle), que l'on peut également décomposer en différents sous-ensembles (voix : chœurs et voix seules ; instruments : claviers, vents, archets...). 35 autres échantillons forment le groupe 2 qui rassemble des genres variés. Ces 35 échantillons représentent la totalité des échantillons "non-classiques" utilisé lors des tests d'écoute collectifs organisés par Roberto Jose de Amorim.


  • les poules mobilisent toutes une même sélection de 40 des 185 échantillons (25 issus du groupe 1 et 15 du second groupe), alors que l'épreuve finale en réquisitionnera l'intégralité.


  • l'ensemble des évaluations a été réalisée en condition de double aveugle, assurée et pilotée par le logiciel ABC/HR de ff123. Les rapports sont tous disponibles pour consultation ou vérification (les commentaires sont cependant rares). L'analyse statistique a été réalisée en suivant la méthode Tukey Paramétrique (voir : ff123's "Web Statistical Analysis of Listening Test Data").


  • enfin, les encodages VBR ne pouvant pas nécessairement coïncider avec le débit ciblé (96 kbps), une tolérance de 10% a été autorisée. En pratique, la comparaison aura lieu avec des encodages offrant des débits moyens quasiment identiques entre eux.


  • Le seul changement notable depuis le test précédent concerne l'environnement matériel : du PC de bureau, équipé d'une carte son Audigy2, d'un casque BeyerDynamic DT-531 et d'un amplificateur Onkyo, je passe à une configuration de vacances (c'est l'été), avec un PC portable, un composant sonore AC97 bas de gamme épaulé par une amplification embarquée dans le portable de faible qualité/puissance, ainsi qu'un casque Philips HP SBC910.

_______
 
 
Les formats sélectionnés pour ce test à 96 kbps ne sont pas les mêmes que ceux utilisés précédemment :  
 
- le MP3, utilisé précédemment en tant que référent bas (low anchor) et donc sans bénéficier de la phase darwinnienne des poules, figure désormais en tant que compétiteur à part entière. J'ai estimé qu'à 96 kbps il pouvait faire mieux que de la simple figuration et surtout espérer autre chose qu'une dernière place.
 
- le MPC fait également son entrée. On peut croire que ce format qui est surtout optimisé pour les débits élevés (180 - 250 kbps) sera à la traîne par rapport à ses rivaux, mais des utilisateurs digne de confiance (Case notamment, développeur du plug-in de Winamp et l'un des rares développeurs ayant pu disposer des sources lorsque le format était encore partiellement clos) ont dans le passé affirmé le contraire (ici ou encore ). Seulement, le MPC est le seul format à n'avoir pas progressé depuis 3 ans, au contraire des autres qui se sont livré à une compétition plutôt farouche. Cette évaluation est une bonne occasion de mesurer le niveau qualitatif actuel du MPC à ce débit.
 
- WMA, AAC-LC et Ogg Vorbis sont maintenus. Le WMAPro ne peut figurer dans ce test, pour les mêmes raisons que celles invoquées lors du précédent (impossibilité de règler le format pour atteindre ce débit).
 
- l'AAC-HE (également connu sous le nom d'AAC+) est par contre écarté. A 80 kbps, les techniques (SBR) utilisées par ce profil du format AAC avaient déjà montré leur limites. M'acharner et poursuivre l'évaluation à 96 kbps relèverait de la torture.

Reply

Marsh Posté le 09-08-2005 à 17:13:04   

Reply

Marsh Posté le 09-08-2005 à 17:13:41    

POULE No.1 : MP3
 
Le marché des encodeurs MP3 est dominé par Fraunhofer, qui au cours de son existence a développé plusieurs implémentations du format dont il est l'inventeur. Ce test inclus deux encodeurs récents de cet éditeur : l'un est pratiquement gratuit, mais présente peu d'options ; l'autre est payant et intégré dans le logiciel professionnel Adobe Audition. A leurs côtés se trouvent l'encodeur MP3 le plus avancé (LAME), l'encodeur MP3 le plus rapide (Helix/Real) et l'encodeur MP3 développé par Apple suite au rachat de SoundJam.
 
 
Fraunhofer IIS, Professionnel ACM, codec inclus dans Windows Media Player 10. Cet encodeur est inclu dans l'installateur de WMP10, sans toutefois être installé. Il doit donc être activé par l'utilisateur (voir sur HA.org : WMP10 Final comes with new 2004 FhG Pro ACM codec?). Une fois installé, l'encodeur peut être utilisé par de nombreux logiciels (VirtualDub, EAC, Cdex, foobar2000) et même recevoir via un patch de Nyaochi les informations nécessaires pour devenir gapless. Cet encodeur de Fraunhofer est aussi le plus récent publié par l'éditeur allemand, mais il n'offre pas la possibilité d'encodages VBR. Le mode CBR 96 kbps a donc été utilisé.
 
Fraunhofer IIS, Adobe Audition 1.5. Par rapport à l'encodeur Fraunhofer précédent, celui présente deux atouts : atout technique, car complet et paramétrable, cet encodeur permet cette fois d'être utilisé en VBR ; atout symbolique, car cet encodeur est cher et réservé à un usage pro. L'encodeur présente suffisemment d'options pour mobiliser une poule à lui seul. Trouver le paramétrage idéal n'est donc pas évident. Les encodages CBR ont été écartés, car présentant un lowpass trop handicapant. Le choix s'est donc porté sur les encodages VBR, dont il restait à trouver le bon paramétrage. A -Q30, le débit des échantillons du groupe 1 est 96 kbps, mais s'élève à 112 kbps pour ceux du groupe 2, ce qui est 20% de trop. A -Q20, le débit du groupe 2 tombe à 102 kbps (acceptable) mais cette fois-ci c'est le débit du groupe 1 qui est tombe trop bas (89 kbps). Plutôt que de trouver un compromis avec un paramétrage intermédiaire, j'ai opté pour un double encodage :
- Q20 pour les fichiers issus du groupe 2
- Q30 pour ceux du groupe 1
 
LAME : version 3.97a11, la plus avancée, et améliorant la qualité des encodages ABR/CBR par rapport à la version 3.96.1. Je n'ai pas utilisé le VBR, car ayant déjà comparé dans le passé ABR et VBR à ce débit, ce dernier présentait trop de faiblesses. La commande --abr 101 me permet d'obtenir un débit de 97 kbps pour le groupe 1 et 99 kbps pour le groupe 2.
 
Apple : iTunes 4.9 / QuickTime 7.02. Cet encodeur présente une fonctionnalité particulière et non débrayable : le débit cible correspond également au débit minimal de chacune des frames. Autrement dit, en optant pour VBR 128, le débit alloué à chacune des frames sera au minimum de 128 kbps. Dans ces conditions le débit moyen ne peut être que supérieur à celui ciblé, et pour rester proche (ce qui se produit), l'encodeur n'a d'autre choix que de ne faire faire varier le débit qu'avec parcimonie. Avantage : la qualité est contrôlée par le bas, car le débit ne peut descendre accidentellement à un niveau trop faible. Inconvéniant : le débit étant rarement majoré, on doit s'attendre à des sacrifices qualitatifs. Par rapport au CBR, l'encodage VBR d'iTunes présente quelques progrès audibles sans offrir de régression sur les fichiers préalablement testé. Le choix du paramétrage est donc VBR 96 highest. Débit mesuré : 104 kbps pour le groupe 2 et 100 kbps pour le groupe 1.
 
Real/Helix : version 5 de l'encodeur, donc les sources venaient d'être rendues disponibles quelques jours avant que ne débute ce test. L'encodeur bénéficie d'un mode CBR et VBR - ce dernier paraissant préférable. La commande -V20 permet d'obtenir un débit de 100 kbps avec chacun des deux groupes d'échantillons.
 
 
Les débits consécutifs à chacun de ces paramétrages gravitent tous autour de 96 kbps ±3%, à l'exception d'iTunes dont le débit moyen est le plus élevé et s'écarte de 6,24% par rapport au seul encodage CBR du test et qui me sert d'indice ; malgré cela, l'écart reste encore largement inférieur aux ±10% tolérés :

 
=> CBR Fhg Pro Windows ACM      CBR96           100
=> VBR Fhg Adobe Audition       q20 + q30       102,48
=> VBR Apple iTunes             VBR96 highest   106,24
=> VBR Real CLI                 -V20            103,01
=> ABR LAME 3.97a11             --abr 101       102,58


 
Résultats :
 
http://audiotests.free.fr/tests/2005.07/96/96TEST_PLOTS_01.png
 
(le tableau analytique des résultats peut être consulté ici, et le graphique peut-être comparé avec celui du test à 80 kbps)
 
 
LAME domine, tandis que les quatre autres se disputent la place de dauphin.
 
LAME : version 3.97a11. Très bonne qualité - trop bonne peut-être. La note, qui frôle les quatre points avec les échantillons du premier groupe, est certainement excessive compte tenu du faible débit. Cette probable surévaluation est certainement la conséquence de la faiblesse relative des autres compétiteurs, tous à un voire deux crans en-dessous de LAME, et de l'absence de référent haut. Face à de tels adversaires, LAME à 96 kbps paraît vraiment fabuleux - mais s'il avait été mis en rapport avec de meilleurs encodeurs, la note obtenue serait certainement plus basse. A noter une baisse significative avec les échantillons du groupe 2.
 
Fraunhofer IIS, Professionnel ACM. L'encodeur arrive dernier, car paie un lourd tribu à son fort lowpass (~12000 Hz). Les encodages réalisés avec cet encodeur se reconnaissent donc immédiatement par leur pauvreté fréquencielle. Mais alors qu'un fort lowpass devrait améliorer la qualité dans la partie fréquentielle restante, cet encodeur présente encore beaucoup de distorsions et d'artefacts - pas moins que certains de ses concurrents. La dégradation est donc double : artefacts nombreux et pauvreté fréquentielle. Le constat est le même pour les échantillons des deux groupes. A ce débit (et uniquement à celui-ci !), mieux vaut donc laisser de côté cet encodeur, malgré sa vitesse appréciable.
 
Fraunhofer IIS, Adobe Audition 1.5. Compte tenu de son prix, et sans oublier le constat fait lors du précédent millénaire de la supériorité des encodeurs Fraunhofer à moins de 128 kbps, c'était l'encodeur qui aurait pu prétendre à la première place. Mais en plus d'être largement distancé par LAME, cet encodeur doit encore faire face à la concurrence de l'encodeur de Real/Helix, presque aussi bon sur les échantillons du premier groupe. Les encodages sont donc honorables, mais présentent souvent les distorsions assez marquées. Le VBR est mal géré : c'est le seul encodeur à donner une qualité supérieure aux échantillons du groupe 2, malgré le fait que ceux du groupe 1 aient bénéficié d'un meilleur préparamétrage (Q30 contre Q20) ! La forte amplitude dynamique des échantillons du premier groupe trouble sévèrement le modèle VBR de cet encodeur. Malgré cela, le CBR et son fort lowpass auraient probablement conduit à un résultat pire. La performance avec les échantillons du second groupe est par contre plus satisfaisante.
 
Apple : iTunes 4.9 / QuickTime 7.02. On retiendra le fort déséquilibre entre les deux groupes d'échantillons : de passable avec le classique, à mauvais avec la musique variée. C'est de loin l'encodeur qui offre les pires artefacts de compression de toute la série, alors même qu'il bénéficie du débit d'encodage le plus élevé de la poule ; c'est le seul aussi qui parvient à offrir des résultats inférieurs à l'encodeur très lowpassé qu'est Fhg.IIS ACM, malgré un lowpass mesuré pour iTunes à 16000 Hz (le plus élevé de la poule). La casse pourrait peut-être être minimisée en utilisant un rééchantillonnage à 32 KHz, et un lowpass moins optimiste. Mais en l'état actuel, la qualité obtenue est souvent impossible.
 
Real/Helix : version 5. L'encodeur ultra-rapide de Real s'en sort globalement bien, et rivalise presque à ce débit avec l'encodeur "PRO" et coûteux de Fraunhofer, et ce malgré l'utilisation d'un préparamétrage unique (-V20) pour les deux groupes. C'est une sacré performance pour cet encodeur autrefois connu sous le nom de XING, et qui a subi un toilettage réussi après avoir changé de propriétaire.
 
 
=> LAME représentera le MP3 lors de l'épreuve finale. Fraunhofer IIS 'Adobe Audition' et Real/Helix occupent la seconde place. Real est talonné par iTunes, lui-même accroché par Fraunhofer IIS ACM.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:21:39
Reply

Marsh Posté le 09-08-2005 à 17:14:01    

POULE No.2 : AAC-LC Nero
 
 
A l'instar du test précédent, je consacre une poule à la détermination du meilleur encodeur embarqué dans Nero. Je rappelle que le logiciel inclut deux encodeurs différents (que l'utilisateur peut appeler par les modes 'high' ou 'fast' / 'haut' ou 'lent' ). En outre, ces deux encodeurs proposent un mode VBR en plus du mode CBR. Des 4 combinaisons possibles, je n'en retiens que trois, puisque Nero AAC 'fast' en VBR n'offre aucun paramétrage permettant d'atteindre 96 kbps. A noter également que l'encodage VBR 'high' a déjà été testé précédemment - et n'ayant déjà pas convaincu face au CBR 80 'fast', il n'a aucune chance face au même encodeur paramétré à 96 kbps.
 
Sont donc inclus dans ce test :
 
Nero AAC Codec 3.2.0.15 “fast” CBR 96
Nero AAC Codec 3.2.0.15 “high” CBR 96
Nero AAC Codec 3.2.0.15 “high” VBR ::radio:: [87 kbps sur 185 échantillons]
 
 
Résultats :
 
http://audiotests.free.fr/tests/2005.07/96/96TEST_PLOTS_02.png
 
(le tableau analytique des résultats peut être consulté ici, et le graphique peut-être comparé avec celui du test à 80 kbps)
 
 
Sans surprise, l'encodeur 'fast' arrive en tête, surclassant sans peine ses cousins. Sans surprise encore, c'est avec les échantillons du groupe 1 que s'exprime pleinement l'encodeur. Ces notes réservent néanmoins une surprise, car je m'avoue étonné de voir cet encodeur dominer encore très largement l'encodeur 'high' sur les échantillons du groupe 2, car c'est pour ce groupe qu'est optimisé cet encodeur (ce qui peut être confirmé par la supériorité de la note obtenue par les encodages CBR & VBR 'high' sur les échantillons du groupe 2). Les caractéristiques n'ont pas changées : l'encodeur 'high' souffre de graves distortions, de gommage du bruit de fond et de signaux de faible intensité, ce qui provoque de nombreux artefacts ainsi qu'une sonorité fortement distordue. L'encodeur 'fast' est exempt de ces troubles, mais peine en d'autres circonstances, de mainère plus ponctuelle et aussi moins grave.
 
 
=> l'encodeur 'fast' en CBR 96 représentera le Nero à l'occasion de la poule suivante.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:22:37
Reply

Marsh Posté le 09-08-2005 à 17:16:08    

POULE No.3 : AAC-LC (Nero, iTunes, faac, Real)
 
 
On retrouve pour cette poule les participants de la dernière épreuve : Nero 'fast' CBR, iTunes CBR (toujours pas de VBR disponible), faac VBR (ABR toujours excessivement 'lowpassé'). S'ajoute Real AAC, que je peux désormais aisément tester grâce à l'aide précieuse de kurtnoise.
 
Figurent dans cette poule :  
 
faac 1.24.1 –q82
iTunes v4.9.0.17 / QuickTime 7.0.2 CBR 96  
Nero AAC Codec 3.2.0.15 “fast” CBR 96
Real Producer 11.0.0.1897 CBR 96  
 
 
Résultats :
 
http://audiotests.free.fr/tests/2005.07/96/96TEST_PLOTS_03.png
 
(le tableau analytique des résultats peut être consulté ici, et le graphique peut-être comparé avec celui du test à 80 kbps)
 
faac 1.24.1 –q82. A 80 kbps, faac était arrivé dernier, et au plus bas de l'échelle (1 point à peine). A 96 kbps, la qualité commence à quitter les abîmes de médiocrité dans lequel était précédemment embourbé l'encodeur. On constate également que faac obtient de meilleurs résultats sur les échantillons du groupe 1, et ce malgré un débit moyen inférieur à celui alloué pour les échantillons du groupe 2. Cependant, ses rivaux restent encore tous largement meilleurs.
 
iTunes v4.9.0.17 / QuickTime 7.0.2 CBR 96. L'encodeur d'Apple conserve ici sa première place, et la conforte même. Lors de l'évaluation à 80 kbps iTunes dépassait d'un cheveu à peine l'encodeur de Nero, et devait sa victoire à la seule avance obtenue avec les échantillons du groupe 2. Ici, iTunes est sans aucun rival avec les échantillons du groupe 1, et distance également d'une tête Nero sur ceux du groupe 2. Seul Real parvient encore à la cheville d'iTunes sur ce groupe d'échantillons. On retiendra donc que contrairement au test précédent, les encodages iTunes perdent un peu de leur homogénéité qualitative.
 
Nero AAC Codec 3.2.0.15 “fast” CBR 96. On retrouve dans cette épreuve les caractéristiques notées précédemment : meilleures performances avec les échantillons du groupe 1. Toutefois, cette optimisation reste insuffisante pour pouvoir resister encore à l'encodeur d'Apple ; et malgré le peu d'échantillons testés ici, l'analyse est formelle : iTunes surpasse Nero avec plus de 95% de certitude et ce dans chacun des deux groupes d'échantillons.
 
Real Producer 11.0.0.1897 CBR 96. Le nouvel arrivé se débrouille remarquablement bien, faisant jeu égal avec le meilleur des encodeurs de Nero. La qualité est globalement la même : Real AAC étant légèrement inférieur sur des 25 échantillons du groupe "classique" et légèrement supérieur sur les 15 du groupe "varié".
 
 
=> iTunes arrivant incontestablement premier, il représentera le format AAC lors de l'épreuve finale. Nero et Real sont deuxième ex-æquo, et faac arrive quatrième, loin derrière.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:23:31
Reply

Marsh Posté le 09-08-2005 à 17:16:23    

POULE No.4 : Ogg Vorbis
 
 
J'avais lors du test précédent fait figurer un encodage ABR, afin de savoir surtout si le modèle VBR de Vorbis était fiable à bas débit. Le VBR s'étant imposé sans mal, il devenait inutile de refaire le test à un débit plus élevé, avec lequel les risques de plantages du VBR sont encore réduits. J'ai donc retenu comme mode d'encodage le VBR pour tous les encodeurs évalués. Et comme il n'y a que deux encodeurs Vorbis pouvant faire l'objet d'un test, la poule sera limitée à deux participants.
Aux côtés de la version officielle (SVN) de Vorbis, qui a été légèrement mise à jour depuis l'épreuve à 80 kbps pour atteindre le numéro de version 1.1.1, figure à nouveau le vainqueur de la précédente édition : Vorbis aoTuV beta 4. Très sincèrement, la nécessité d'un tel test peut-être remise en question, tant il est probable de voir aoTuV s'imposer à nouveau. Cependant, il était intéressant pour moi de vérifier l'importance des apports perceptifs de cette version de Vorbis sur un matériel de qualité moindre (PC portable intégrant des composants audio bas de gamme), qui tend à gommer les subtilités, et donc au nivellement du rendu.
Au débit d'aoTuV beta 4 à -q2 correspond celui de la version 1.1.1 SVN à -q2,25 : 95 kbps (ou 98 kbps selon MrQuestionMan).
 
Figurent dans cette poule :  
 
Vorbis SVN 1.1.1 –q2,25
Vorbis aoTuV beta 4 -q2  
 
 
Résultats :
 
http://audiotests.free.fr/tests/2005.07/96/96TEST_PLOTS_04.png
 
(le tableau analytique des résultats peut être consulté ici, et le graphique peut-être comparé avec celui du test à 80 kbps)
 
 
Vorbis SVN 1.1.1 –q2,25. La version officielle de Vorbis obtient pour les deux groupes d'échantillons une note élevée, et les résultats sont homogènes. Or, à 80 kbps, j'avais constaté un déséquilibre qualitatif en faveur du groupe 2. En somme, l'élévation du débit a été plus profitable aux échantillons de musique classique. A l'instar du test précédent, la version officielle de Vorbis (qui correspond, je le rappelle, à la beta 2 d'aoTuV) est légèrement inférieure à aoTuV beta 4. Cette infériorité est certes faible mais elle est constante : lorsqu'une différence est perçue c'est presque toujours en faveur du même encodeur - et c'est ce qui exlique la faible taille des plots, d'habitude plus étirés.
 
Vorbis aoTuV beta 4 -q2. Cet encodeur s'impose face à la version officielle. Les notes obtenues à ce débit sont d'ailleurs prodigieuses, et dépassent les 4 points pour les deux groupes d'échantillons. A ce stade du test, la double-performance d'aoTuV est simplement unique ! aoTuV beta 4 progresse à son tour davantage avec les échantillons du groupe 1 ; mais c'est cependant la première fois qu'un encodeur vorbis obtient une note supérieure pour ce groupe consacré à la musique classique. Je rappelle qu'à 80 kbps aoTuV et 1.1 faisaient jeu égal sur le groupe 1 - or ici, aoTuV surpasse avec certitude la version officielle. Par contre, l'emprise auparavant évidente d'aoTuV sur le groupe 2 est réduite à 96 kbps : 1/3 des échantillons de ce groupe m'a semblé supérieur avec l'encodeur officiel, alors que ce rapport tombe à 10% avec le groupe 1.
 
 
=> aoTuV beta 4 représentera l'Ogg Vorbis lors de l'épreuve finale.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:23:59
Reply

Marsh Posté le 09-08-2005 à 17:16:44    

POULE No.5 : WMA 9.1
 
 
A l'instar de l'évaluation à 80 kbps, le WMA à 96 kbps peut être utilisé en CBR comme en VBR. Le paramétrage correspondant est Q50, dont le débit est de 91 kbps pour les 150 échantillons du groupe 1 et de 104 kbps pour ceux du groupe 2.
 
Sont donc inclus dans ce test :
 
WMA 9.1 CBR 96 kbps
WMA 9.1 VBR Q50
 
 
Résultats :
 
http://audiotests.free.fr/tests/2005.07/96/96TEST_PLOTS_05.png
 
(le tableau analytique des résultats peut être consulté ici, et le graphique peut-être comparé avec celui du test à 80 kbps)
 
 
WMA 9.1 CBR 96 kbps. D'honorable avec les échantillons du groupe 1, le WMA CBR dégringole avec ceux du groupe 2. La chute est surprenante, et en enregistrant un écart de presque un point entre les deux groupes on assiste à l'écart le plus important pour l'ensemble des cinq poules réunies. Cette différence est liée au principal type de dégradation consécutif à l'encodage CBR : une forte métallisation du signal, notamment dans le haut du spectre. Cette coloration est plus ou moins prononcée selon les échantillons, et si elle est parfois imperceptible avec des échantillons du groupe 1, elle vire souvent à la caricature avec ceux du groupe 2, au point de rendre accessoire toute autre forme de distortions (pré-écho, lowpass, etc...).
 
WMA 9.1 VBR 50. On retrouve ici le même déséquilibre qualitatif en faveur des échantillons du premier groupe, avec cependant un écart réduit. Les encodages WMA VBR sont légèrement moins bons que ceux réalisés en CBR avec les échantillons de musique classique, et sensiblement identiques avec ceux du second groupe. Les encodages VBR ne souffrent pas des mêmes défauts que ceux rencontrés par le mode VBR ; les deux types d'encodages sont d'ailleurs si racés que je peine à croire qu'il s'agisse du même format. A la métallisation terrible des timbres des encodages CBR répond un lowpass assez (trop ?) marqué avec les encodages VBR : environ 13000 KHz, soit le plafond le plus bas rencontrés dans ces poules pour un encodage VBR. Etrangement, ce plafond est identique à celui correspondant au mode Q25 testé précédemment. J'aurais espéré que l'élévation du débit aurait permis de rehausser ce seuil, qui à ce débit est discriminatoire. La faible note de ces encodages VBR doit beaucoup à ce fort lowpass, au point de parfois lui préférer l'apport fréquentiel à tendance métallisante des encodages CBR, dont le lowpass grimpe à 16000 Hz environ.
 
L'évaluation qualitative des deux encodages a fait l'objet d'un dilemme permanent, car j'étais contraint de donner une préférence à deux formes de dégradations bien souvent trop violentes. Je terminais cette poule avec un arrière-goût d'incertitude, conscient de la fragilité de mes choix. Seule certitude : la qualité des deux types d'encodage est très clairement en retrait par rapport à ce qui m'a été donné d'entendre lors des quatre poules précédentes, et quel que soit le choix opéré, le WMA risque fort d'arriver dernier.
 
 
=> L'encodage CBR 96 obtenant la meilleure moyenne, il représentera le format WMA lors de l'épreuve finale.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:24:34
Reply

Marsh Posté le 09-08-2005 à 17:17:00    

POULE No.6 : MPC
 
 
Tester le MPC à ce débit peut sembler incongru. D'un point de vue pratique, ça l'est assurément : il est peu probable que ce format soit utilisé de façon régulière à moins de 100 kbps. Mais pour le passionné ou simplement pour le curieux, il sera intéressant de savoir où exactement se situe le MPC par rapport à ses rivaux à un tel débit. Après tout, il était courant d'affirmer il y a deux ans encore que ce format ne valait pas tripette à 130 kbps. Mais après deux tests menés collectivement donnant contre toute attente le MPC vainqueur dans cette tranche de débit, il devient parfaitement raisonnable de questionner les a-priori et les préjugés circulant autour des performances de ce format à un débit inférieur. D'autant plus que certaines personnes ayant pris la peine de mener quelques tests ont signalé de par le passé le potentiel du MPC à moins de 100 kbps. Et même en cas de performances désastreuses, les données collectées aujourd'hui serviront demain lorsque le MPC sera testé à un débit supérieur.
 
 
MPC 1.01j --thumb. J'ai récemment comparé cet encodeur, qui occupa jadis et pendant un court laps de temps la position d'encodeur recommandé, aux encodeurs MPC les plus récents. Sur une quinzaine d'échantillons de musique classique, l'encodeur 1.01j était apparu comme le plus performant mais aussi le plus efficient des deux. Dès lors, inclure cette version de mppenc.exe dans la poule devient une nécessité. L'encodeur est daté du mois de mai 2002. Détail important : cet encodeur est antérieur à l'introduction de l'échelle VBR finement graduée, et ne comporte donc que quelques profils d'encodages (--telephone, --thumb, --radio, --standard...).
 
MPC 1.14 --quality x.xx. Cette version est la dernière version beta de l'encodeur, rendue publique en janvier 2003. Dans la taxinomie qui a cours avec ce format, les versions beta apportent des optimisations jugées sûres pour un emploi quotidien. Détail généralement accessoire mais ici crucial, cette beta est plus efficiente que les versions alpha sorties ultérieurement : le débit d'encodage est inférieur de quelques kbps pour une qualité perceptuelle inchangée sauf en de très rares occasions. Cette économie, dérisoire avec les profils d'encodage généralement utilisés, peut s'avérer décisive lorsque l'utilisateur exige un débit sévèrement contrôlé.
 
MPC 1.15v --quality x.xx. Cette dernière version potentiellement testable est une version alpha, normallement non-recommandée pour un usage permanent et donc réservée aux seuls tests. Elle ne présente que très peu d'innovations par rapport à la dernière beta (1.14), dont aucune concernant les faibles débits. Un test opposant 1.14 et 1.15v est dès lors superflu.
 
 
Je ne me suis pas risqué à lancer une poule qualitative pour le MPC. Ce n'est pas par paresse (une poule comprendrait entre 80 et 120 évaluations, chiffres dérisoires comparés aux 1750 que comprend l'intégralité de ce test, et que je peux sans difficulté supporter), mais par manque de pertinence des compétiteurs présentés :
 
La version 1.01j --thumb conduit à des débits de 91 kbps (gr.1) et 84 kbps (gr.2), ce qui est trop peu. Le profil d'encodage supérieur (--radio) mène directement à des débits supérieurs à 130 kbps.
 
La version 1.15v --thumb/--quality 3 conduit à des débits de 109 kbps (gr.1) et 100 kbps (gr.2), ce qui est excessif. Il me serait toujours possible d'utiliser un indice VBR légèrement inférieur (--quality 2.80 par exemple), mais dans ce cas, le profil d'encodage rétrograderait à "telephone", peu flatteur et sans doute peu judicieux.
 
Des trois versions présentées seule la 1.14 --thumb/--quality 3 offre un débit compatible avec les règles de tolérance fixées en début de test. Le débit mesuré est ainsi de 103 kbps (gr.1) et 95 kbps (gr.2). L'embonpoint présentée par la version 1.15v est comme redouté plus haut particulièrement discriminant : il atteint 7 kbps avec le premier groupe et 5 avec le second. A moins de 100 kbps, ces excès sont préoccupants.
 
 
=> L'encodeur 1.14 étant le seul à pouvoir être testé au profil --thumb, il représentera le format MPC lors de l'épreuve finale.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:25:06
Reply

Marsh Posté le 09-08-2005 à 17:17:20    

PHASE FINALE : AAC-LC vs MP3 vs MPC vs Vorbis  vs WMA std  :  récapitulatif
 
 
 
Ont donc été sélectionnés selon des critères qualitatifs les encodeurs suivants :
 
AAC-LC : iTunes 4.9 / QuickTime 7.02     CBR 96
MP3 : LAME 3.97 alpha 11     --abr 99
MPC : mppenc 1.14     --xlevel --quality 3 (ou --thumb)
Ogg Vorbis : aoTuV / LANCER beta 4 based on SVN 1.1.1   -q2,00
WMA Standard : 9.1 Serie     CBR 96
 
N.B. On signalera deux changements depuis les poules :  
 
• l'encodage
LAME MP3 passe de --abr 101 [poules] à --abr 99, afin de rapprocher au maximum le débit moyen de celui des différents compétiteurs.
• l'encodeur
Vorbis utilisé correspond à la version optimisée SSE nommée LANCER, et qui apporte un gain de vitesse de 50% sur les processeurs modernes sans porter atteinte à la qualité.
 
 
Nous avons ainsi deux encodages CBR (AAC & WMA), un encodage ABR (LAME) et deux encodages VBR (MPC & Vorbis). Le débit mesuré par foobar2000 des encodages VBR est de :  
 
AAC-LC : 96 kbps
MP3 : 96 kbps soient 95 kbps pour le groupe 1, 98 kbps pour le groupe 2.
MPC : 100 kbps soient 103 kbps pour le groupe 1, 95 kbps pour le groupe 2.
Vorbis : 95 kbps soient 93 kbps pour le groupe 1, 99 kbps pour le groupe 2.
WMA Std : 96 kbps
 
 
=> le débit est ainsi mesuré présente entre les formats un écart qui n'excède pas 5 kbps entre les cas extrême, 4 des 5 formats mis en compétition présentant un débit moyen identique à 1 kbps près ! Le MPC est seul à bénéficier d'un léger avantage, avec un débit moyen de 100 kbps. L'équité entre les différents participants est donc largement respectée.
 
 
Il ne me reste plus qu'à ajouter les référents (anchors). Je rappelle que les référents sont des encodages de qualité plus basse ou plus élevé que les compétiteurs évalués. Ils permettent donc de limiter l'amplitude accordée à la notation, en empêchant de donner une note trop basse aux plus mauvais des participants et trop hautes aux meilleurs d'entre eux. Cependant, ajouter deux autres encodages aux 5 déjà inclus alourdi considérablement le test (ce ne sont pas moins de 185x2 soient 370 évaluations supplémentaires à effectuer, qu'il faudra soigneusement hiérarchiser). Pour limiter la pénibilité du travail, j'ai pris la décision de sacrifier le référent bas afin de ne conserver que le référent haut. Ce dernier est identique à celui utilisé précédemment : un encodage MP3 à 128 kbps.
 
MP3 : LAME 3.97 alpha 11     --abr 131
DÉBIT : 126 kbps soient 124 kbps pour le groupe 1, 128 kbps pour le groupe 2.
 
 
Tester une seconde fois le même encodeur présente un avantage inestimable : je m'assure de la possibilité de croiser les résultats obtenus entre les deux tests. En effet, pour qu'une comparaison pertinente soit possible, il faudra que les notes obtenues par le référent haut soient similaires à celles obtenues précédemment. Si pour diverses raisons (changement de matériel, relachement ou sévérité accrue des exigences...) ma notation diffère par trop de celle du test à 80 kbps, je pourrais toujours tenter de les "corriger" en appliquant la même différence à chacun des formats testés.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:25:28
Reply

Marsh Posté le 09-08-2005 à 17:17:43    

RESULTATS : GROUPE 1 (musique classique)
 
 
http://audiotests.free.fr/tests/2005.07/96/96_TEST_PLOTS_06a.png
 
 
 
CLASSEMENT
 
 
1er : référent haut, donc un encodage à ~125 kbps
2èmes : Vorbis et AAC, statistiquement ex-æquo.
4ème : MP3
5ème : WMA
6ème : MPC, très en retrait.
 
 
COMMENTAIRES D’ENSEMBLE
 
 
On retrouve à 96 kbps de fortes disparités entre les différents formats, plus fortes d'ailleurs que celles mesurées à 80 kbps. L'écart maximal entre les encodages à 80 kbps qui était de 1,30 points (WMA=1,54 | Vorbis=2,87) passe maintenant à 1,70 points (MPC=1,88 | Vorbis=3,58). Par contre, les écarts se resserrent pour la plupart des outils : MP3, AAC et Vorbis (+ MP3 à 128) ne sont pas si éloignés qualitativement les uns des autres. A 96 kbps la qualité d'encodage sur ce type de musique est dans l'ensemble satisfaisante avec le MP3, l'AAC et Vorbis. Elle reste néanmoins insuffisante avec le WMA, et véritablement impossible avec le MPC - qui je le rappelle bénéficie paradoxalement du débit d'encodage le plus élevé. Aucun de ces formats paramétré à 96 kbps ne parvient encore à rivaliser avec le MP3 à 128 kbps. Nous somme donc très loin des promesses marketing et des idées reçues en circulation.
 
 
COMMENTAIRES FORMATS PAR FORMATS ET DIFFÉRENCES ENTRE CATÉGORIES DU GROUPE CLASSIQUE
 
 
Le graphique suivant présente les résultats obtenus par chacun des participants sur les trois principaux sous-ensembles du groupe 1.
 
http://audiotests.free.fr/tests/2005.07/96/96_TEST_COMPA_GR1_E_S_V.png
 
 
 
référent haut (MP3 LAME 3.97a11) [ABR 131] : Je débute par le référent haut, afin de mettre immédiatement en lumière la petite différence de notation obtenue ici par rapport au test à 80 kbps : 0,13 points (3,83 - 3,70). L'écart aurait du être nul théoriquement ; sans l'être, il n'en demeure pas moins très faible. Les écarts particuliers sont souvent plus importants, mais la présence de 150 échantillons les annule presqu'entièrement grâce à la magie des lois des grands nombres. Je suis enclin à penser que ce petit dixième de point restant a pour cause la différence de matériel d'écoute, liée au passage d'une bonne carte son amplifiée exterieurement à un composant d'entrée de gamme faiblement amplifié. Cela témoignerait en faveur du peu d'incidence lié au matériel lors d'une comparaison de ce type (faible débit).
La qualité obtenue est dans l'ensemble élevée, mais présente des lacunes avec les échantillons du groupe soliste, le plus difficile pour LAME, qui est ici rejoint par l'AAC et Vorbis. Cette baisse de régime localisée est liée d'une part à la présence massive d'un instrument qui n'a jamais réussi à l'encodeur (le clavecin est représenté par six échantillons) et d'autre part par l'abondance d'instruments très tonals (cordes, vents, orgue...) favorable à l'apparition d'un phénomène dit de warbling (i.e. raclements dans la partie basse du spectre) dont souffre localement la version testée de LAME.
 
 
AAC-LC (iTunes 4.9 / QuickTime 7.02) [CBR 96] : L'AAC progresse de manière importante entre les deux tests (+1,35 points / +1,22 en valeur corrigée). La métamorphose est impressionnante : les distortions flagrantes et la suppression des détails à faible volume font presque parti du passé, en ne devenant plus que rarement ou faiblement perceptibles. 80 kbps ne suffisent donc pas (encore ?) à ce format pour assurer une qualité décente, tandis qu'un apport réduit (16 kbps) permet d'obtenir des résultats en très forte hausse. L'AAC semble donc désarmé en deça de 90 kbps, et ne peut tabler sur le renfort procuré par le profil HE qu'à un débit sensiblement plus faible (~70 kbps). La jonction entre les deux reste à bâtir. On signalera aussi un certain déséquilibre qualitatif avec les encodages iTunes AAC, avec une baisse sensible de performance avec les échantillons du sous-groupe "musique de chambre/orchestrale", sans laquelle l'AAC ferait jeu égal avec Vorbis.
 
Ogg Vorbis (aoTuV / LANCER beta 4 based on SVN 1.1.1) [-q2,00] : l'encodeur le plus équilibré de cette série, qui obtient des notes quasi-identiques avec les trois sous-ensembles d'échantillons (3,56 - 3,58 - 3,60). Cette constance, qui fait écho à une forte homogénéité qualitative des échantillons pris individuellement, peut faire oublier la progression limitée depuis le test à 80 kbps : +0,58 points en valeur corrigée. Vorbis ne profite donc assez peu de l'apport en bit. Les défauts perçus à 80 kbps sont toujours présent : grossiereté des timbres, sonorité épaisse et huileuse - conséquence probable de techniques propres à Vorbis (Point-Stereo et Noise Normalisation) qui lui garantissent certes des performances étonnantes à faible débit mais qui ont tendance à rester collé à ses baskets à débits plus élevés. aoTuV a déjà énormément contribué à la réduction de ces effets indésirables, et l'on peut espérer que les prochaines versions marqueront d'autres progrès en ce sens. D'autres phénomènes pourront également être l'objet d'améliorations : pré-écho qui pourrait être encore atténué, meilleure restitution des détails sur des signaux de type micro-attaques (E19, E50) voire sur les passages présentant de nombreuses micro-informations (E51, S21 par exemple) et enfin une tendance à la distorsion des passages tonaux (S05, S22).
 
MP3 (LAME 3.97 alpha 11) [--abr 99] : Le MP3 n'a pas bonne presse pour les encodages réalisés à moins de 100 kbps. Et pourtant, un bon encodeur parviendrait presque à tenir tête aux formats les plus avancés, du moins avec des échantillons de ce type. Bien entendu, les encodages MP3 évalués ici sont bien loin d'être parfaits, et il ne faut pas attendre longtemps pour rencontrer une distorsion réellement déplaisante. Mais pris dans leur ensemble, les résultats sont flatteurs, notamment avec les échantillons du sous-groupe "voix". La progression enregistrée depuis 80 kbps est la plus forte de tous les participants (+1,34 en valeur corrigée). Le MP3 semble avoir beaucoup en commun avec l'AAC. Tous deux en tous cas présentent les pires difficultés à 80 kbps, pour offrir un tout autre visage à seulement 96 kbps.
Cette qualité étonnante du MP3 doit sans doute beaucoup au rééchantillonnage à 32000 KHz, automatiquement réalisé par LAME, qui doit permettre à l'encodeur de mieux générer la pénurie de bit. LAME est d'ailleurs le seul encodeur parmis ceux testés ici (y compris dans les poules) à opérer un tel rééchantillonnage. En de rares occasions, la qualité à 96 kbps est même supérieure à celle perçue à 128 kbps ! Cette situation incongrue est pour l'essentiel à mettre à l'actif des problèmes de warbling dont j'ai parlé plus haut, et dont les encodages à 96 kbps sont parfois exempts (mais pas toujours).
Pour finir, je ferais remarquer que la note obtenue ici est bien inférieure à celle obtenue lors des poules (qui approchait les 4 points). Preuve si besoin de la nécessité de référents (anchor) pour pouvoir effectuer des comparaisons entre différents tests.

 
MPC (MPPENC 1.14) [--xlevel --quality 3] : La qualité, déjà mauvaise avec les échantillons des deux premiers sous-ensembles, s'enfonce encore un peu plus avec les passages vocaux. Le MPC présente une forme de distorsion unique, assez difficile à décrire : il s'agit d'une forme de ringing assez étrange, croisement improbable entre un cachet effervescent en pleine action et une machine à laver en plein essorage. S'ajoute également le lowpass, le plus bas des participants (13000 Hz environ, contre plus de 15000 Hz au moins pour ses rivaux), et qui saute aux oreilles. Bref, à oublier pour cet usage.
 
WMA (9.1 Standard) [CBR 96] : Le WMA est sensiblement inférieur aux autres formats (mpc excepté), et ne parvient à offrir une qualité décente sur la plupart des échantillons testés. Le WMA présente cependant un comportement atypique. La note s'élève très nettement avec les échantillons du sous-ensemble "soliste". Ce groupe de 55 échantillons en comprend plusieurs pour lesquels le WMA est parfaitement à l'aise et quasiment sans rivaux : les instruments tonaux. Que ce soient les instruments à cordes (erhu : S04 ; viole de gambe : S05 ; violon : S07 & S09), l'orgue (S17, 18, 19, 22), les instruments à vent (l'accordéon : S32 ; la cornemuse : S44 ; la clarinette : S47 ; la flute : S49 ; le saxophone : S53) et surtout quelques raretés ultra-tonales (comme l'harmonica de verre : S34 et les ondes Martenot : S37) pour lesquelles le WMA obtient la note 5/5 - bref, l'adéquation de cet encodeur pour l'ensemble de ces instruments fait bien plus que de masquer les défaillances traditionnelles de ce format audibles avec plusieurs autres échantillons. Cette disparité qualitative se retrouve à l'identique avec les échantillons du groupe "voix", dont les échantillons lyriques de type soliste sont nettement mieux rendus par l'encodage WMA que les échantillons de nature chorale (cf. cet aperçu posté à chaud pour plus d'infos).


Message édité par gURuBoOleZZ le 29-12-2005 à 23:26:26
Reply

Marsh Posté le 09-08-2005 à 17:19:17    

RESULTATS : GROUPE 2 (musique 'variée')
 
 
http://audiotests.free.fr/tests/2005.07/96/96_TEST_PLOTS_06b.png
 
 
 
CLASSEMENT
 
 
1er : Vorbis aoTuV, seul en tête
2ème : référent haut (MP3 LAME, 128 kbps)
3ème : AAC (iTunes)
4ème : MP3 (LAME, 96 kbps)
5ème : WMA (9.1)
6ème : MPC (1.14)
 
 
COMMENTAIRES D’ENSEMBLE
 
 
La hiérarchie de ce second groupe présente certains changements, dont le plus remarquable concerne le MP3 à 128 kbps, défait par un encodeur à 96 kbps, savoir : Vorbis aoTuV. Enfin ! dirais-je... depuis le temps que l'on nous promet des encodages capables à débit moindre de faire aussi bien que le mythique MP3 à 128 kbps... Vorbis de surcroît surpasse ici le MP3. Comme il s'en fallait d'un rien pour qu'aoTuV parvienne à la cheville du MP3 à 80 kbps, on peut en déduire que pour les échantillons de ce groupe, Vorbis parvient à faire jeu égal avec le MP3 à 128 quelque part entre 81 et 95 kbps.
On peut noter également que malgré le nombre limité d'échantillons testés, les écarts relevés sont validés statistiquement : aucun encodeur n'arrive ex-æquo avec un autre ; tous présentent une infériorité/supériorité dont la certitude dépasse les 95%.

 
 
ANALYSE FORMATS PAR FORMATS ET DIFFÉRENCES ENTRE GROUPE 1 ET GROUPE 2
 
 
Le graphique suivant présente côte à côte les résultats obtenus lors de chacun des deux groupes, afin de mieux voir homogénéité et hétérogénéité qualitatives.
 
http://audiotests.free.fr/tests/2005.07/96/96_TEST_COMPA_GR1_GR2.png
 
 
référent haut (MP3 LAME 3.97a11) [ABR 131] : Entre les deux tests (80 et 96 kbps), l'écart de notation du référent haut tombe à 0,06 points seulement. Ce chiffre est dérisoire, et rend même inutile toute présentations de valeurs corrigées. La qualité d'encodage de LAME à 128 kbps est, en plus d'être élevée, remarquablement homogène, et tout juste constate-t-on une légère diminution des performances entre musique classique et musique variée.
 
AAC-LC (iTunes 4.9 / QuickTime 7.02) [CBR 96] : L'encodeur d'iTunes est une nouvelle fois revigoré par les 16 kbps apportés par les encodages à 96 kbps (+1,20 points). Musique classique et musique variée déclenchent donc les mêmes réactions. A cette similitude répond la belle homogénéité d'iTunes AAC, déjà remarquée lors des poules, et mêmes lors de l'évaluation à 80 kbps, puisque la note obtenue pour le groupe 1 (3,43) et celle obtenue pour le groupe 2 (3,37) sont quasi-identiques. Enfin, on signalera que contrairement au groupe 1, l'infériorité d'iTunes AAC par rapport à vorbis aoTuV est ici validée avec une certitude supérieure   à 99%.
 
Ogg Vorbis (aoTuV / LANCER beta 4 based on SVN 1.1.1) [-q2,00] : Le grand champion, incontestablement ! Les résultats notés à 80 kbps sur ce groupe étaient déjà extraordinaires, et j'avoue en toute franchise que je pensais voir les performances stagner. Or, les progrès mesurés atteignent les 0.7 points, ce qui permet à Vorbis de franchir la cîme des 4 points, soit la note la plus élevée tout encodeur et tout groupe confondu ! La sonorité pâteuse que l'on peut souvent déplorer avec les 150 échantillons classique est considérablement estompée. Peut-être est-elle plus facile à masquer avec ce type de signaux.
Vorbis reste donc l'un des rares formats offrant une qualité supérieure avec la musique variée. Ce phénomène avait déjà été observé lors du comparatif précédent (80 kbps). Mais à mon grand étonnement, cet écart de 0,47 point, et que je pensais voir partiellement fondre avec l'élévation du débit, est stationnaire (à 80kbps : 2,87 & 3,33 soit 0,46 point). Je doute cependant que cet écart puisse encore subsister à débit supérieur, car la marge de progression pour les échantillons du groupe 2 est désormais très réduite.

 
MP3 (LAME 3.97 alpha 11) [--abr 99] : La belle performance notée précédemment est ternie par la qualité générale du MP3 sur ce type de musique. Les limites du MP3 à ce débit sont plus fréquemment atteintes avec les échantillons de ce groupe qu'avec les 150 de musique classique. 96 kbps ne suffisent donc pas au MP3, malgré le bond qualitatif extraordinaire réalisé par l'ajout de 16 kbps (+159 points, soit la progression mesurée la plus importante de l'ensemble de ce test).
 
MPC (MPPENC 1.14) [--xlevel --quality 3] : de catastrophique avec la musique classique (1,88), les résultats devienne plus acceptable avec le second groupe (2,44). On reste loin des performances naguère reportées par certains utilisateurs. Le MPC n'est certainement pas adapté à ces débits - plus aujourd'hui en tous cas. Ce test confirme donc et sans grande surprise une idée largement partagé. En revanche, il apporte un éclairage assez violent sur le contraste existant entre les performances obtenues avec la musique classique et la musique variée. Est-ce à dire que le MPC a surtout été optimisé pour l'un en négligeant les spécificités de l'autre ? Je suis tenté de le croire.
 
WMA (9.1 Standard) [CBR 96] : Ce format est décidemment atypique. Il est le seul à ne pas se comporter comme ce qui avait été noté avec les échantillons de musique classique, et n'offre en guise de progrès depuis 80 kbps sur ce groupe qu'un saut de puce de 0,2 points. Cette contre-performance est sans doute à mettre sur le compte du changement de mode d'encodage entre les deux tests (VBR précédemment, et CBR ici). Ce changement a deux conséquence :
1/ d'une part, l'augmentation du débit entre les deux tests est très faible : de 88 kbps précédemment (sur le groupe 2) à 96 kbps, soient 8 kbps à peine. Avec ce mince avantage, il devenait difficile d'espérer des changements significatifs.
2/ l'apparition de défauts absolument insupportables, propre à ce débit de 96 kbps aux encodages CBR. Les encodages VBR souffrent essentiellement de lowpass ; les encodages CBR de métallisation du signal. Lors de la poule, j'avais beaucoup de peine à faire mon choix entre les deux tares. J'avais opté pour le CBR, qui présentait un résultat globalement supérieur, avec même de bonnes surprises par endroit (confirmées avec le sous-groupe "soliste" du groupe d'échantillons dédié à la musique classique.
Par voie de conséquence, WMA 9.1 est le seul encodeur se caractérisant par une telle disparité qualitative entre musique classique et musique variée (0,9 point d'écart : un record). Ses performances sont tellement désastreuses sur le groupe 2 que la note obtenue est inférieure à celle du MPC sur le groupe 1, ce qui n'est pas mince comme contre-performance. La qualité est en outre certainement moindre que celle de l'AAC et de Vorbis à 80 kbps, qui avaient alors tous deux obtenus une note supérieure à 2 points. Peut-être serait-il temps pour Microsoft de passer à un autre format, comme le WMAPro.


Message édité par gURuBoOleZZ le 29-12-2005 à 23:26:55
Reply

Marsh Posté le 09-08-2005 à 17:19:17   

Reply

Marsh Posté le 09-08-2005 à 17:19:52    

APPENDICES, LIENS ET NOTE PROVISOIRE
 
 
J'ai profité de la nuit pour poster sereinement l'intégralité du test sous forme de multiples messages (une protection du forum interdit de poster plus de trois messages par tranche de 10 minutes).
Certains éléments sont manquants, notamment :  
 
- table de débit
- tables de résultats (les cibles des liens sont donc mortes, ou plus exactement pas encore nées)
- et diverses petites choses qui demain peut-être
 
Ce dernier envoi sera donc mis à jour.
 
 
COMPARAISON DIRECTE ENTRE RESULTATS A 80 KBPS ET A 96 KBPS : GROUPE 1
 
http://audiotests.free.fr/tests/2005.07/96/96_TEST_COMPA_GR1_80_96.png
 
 
COMPARAISON DIRECTE ENTRE RESULTATS A 80 KBPS ET A 96 KBPS : GROUPE 2
 
http://audiotests.free.fr/tests/2005.07/96/96_TEST_COMPA_GR2_80_96.png


Message édité par gURuBoOleZZ le 29-12-2005 à 23:27:17
Reply

Marsh Posté le 09-08-2005 à 17:22:10    

Certains l'auront peut-être noté, la diffusion de notre précédente émission a été interrompue pour des raisons techniques. Nous vous prions de nous en excuser, et de profiter de la rediffusion intégrale de la série. Bonne lecture, et merci à tous, en particulier Hafrexx ainsi que Gabriel pour son secours technique.

Reply

Marsh Posté le 10-08-2005 à 11:16:28    

Ben ça baisse les arguments ... lol
 
1) Ce n'est pas mon "site" : on était 5 pour le construire à l'origine
2) Ce n'est pas une page redigée par moi (Scorpion si tu m'écoute)
3) Le site n'as jamais été finis (Normalement le test audio devait être un blind test fait par Scorpion)
4) Je suis même étonné que la page en question soit dispo (me demande même si les bitrate donnés n'ont pas été placé au hasard pour remplir les cases ... lol)
5) Le site n'as pas été updaté depuis 2 ans ... les liens de menu ne correspondent même plus au contenu des pages
6) Le compte free ne me sert plus que pour faire des upload de fichiers
 
La page de test que j'ai écrite c'est celle là (c'est vieux et plus d'actualité)
http://multimediacom.free.fr/HTM/3 [...] _Video.htm
 
Ou encore celle-là nettement plus recente
http://forum.doom9.org/showthread.php?t=90784
 

Citation :


Faux. J'ai expliqué, tables de débits à l'appui, que ce n'est pas réalisable #de faire du WMA9 Pro à 80/96#


 
Ben je te fais les encodages si tu veux. Comme je te l'ai déjà dis dans ton protocole tu dois avoir un preset qui te sort le target choisi . Pas de chance avec WMA9 pro et fast VBR il n'y en a pas qui correspondent donc tu ne peux tester. par contre tu as de la chance avec MPC il y a un profil qui correspond (légèrement sup quand même) à 96 Kbps sur une obscure build beta intermédiaire entre la version stable et la dernière version alpha ...
 
En melangeant les encodages q10 et q25 tu pourrais faire des groupes wma9 pro et en melangeant les preset "radio" et "internet" tu pourrais faire des groupes des au bitrate global désiré. Ce n'est pas plus abherrant que de faire des encodages en CBR, ABR ou VBR dans un même test ...
 
Il y a même moyen de faire beaucoup mieux avec le WMA9 STD/PRO. Je ne sais pas ce que cela donne vraiment au niveau qualité mais il est possible de faire du 64, 80, 96 Kbps au kbps prés avec le WMA9 Pro.
WMA9 Pro 2 pass 44.1 Khz 24 bits : target bitrate 83 Kbps (pour être proche du AAC à 82 et Ogg à 84)
http://multimediacom.free.fr/CDRTest/WMA9PRO-80.rar
WMA9 Pro 2 pass 44.1 Khz 24 bits : target bitrate 99 Kbps (pour être proche du AAC à 98 et Ogg à 101)
http://multimediacom.free.fr/CDRTest/WMA9PRO-96.rar
 

Code :
  1. |------------------|----------|----------|
  2. | Codec            | WMA9 PRO | WMA9 PRO |
  3. | RC Mode          |  M3-80K  |  M3-96K  |
  4. |------------------|----------|----------|
  5. | 41_30sec         |   ~83    |   ~99    |
  6. | ATrain           |   ~83    |   ~99    |
  7. | BigYellow        |   ~83    |   ~99    |
  8. | Blackwater       |   ~83    |   ~99    |
  9. | bodyheat         |   ~83    |   ~99    |
  10. | chanchan         |   ~83    |   ~99    |
  11. | DaFunk           |   ~83    |   ~99    |
  12. | death2           |   ~83    |   ~99    |
  13. | EnolaGay         |   ~83    |   ~99    |
  14. | experiencia      |   ~83    |   ~99    |
  15. | FloorEssence     |   ~83    |   ~99    |
  16. | getiton          |   ~83    |   ~99    |
  17. | gone             |   ~83    |   ~99    |
  18. | Illinois         |   ~83    |   ~99    |
  19. | ItCouldBeSweet   |   ~83    |   ~99    |
  20. | kraftwerk        |   ~83    |   ~99    |
  21. | Layla            |   ~83    |   ~99    |
  22. | Leahy            |   ~83    |   ~99    |
  23. | LifeShatters     |   ~83    |   ~99    |
  24. | Mama             |   ~83    |   ~99    |
  25. | MidnightVoyage   |   ~83    |   ~99    |
  26. | mybloodrusts     |   ~83    |   ~99    |
  27. | NewYorkCity      |   ~83    |   ~99    |
  28. | OrdinaryWorld    |   ~83    |   ~99    |
  29. | Quizas           |   ~83    |   ~99    |
  30. | rosemary         |   ~83    |   ~99    |
  31. | Scars            |   ~83    |   ~99    |
  32. | SinceAlways      |   ~83    |   ~99    |
  33. | thear1           |   ~83    |   ~99    |
  34. | TheSource        |   ~83    |   ~99    |
  35. | TomsDiner        |   ~83    |   ~99    |
  36. | trust            |   ~83    |   ~99    |
  37. | Twelve           |   ~83    |   ~99    |
  38. | velvet           |   ~83    |   ~99    |
  39. | Waiting          |   ~83    |   ~99    |
  40. |------------------|----------|----------|
  41. | Moyenne (Kbps)   |   82.56  |   99.13  |
  42. |------------------|----------|----------|
  43. M0 : mode 0 CBR 1 pass
  44. M1 : mode 1 CBR 2 pass
  45. M2 : mode 2 VBR "quality" 1 pass
  46. M3 : mode 3 VBR "bitrate" 2 pass
  47. M4 : mode 4 VBR "streaming" 2 pass

Reply

Marsh Posté le 10-08-2005 à 11:33:11    

Bon tu ne vas pas recommencer Sagittaire, soit tu es constructif et tu acceptes la discussion et ok, soit tu es le seul à tout savoir et à avoir raison, dans ce cas : au revoir [:aloy]


---------------
Ne vous mariez qu'une fois dans votre vie tellement c'est galère © randolfinette | Quand l'antre grogne, le diable cogne... | Un problème d'acquisition VHS?
Reply

Marsh Posté le 10-08-2005 à 12:07:10    

A mon avis il n'est pas judicieux de tester du 2 passes sur des échantillons de quelques secondes, car ce n'est pas représentatif de ce que donnera le codec dans des conditions habituelles, où les morceaux font en général quelques minutes et non pas 10-30s.
Si on veut tester du 2 passes, je pense qu'il faudrait encoder le morceau complet, quitte à ne considérer ensuite que les quelques secondes choisies pour tester.
 
Ceci dit, cela nous permet tout de même de constater que le wmapro avec l'encodeur v9 respecte très bien le débit demandé, même avec des échantillons courts.


Message édité par Gabriel Bouvigne le 10-08-2005 à 12:07:46
Reply

Marsh Posté le 10-08-2005 à 13:09:57    

Citation :

Ceci dit, cela nous permet tout de même de constater que le wmapro avec l'encodeur v9 respecte très bien le débit demandé, même avec des échantillons courts.


 
ben en fait les profils 2 passes n'existe pas en dessous de 128 Kbps ... j'ai tout simplement fait mumuse avec le rate Control 2 pass du WMA9 pro pour obtenir le débit que je souhaitais ... oui je sais c'est de la bidouille ... ça ne correspond à rien dans la realité ... mais c'est valide si c'est utilisé dans le cadre d'un test sur l'aspect qualitatif des codecs audio ... enfin c'est mon avis perso. Voilà bonne fin de vacances ...  :sol:  

Reply

Marsh Posté le 10-08-2005 à 13:51:53    

Citation :

ben en fait les profils 2 passes n'existe pas en dessous de 128 Kbps ... j'ai tout simplement fait mumuse avec le rate Control 2 pass du WMA9 pro pour obtenir le débit que je souhaitais


Et comment tu as fait alors?

Reply

Marsh Posté le 10-08-2005 à 16:22:14    

WMA9 2 passes
 
Je n'explique pas pour toi en détails car tu connais ça à mon avis mieux que moi ... lol
 
Tout les rate control se comporte de la même façon (y'a des variantes avec la gestion de la variabilité, le controle VBV, buffering, adaptative buffering ... ect ect) mais en gros:
- 1ere passe : établissement fichier de stat à bitrate cte ou quality cte
- 2nd passe : encodage de la seconde en "qualité" constante selon le modèle psychovisuel ou psychaccoustique du codec (Le DivX encodera à quant constant par exemple) à partir d'une predictibilité établie sur la base du fichier de stat de la première passe
 
Le RC 2 passe du WMA9Pro n'echappe pas à la règle. Il encode à qualité constante lors de la seconde passe. Par exemple on a un fichier qui à q10 (qualite minimale pour le WMA9Pro) donne du 65 Kbps et à q25 (second preset dispo) donne du 108 Kbps mais on veux encoder ce fichier à 80. Et bien il suffit de coller à ce fichier un morceau (edit) peu compressible pour le WMA9Pro et d'encoder le tout à 128 kbps 2 pass. La 1ere partie que l'on souhaite recupérée à une complexité relative beaucoup moins importante que la seconde que l'on a collée. Le bitrate total sur le fichier étant de 128 Kbps le bitrate sur la 1ere partie sera alors inférieure à ces 128 Kbps. Il suffit donc de coller un morceau incompressible de la taille adaquate pour recuperer une première partie encodée à qualité constante avec le bitrate désirée au kbps près.
 
 
Lame 2 passes ... ???
 
Sinon pour en revenir à lame le truc idéal selon moi c'est que lame puisse faire du 2 passe c'est que lame puisse sortir un fichier de stat genre:
- lame -V5 -statoutput stat.txt ...
 
que ce fichier de stat contienne le volume pour chaque frame encodée à V5. Ce fichier de stat est ensuite manipulé par un prog externe (scaling simple, VBV, buffer, min, max, variability ...). Ensuite ce fichier de stat est reinjecté dans lame en imposant un nouveau bitrate pour chaque frame
- lame -statinput stat.txt ...
 
Moi c'est comme ça que je vois le truc mais c'est p'tete simpliste, impossible, erroné voir même totalement farfelu, c'est p'tete même déjà possible de le faire car je connais pas en détail toutes les commande sur lame ... lol


Message édité par sagittaire le 10-08-2005 à 17:39:28
Reply

Marsh Posté le 10-08-2005 à 17:18:21    

Du 2 pass pour des morceaux de musique de ~4min ? Pour des bande-son de film (1h30-2h) peut-etre (attention, gros noob inside ^^).
 

Citation :

Le RC 2 passe du WMA9Pro n'echappe pas à la règle. Il encode à qualité constante lors de la seconde passe. Par exemple on a un fichier qui à q10 (qualite minimale pour le WMA9Pro) donne du 65 Kbps et à q25 (second preset dispo) donne du 108 Kbps mais on veux encoder ce fichier à 80. Et bien il suffit de coller à ce fichier un morceau très incompressible pour le WMA9Pro et d'encoder le tout à 128 kbps 2 pass. La 1ere partie que l'on souhaite recupérée à une complexité relative beaucoup moins importante que la seconde que l'on a collée. Le bitrate total sur le fichier étant de 128 Kbps le bitrate sur la 1ere partie sera alors inférieure à ces 128 Kbps. Il suffit donc de coller un morceau incompressible de la taille adaquate pour recuperer une première partie encodée à qualité constante avec le bitrate désirée au kbps près.


 
Du mal a comprendre, dsl. Réinterprétation pour comprendre : Tu dis d'utilisé un morceaux très compressible ((et non incompressible, qui dépasserait ainsi le débit de la 2e pass débit ciblé), si erreur sur le terme "incompressible" il y a) en 1ere pass pour que la 2e soit inférieur.
Donc il faudrait faire une 1ere pass sur un fichier dont l'analyse serait dans les 80, et demandé plus pour la 2e.
-> pourquoi ne pas se contenter d'une seule pass, si on sait que le morceau n'atteindrait pas le débit ciblé ?
 
Si la 1ere pass est en débit constant (haute qualité, sup au débit désiré), la 2e serait constante aussi ? la 2e pass serait pas plutot un ratecontrol qui ferait varier le débit pour, a la fin avoir un bitrate moyen ciblé ?
 
EDIT : - J'aurais du me taire et attendre de lire ceux qui suive. J'avoue avoir du mal a lire saggittaire qui balance souvent tout-d'un-bloc ses idées.
       - Impressionnant l'aspect méthodique (tests mais aussi rédaction sur le forum) de Guru. J'aurais mis un post-it ne serait-ce que pour l'aspect rédactionnel ^^.


Message édité par Castor-Troy le 10-08-2005 à 17:28:37
Reply

Marsh Posté le 10-08-2005 à 17:21:58    

Y'a pas un mode ABR dans Lame [:cupra]


---------------
Ne vous mariez qu'une fois dans votre vie tellement c'est galère © randolfinette | Quand l'antre grogne, le diable cogne... | Un problème d'acquisition VHS?
Reply

Marsh Posté le 10-08-2005 à 22:26:51    

Citation :

Du 2 pass pour des morceaux de musique de ~4min ? Pour des bande-son de film (1h30-2h) peut-etre (attention, gros noob inside ^^).


 
Normalement un Rate Control multipasse est censé optimiser au maximum la repartition du flux offrant ainsi une meilleur qualité moyenne. Ca marche en video mais ça reste à démontrer en audio. la durée n'as dans ce cas pas d'importance : 10 seconde de video ça represente 250 frames ... tout les RC multipasse des codec video s'en sorte parfaitement même avec une durée aussi courte.
 

Citation :

Y'a pas un mode ABR dans Lame [:cupra]


 
Un mode ABR ne peut sortir un encodage à qualité constante tout simplement car il ne peut anticiper la complexité des frames qu'il va encoder (pas de fichier de stat comme reference). Attention ça ne signifie pas forcement en audio que l'ABR ou même le CBR est moins bon qualitativement qu'un encodage VBR : la constance de la qualité et la qualité moyenne perceptible sont des notions différentes.

Reply

Marsh Posté le 14-08-2005 à 19:24:21    

Salut à toi gURuBoOleZ  
Je tiens tout d'abord à te féliciter sur le travail titanesque (et c'est peu dire  ;) ) que tu viens d'accomplir, franchement un grand bravo.  
 
Je n'ai pas les même s compétence que toi sur le sujet, (ne pas m'en tenir rigueur!  :??: ) mais je tenais malgré tout à donner mon avis, sommes tout très basique  :o , mais un avis basé sur quelques tests effectués jusqu'à ce jour!  ;)  
 
Actuellement en cours de test du soft convertisseur  ;)  GX Transcoder et des différents formats, je tenais simplement à dire que tes conclusions concernant le classement sont très proches, voir identique  ;)  à ce que j'ai pu constater à l'écoute avec mes oreilles  :)  du moind pour les 3 formats testés soit OGG, WMA, MP3.  
Mon protocole étant probablement basique (mais seul méthode accessible  :)  pour moi ) puisque dans un premier temps, je code les divers formats (à partir d'un CD Test (hifi) proposant des aigus, médium, grave .. disons, des bruits connus  ;) en faisant varier quelques paramètres tout en essayant dans la mesure du possible d'avoir le même volume de format final dans chacune des catégories (formats). L'optique étant un transfert vers PocketPC  ;) ).  
La seconde phase étant des titres de musique divers.  
Résultats : OGG/WMA/MP3. (dans le cas de test très aigu .. clochettes, c'est le WMA qui sort légèrement gagnant : WMA/OGG/MP3. Le MP3 dans ce cas très loin derrière.  ;)  
 
Comme tu peux le constater, tous les tests sans distinction m'ont donné grand perdant le MP3(en test + écoute musical .. même conditions que décrites précédemment ). Ce fut flagrant à chaque fois.  
 
Merci encore pour ce travail qui me conforte dans mon choix : OGG!  ;)  
Patrick


Message édité par patrickB le 14-08-2005 à 19:27:12
Reply

Marsh Posté le 14-08-2005 à 19:25:35    

Doublon


Message édité par patrickB le 14-08-2005 à 19:26:55
Reply

Marsh Posté le 14-08-2005 à 22:47:08    

gURuBoOleZZ a écrit :

Certains l'auront peut-être noté, la diffusion de notre précédente émission a été interrompue pour des raisons techniques. Nous vous prions de nous en excuser, et de profiter de la rediffusion intégrale de la série. Bonne lecture, et merci à tous, en particulier Hafrexx ainsi que Gabriel pour son secours technique.


 
Great test, thank you.
 
Two remarks (just before I read your test, I did some listening tests on my own for answering the question: given a format popular on mobile players which is the best encoder and what are the best encoding parameters for mininum bit rates while fulfilling the requirement to really enjoy listening and to achieve a precision such that differences from the original cannot easily be heard by abxing):

  • As for WMA Standard I found VBR Q50 is not much of an improvement over Q25, and Q75 yields a bit rate far too high for my purposes. And as I knew from your 80 kbps listening test, CBR is not a promising candidate either. So I decided to choose the bit rate oriented VBR mode within Windows Media Encoder and used VBR 96 kbps. Results were not great but not bad and comparable to iTunes CBR 80 or Lame 3.97a11 --preset 104.
  • As for Lame with Lame 3.97a11 --preset 104 quality was to my ears a lot better than with just a few kbps below. I guess it's because sampling rate with --preset 104 is 44kHz. MP3 is known to have its quality limit near 100 kbps, so it's perhaps a bit unlucky in this case to enforce a rigid bit rate of nearly 96 kbps.

Im curious what Lame 3.97a11 --preset 104 would look like in your listening test which is certaily a lot more profound than my own one.
 
Horst

Reply

Marsh Posté le 15-08-2005 à 14:26:06    

Bonjour, félicitations pour le test, long mais instructif.
 
Je voulais juste noter (je suis tout à fait amateur) j'ai essayé hier l'encodeur propriétaire de microsoft en téléchargement gratuit, disponible à cette adresse : http://www.microsoft.com/windows/w [...] fault.aspx
 
A la base, je suis plutôt partisant du LAME, cependant j'ai été admirablement surpris de voir la qualité de cet outils, et il est complétement question de blind test ici, car je n'ai pas pris le temps ni de comparer les spectres, ni de faire d'autres test plus technique. Donc, c'est à l'oreille, du moins celles avec lesquelles j'écoute la musique en question.  
 
le morceau "Veteran" du Groupe "Kidneythieves" encodé en LAME dernière version 192kbps CBR : 5,592 Ko
encodé en WMA, avec l'encodeur pro de microsoft cité plus haut, qualité CD (paramètres pre-établi par le soft)64kbps VBR (2passes ou une seule je ne suis pas sûr) : 1,896 Ko
Le même morceau encodé avec DBpoweramp, preset WMA9 VBR 75 Kbps (le 64 est pas dispo) : 4,325 Ko
 
à l'écoute j'ai été incapable de faire la différence entre les trois morceaux, et je voulais savoir ce que vous pensiez de ces résultats, puisqu'il doit y avoir tout de même des pertes perceptibles à un tel niveau de compression (pour le deuxième surtout).
 
Je sais pas si c'est très important, mais pour info le blind test à été avec VLC, sur des enceintes  de PC "Creative Inspire T3000" (avec une carte son creative je ne sais pas quoi) et puis sur un baladeur mp3 creative Muvo V200 avec des écouteurs "Koss the Plug".
 
 

Reply

Marsh Posté le 13-06-2006 à 09:50:05    

Bonjour,
 
Au vue de tes bons conseils, gURuBoOleZ Z, j'utilise du .ogg q2. Avec le lecteur OggPlay sous Symbian.
J'encode mes CD avec CDex.
Existe-t'il un meilleur logiciel ? Avec un meilleur encodeur ?
 
Merci

Reply

Marsh Posté le 16-10-2006 à 09:15:54    

juste une question quid de l'AC3 en 96kbps merci :jap:

Reply

Marsh Posté le 05-11-2006 à 00:47:31    

C'est surtout par manque d'encodeur optimisé et réputés fiables (tel que Surcode) que je n'ai pas fait figurer l'AC3 dans ce test. Il existe bien des encodeurs AC3 aisés d'utilisation et gratuit, mais leur faible qualité affaibli gravement l'intérêt d'un test à un débit aussi bas.

Reply

Marsh Posté le 01-08-2012 à 06:16:19    

merci pour le test , je propose que vous faite un petit résumé à la fin pour les gents impatients


---------------
Samsung Galaxy Note 2
Reply

Marsh Posté le 01-08-2012 à 09:52:24    

metador a écrit :

merci pour le test , je propose que vous faite un petit résumé à la fin pour les gents impatients


Les impatients l'ont lu il y a 7 ans.  [:aras qui rit]


---------------
Qui peut le moins peut le moins.
Reply

Marsh Posté le    

Reply

Sujets relatifs:

Leave a Replay

Make sure you enter the(*)required information where indicate.HTML code is not allowed