Utilisation de la linguistique en reconnaissance de la parole
S. Huet
P. S�billot \& G. Gravier
biblio.tex
%% \documentclass[french,a4paper,10pt]{article}
%% \usepackage{style-rapport}

\documentclass[french]{article}
\def\ifFrench{\iftrue}

\usepackage{RR}
% \usepackage{PI}
\usepackage{style-rapport-bref}
\usepackage{tabularx}




%******************************************************************************


\RRdate{Mai 2006}

% \RRNo{1804} % num�ro de rapport interne



\RRauthor{St�phane Huet, Pascale S�billot et Guillaume Gravier
\thanks{\{shuet, sebillot, ggravier\}@irisa.fr}}

\authorhead{S. Huet, P. S�billot \& G. Gravier} %% Ceci apparait sur chaque page paire.
\RRtitle{Utilisation de la linguistique en reconnaissance de la parole
: un �tat de l'art}
\titlehead{Utilisation de la linguistique en reconnaissance de la parole} %%titre court, sur chaque page impaire.

\RRetitle{\begin{otherlanguage*}{english} Using Linguistics in Speech
  Recognition: A State of the Art \end{otherlanguage*}} %% english title
%\RRnote{Note, contrat, collaboration, etc...}
%\RRnote{pour une deuxi�me note}

\RRabstract{To transcribe speech, automatic speech recognition systems
  use statistical methods, particularly hidden Markov model and N-gram
  models. Although these techniques perform well and lead to efficient
  systems, they approach their maximum possibilities. It seems thus
  necessary, in order to outperform current results, to use additional
  information, especially bound to language. However, introducing such
  knowledge must be realized taking into account specificities of
  spoken language (hesitations for example) and being robust to
  possible misrecognized words. This document presents a state of the
  art of these researches, evaluating the impact of the insertion of
  linguistic information on the quality of the transcription.}

\RRresume{Pour transcrire des documents sonores, les syst�mes de
reconnaissance de la parole font appel � des m�thodes statistiques,
notamment aux cha�nes de Markov cach�es et aux mod�les N-grammes. M�me
si ces techniques se sont r�v�l�es performantes, elles approchent du
maximum de leurs possibilit�s avec la mise � disposition de corpus de
taille suffisante et il semble n�cessaire, pour tenter d'aller au-del�
des r�sultats actuels, d'utiliser des informations suppl�mentaires, en
particulier li�es au langage. Int�grer de telles connaissances
linguistiques doit toutefois se faire en tenant compte des
sp�cificit�s de l'oral (pr�sence d'h�sitations par exemple) et en
�tant robuste � d'�ventuelles erreurs de reconnaissance de certains
mots. Ce document pr�sente un �tat de l'art des recherches de ce type,
en �valuant l'impact de l'insertion des informations linguistiques sur
la qualit� de la transcription.}


\RRmotcle{reconnaissance de la parole, langue parl�e, corpus oral,
  traitement automatique des langues, mod�le de langage, connaissances
  linguistiques, disfluences} 

\RRkeyword{speech recognition, spoken language, spoken corpus, natural
  language processing, language model, linguistics knowledge,
  disfluencies}
%% \RRprojet{Bibli} % cas d'un seul projet

\RRprojets{TexMex et Metiss} %% cas de 2 projets.
%% \RRtheme{\THBio} % cas d'un seul theme
\RRtheme{\THSym \THCog} %% cas de 2 themes

\URRennes


%******************************************************************************



%% \title{Utilisation de la linguistique en reconnaissance de la
%%  parole \\
%%  \center{\textit{Un �tat de l'art}}}
%% \author{St�phane Huet \\
%%         Irisa - Projets Texmex/Metiss}
%% \date{\today}

%% \maketitle

%******************************************************************************

\begin{document}

\makeRR 

\tableofcontents
\newpage



\section{Introduction}
\label{SecIntroduction}

De nombreux documents sonores contiennent de la parole. Rares sont les
�missions radiophoniques ou audiovisuelles sans discours, dialogues ou
encore commentaires, et il existe maintenant certaines bases de
donn�es sonores tr�s volumineuses. En France, l'Institut national de
l'audiovisuel collecte ainsi chaque ann�e 80~000 heures de programmes
radiophoniques ou t�l�visuels. Une des plus grandes archives digitales
au monde, contenant les t�moignages des survivants de la Shoah,
contient quant � elle plus de 115~000 heures de discours non
contraints, provenant de 52~000 locuteurs s'exprimant dans 32 langues
diff�rentes \cite{Franz03}. Face � la taille des donn�es � traiter, le
recours � des m�thodes automatiques, notamment � celles de
reconnaissance de la parole, facilite la manipulation des documents et
apporte une aide pour certaines t�ches, telles que l'indexation.

L'objectif d'un syst�me de reconnaissance automatique de la parole
(RAP) est de transcrire automatiquement un signal sonore en texte. Un
tel syst�me cherche dans un premier temps � reconna�tre des mots, en
se basant uniquement sur des crit�res d'ordre acoustique, sans essayer
d'interpr�ter le \og contenu \fg\ transmis par l'ensemble de ces
mots. L'analyse du signal conduit alors � un ensemble d'hypoth�ses sur
la succession des mots prononc�s, auquel sont adjoints des scores dits
acoustiques. Une seconde �tape choisit la meilleure hypoth�se en ne
consid�rant plus le signal comme une suite de sons mais plut�t comme
une succession de mots porteurs d'information. L'utilisation de la
linguistique, en tant que science du langage, s'inscrit naturellement
dans ce contexte puisque des connaissances sur la morphologie, la
syntaxe ou le sens semblent pouvoir guider la s�lection de la
meilleure hypoth�se. N�anmoins, bien souvent les syst�mes de RAP ne
s'appuient dans leur choix que sur des crit�res principalement
statistiques, et ce, essentiellement pour des raisons historiques.

Pendant une longue p�riode, les linguistes et les adeptes du
traitement automatique des langues (TAL) ont en effet d�laiss� les
m�thodes empiriques permettant d'estimer la probabilit� d'observation
d'un ph�nom�ne � partir d'une grande collection de documents ou
corpus. Noam Chomsky dit ainsi en 1969 : \textit{But it must be
recognized that the notion ``probability of a sentence'' is an
entirely useless one, under any known interpretation of this
term}\footnote{Mais il doit �tre reconnu que la notion de \og
probabilit� de phrase\fg\ est absolument inutile, et ce, quelle que
soit l'interpr�tation de ce terme.}. Le point de vue des linguistes
s'int�ressant � l'�crit s'est alors �loign� des pr�occupations des
chercheurs en reconnaissance de la parole, � tel point que Frederick
Jelinek, en 1988, alors � IBM, d�clara : \textit{Anytime a linguist
leaves the group the recognition rate goes up}\footnote{� chaque fois
qu'un linguiste quitte le groupe, le taux de reconnaissance
augmente.}. Les m�thodes statistiques, � base de N-grammes, se sont en
effet r�v�l�es beaucoup plus efficaces que les solutions propos�es par
les linguistes pour choisir la meilleure hypoth�se de mots.

Depuis la fin des ann�es 80, les m�thodes statistiques ont toutefois
commenc� � atteindre leurs limites dans l'am�lioration des syst�mes de
RAP, notamment avec la mise � disposition de corpus de tailles
satisfaisantes. Dans le m�me temps, le domaine du TAL faisait de plus
en plus appel aux mod�les probabilistes. Une des pistes envisageables
pour am�liorer les performances de la reconnaissance de la parole peut
donc consister � employer davantage de linguistique dans les syst�mes
de RAP.

Ce document se propose de faire une synth�se de l'introduction de
connaissances linguistiques au cours de la reconnaissance de la
parole. Il expose des tentatives effectu�es pour utiliser certaines
informations telles que la morphologie, la syntaxe ou la s�mantique
dans les diff�rentes �tapes du processus de transcription. Une
premi�re partie d�crit le fonctionnement g�n�ral d'un syst�me de RAP,
en insistant sur ses limitations � traiter certains ph�nom�nes. Elle
pr�sente la succession des �tapes n�cessaires, � savoir l'extraction
d'informations num�riques pertinentes � partir du son, la conversion
de ces valeurs en plusieurs hypoth�ses possibles de succession de mots
et enfin le choix de la meilleure hypoth�se. La deuxi�me partie
examine les propri�t�s de la langue parl�e. Les m�thodes de TAL sont
en effet souvent appliqu�es � des documents qui restent dans le
domaine de l'�crit, comme des ouvrages ou des articles de journaux ;
or, les documents analys�s par les syst�mes de RAP sont d'une autre
nature. La derni�re section expose � quel niveau du processus de
transcription les connaissances linguistiques peuvent �tre mobilis�es.
Elle se focalise particuli�rement sur l'introduction de connaissances
linguistiques au sein des mod�les de langages, un des deux
constituants, avec le mod�le acoustique, d'un syst�me de RAP. Si le
mod�le acoustique utilise des ressources purement acoustiques, se
limitant donc, sur le plan de la linguistique, � la phon�tique et � la
phonologie, le mod�le de langage peut au contraire prendre en compte
des connaissances linguistiques plus vari�es puisque son r�le est
justement d'examiner les informations v�hicul�es par les hypoth�ses de
mots. Ceci peut donc conduire � l'exploitation de morphologie, de
syntaxe, de s�mantique ou encore de pragmatique.




\newpage
%----------------------------------------------------------------------------

\section{Principes de la reconnaissance de la parole}
\label{SecPrincRP}


L'objectif d'un syst�me de RAP est d'extraire les mots prononc�s �
partir du signal acoustique. Le r�sultat produit repr�sente la
finalit� d'une application de dict�e vocale mais peut �galement �tre
utilis� par d'autres dispositifs. La transcription constitue ainsi une
source d'informations pour indexer des documents audio ou
audiovisuels. Les interfaces vocales homme-machine int�grent quant �
elles un module de compr�hension de la parole en sus d'un syst�me de
RAP.

La reconnaissance de la parole est un probl�me complexe, notamment du
fait de la grande variabilit� des signaux � traiter. Apr�s avoir
pr�sent� les principales difficult�s de la transcription, nous
exposons la mod�lisation qui est employ�e pour d�coder le signal
acoustique. Nous �voquons ensuite sous quelles formes les syst�mes de
RAP produisent leurs r�sultats et nous terminons cette section par une
description des techniques utilis�es pour �valuer ces syst�mes.


\subsection{Difficult�s de la transcription}
\label{subSecDiffTrans}

Les difficult�s de la transcription de la parole sont dues pour une
grande part � la diversit� des signaux � traiter. La parole produite
pour une m�me phrase prononc�e peut ainsi varier d'un individu � un
autre. Outre le fait que chaque individu poss�de une voix qui lui est
propre, on rencontre d'importantes diff�rences telles que les
variations homme/femme, le r�gionalisme ou encore les difficult�s de
prononciation rencontr�es par des locuteurs non natifs. Cette
variabilit� est qualifi�e d'\emph{inter-locuteurs}. Il existe
�galement une variabilit�, dite \emph{intra-locuteur}, correspondant �
une modification de la parole produite par un m�me individu. Cette
variabilit� peut concerner aussi bien les caract�ristiques de la voix,
dans les cas d'un rhume ou d'un �tat �motionnel, ou bien la qualit�
d'�locution, selon que la parole intervient lors d'un discours formel
ou d'un dialogue spontan�. En sus des variabilit�s au niveau de la
parole prononc�e par le locuteur, les conditions d'enregistrement
peuvent d�grader le signal qui sera trait� par le syst�me de RAP. Il
peut par exemple y avoir une modification de la qualit� du signal,
notamment si celui-ci doit transiter par un canal de communication qui
a une bande passante limit�e, comme une ligne t�l�phonique. De m�me,
l'environnement acoustique peut �tre disparate. Le bruit de fond peut
�tre plus ou moins important et de natures diverses (musique, paroles
d'autres locuteurs, parasites du micro, bruits de bouche...).

Par ailleurs, le lexique des documents � transcrire est un autre
facteur-cl� influen�ant la qualit� des r�sultats et d�pendant de
chaque application. La taille du vocabulaire peut �tre tr�s r�duite
(moins de 100 mots) dans le cas d'un syst�me de navigation dans un
menu, moyenne (quelques milliers de mots) pour des recherches
d'information dans une base de donn�es dans un domaine pr�cis, ou
large (plusieurs dizaines de milliers de mots) pour faire de la dict�e
vocale \cite{Stolcke97}.

La parole humaine, on le voit donc, est tr�s variable. La mod�lisation
d'une telle variation �tant difficile � faire de mani�re compacte et
la compr�hension des m�canismes cognitifs intervenant dans la
reconnaissance de la parole �tant limit�e, les syst�mes de RAP
utilisent essentiellement des m�thodes statistiques. Ces m�thodes
extraient automatiquement les informations sur le langage et la
relation entre le son et les mots prononc�s � partir de corpus dans
lesquels les textes sont align�s avec les signaux acoustiques. Elles
utilisent ainsi des mod�les dont les param�tres sont appris sur des
corpus d'apprentissage \cite{Deshmukh99}.

Pour r�duire les difficult�s impliqu�es par la variabilit�
inter-locuteurs, certains syst�mes de RAP requi�rent de la part de
chaque locuteur une prononciation pr�alable d'un certain nombre de
mots. Toutefois, ce proc�d� �tant contraignant, les syst�mes sont
g�n�ralement ind�pendants du locuteur. Afin d'augmenter la
\emph{robustesse} vis-�-vis du locuteur et de l'environnement, ils
combinent plusieurs mod�les statistiques \cite{Jouvet96,
Gauvain05}. Ainsi, dans le cas de la variabilit� inter-locuteurs, un
mod�le sp�cifique peut �tre cr�� pour les hommes, un autre pour les
femmes. De m�me, des m�canismes d'adaptation permettent de modifier le
traitement acoustique en fonction des caract�ristiques de la voix du
locuteur. Dans le cas de changements de conditions d'enregistrement,
les syst�mes de RAP peuvent avoir un mod�le particulier pour les
entretiens t�l�phoniques et avoir des d�tecteurs \og bruit/parole\fg\
ou \og musique/parole\fg\ pour ne chercher � transcrire que les
segments du signal contenant de la parole. En outre, un filtrage
adaptatif peut �tre men� pour �liminer le bruit du signal.

En ce qui concerne le lexique, afin d'avoir un espace de recherche
raisonnable lors du d�codage du signal acoustique, les syst�mes de RAP
ont un vocabulaire ferm�. Ils utilisent actuellement un lexique
beaucoup plus important que ceux employ�s auparavant, qui pouvaient se
limiter � quelques dizaines de mots. Les syst�mes de RAP les plus
perfectionn�s, dits � tr�s grand vocabulaire, ont ainsi un lexique
dont le volume avoisine les 65~000, voire 200~000~mots. L'ensemble des
mots reconnaissables est choisi en fonction de l'application. Dans le
cas de reconnaissance d'un dialogue spontan�, il pourra ainsi �tre
utile d'inclure dans le lexique des mots qui n'en sont pas vraiment
mais qui ont pourtant une fr�quence �lev�e, tels que le \og
\textit{euh}\fg\ marquant une h�sitation (\textit{cf.}
section~\ref{subSecPhHesitation}). Si l'on prend l'exemple d'une
transcription d'�missions d'actualit� diffus�es � la radio, le
vocabulaire pourra inclure les mots rencontr�s r�cemment. Ce domaine
d'application se heurte � des difficult�s particuli�res dues �
l'apparition des noms propres (noms de personnes ou de lieu) au gr� de
l'actualit�. De mani�re � pouvoir modifier le vocabulaire pris en
compte par le syst�me de RAP, la reconnaissance doit �tre
\emph{flexible}, ce qui signifie qu'elle doit autoriser l'introduction
de mots dans le dictionnaire qui n'ont pas �t� utilis�s au cours de
l'apprentissage des param�tres des mod�les.

Notons au passage l'ambigu�t� du terme \emph{mot}
\cite{Polguere03}. Il peut par exemple d�signer un sens pr�cis ou bien
un signe linguistique. En reconnaissance de la parole, \emph{mot}
d�signe un \emph{mot-forme} d�fini par son orthographe. Ainsi, deux
flexions ou d�rivations d'un m�me lemme, \textit{e.g.}  \og
\textit{mange}\fg\ et \og \textit{manges}\fg, seront consid�r�es comme
deux mots diff�rents. De m�me, deux homographes appartenant � deux
cat�gories diff�rentes (\textit{e.g.} \og \textit{m�rite}
[{\footnotesize VERBE}]\fg\ et \og \textit{m�rite} [{\footnotesize
NOM}]\fg) ou deux sens diff�rents (\textit{e.g.}  \og \textit{avocat}
[{\footnotesize AUXILIAIRE DE JUSTICE}]\fg\ et \og \textit{avocat}
[{\footnotesize FRUIT COMESTIBLE}]\fg) ne repr�senteront pas le m�me
mot \cite{Jelinek97}. Par la suite, chaque emploi du terme \emph{mot}
d�signera en r�alit� un \emph{mot-forme}.

Malgr� les difficult�s rencontr�es, les syst�mes de RAP parviennent �
d�coder le signal acoustique avec d'assez bonnes performances. La
transcription de mots prononc�s de mani�re isol�e, par un locuteur
unique, est une technologie ancienne et bien ma�tris�e. Son champ
d'application est n�anmoins tr�s restreint puisque le locuteur doit
marquer une pause br�ve entre chaque mot. Les chercheurs et ing�nieurs
en parole ont par la suite d�velopp� des syst�mes de transcription de
parole continue, ce qui a augment� consid�rablement la complexit� du
probl�me. Les syst�mes actuels les plus performants reconnaissent
toutefois sans erreur plus de 90\,\% des mots d'une �mission d'actualit�
en anglais \cite{Pallett03} et plus de 88\,\% des mots pour une �mission
du m�me type en fran�ais \cite{Gauvain05}. Dans des situations plus
complexes � analyser, comme des conversations t�l�phoniques, o� chacun
des locuteurs n'a pas pr�par� son discours et est donc sujet � de
nombreuses h�sitations, les syst�mes de RAP peuvent reconna�tre sans
erreur jusqu'� 80\,\% des mots \cite{Pallett03, Gauvain04}.



\subsection{Mod�lisation statistique de la reconnaissance de la parole}
\label{subSecModelRP}

Le signal sonore � �tudier peut �tre interpr�t� comme une version de
la phrase prononc�e qui serait pass�e par un canal de
communication. Ce canal introduit du \og bruit\fg\ dans la version
originale. L'objectif d'un syst�me de RAP est de mod�liser le canal de
mani�re � retrouver la phrase prononc�e apr�s d�codage
(Fig.~\ref{figCanalBruite}). Ceci revient � chercher parmi un tr�s
grand nombre de phrases sources potentielles celle qui a la plus
grande probabilit� de g�n�rer la phrase \og bruit�e\fg\
\cite{Jurafsky00}. Autrement dit, dans cette m�taphore du \emph{canal
bruit�}, un syst�me de RAP cherche � trouver la s�quence de mots la
plus probable $W$ parmi toutes les s�quences d'un langage
$\mathcal{L}$, �tant donn� le signal acoustique $A$.


\FigurePS{!htbp}{10cm}{canalBruite.eps}{Mod�le du canal bruit�}{figCanalBruite}


L'entr�e acoustique $A$ repr�sente une s�quence d'ob\-ser\-va\-tions
$a_1 \ldots a_t$, ob\-te\-nue en d�\-cou\-pant l'entr�e par exemple
toutes les 10\,millisecondes et en associant � chaque morceau les
coefficients repr�sentant l'enveloppe spectrale du signal. La sortie
$W$ du syst�me de RAP est une cha�ne de mots $w_1 \ldots w_n$
appartenant � un vocabulaire fini.

En utilisant une formalisation statistique issue de la th�orie de
l'information, le probl�me de la reconnaissance de la parole se ram�ne
alors � chercher :
\begin{equation} 
\hat{W}=\arg\max_{W \in \mathcal{L}} \; P(W|A)
\end{equation}
Cette �quation peut �tre r��crite sous la forme suivante � l'aide de
la formule de Bayes \cite{Jelinek97} :
\begin{equation} \label{eqWbay}
\hat{W}=\arg\max_{W \in \mathcal{L}} \; \frac{P(W) P(A|W)}{P(A)}
\end{equation}
o� $P(W)$ est la probabilit� que $W$ soit prononc�e, $P(A|W)$ est la
probabilit� que le locuteur �mette les sons $A$ en souhaitant prononcer
les mots $W$ et $P(A)$ est la probabilit� moyenne que $A$ soit
produit. $\hat{W}$ �tant estim� en fixant $A$, $P(A)$ n'intervient pas
et l'�quation (\ref{eqWbay}) devient :
\begin{equation} \label{eqWbaySimpl}
\hat{W}=\arg\max_{W \in \mathcal{L}} \; P(W)P(A|W)
\end{equation}

Le probl�me de la reconnaissance de la parole se ram�ne ainsi �
l'extraction des indices acoustiques $A$, au calcul de la
vraisemblance d'observation $P(A|W)$ ainsi que de la probabilit�
\textit{a priori} $P(W)$, et � la recherche de la s�quence de mots $W$
la plus probable. Pour ce faire, la transcription se d�compose en
plusieurs modules (Fig.~\ref{figRAP}) :
\begin{itemize}
\item l'extraction de caract�ristiques produisant $A$,
\item l'utilisation du \emph{mod�le acoustique} (MA) calculant
  $P(A|W)$ et cherchant les hypoth�ses $W$ qui sont vraisemblablement
  associ�es � $A$,
\item l'utilisation du \emph{mod�le de langage} (ML) calculant $P(W)$
  pour choisir une ou plusieurs hypoth�ses sur $W$ en fonction de
  connaissances sur la langue.
\end{itemize}
\noindent Pour �valuer $P(W)$, le ML doit disposer au pr�alable des
hypoth�ses $W$ �tablies par le MA sur les mots prononc�s. N�anmoins,
les syst�mes de RAP actuels ne se limitent pas � une juxtaposition
s�quentielle des deux modules ; de mani�re � utiliser le plus t�t
possible les informations sur la langue, ils font appel au ML d�s
qu'une hypoth�se de mot est propos�e par le MA et non � la fin du
traitement de la totalit� du signal.

\FigurePS{!htbp}{10cm}{RAP.eps}{Constituants d'un syst�me de
transcription}{figRAP}

Les sections suivantes d�crivent les principes de fonctionnement de
chacun de ces modules.





\subsubsection{Extraction de caract�ristiques}
\label{subSecCaract}

Le signal sonore � analyser se pr�sente sous la forme d'une onde dont
l'intensit� varie au cours du temps. La premi�re �tape du processus de
transcription consiste � extraire une succession de valeurs
num�riques suffisamment informatives sur le plan acoustique pour
d�coder le signal par la suite.

Le signal est susceptible de contenir des zones de silence, de bruit
ou de musique. Ces zones sont tout d'abord �limin�es afin de n'avoir
que des portions du signal utiles � la transcription, \textit{i.e.},
celles qui correspondent � de la parole. Le signal sonore est ensuite
segment� en ce que l'on qualifie de \emph{groupes de souffle}, en
utilisant comme d�limiteurs des pauses silencieuses suffisamment
longues (de l'ordre de 0,3~s). L'int�r�t de cette segmentation est
d'avoir un signal sonore continu de taille raisonnable par rapport aux
capacit�s de calculs des mod�les du syst�me de RAP ; dans la suite du
processus de transcription, l'analyse se fera s�par�ment pour chaque
groupe de souffle.

Pour rep�rer les fluctuations du signal sonore, qui varie g�n�ralement
rapidement au cours du temps, le groupe de souffle est lui-m�me
d�coup� en fen�tres d'�tude de quelques millisecondes (habituellement
de 20 ou 30\,ms). De mani�re � ne pas perdre d'informations
importantes se trouvant en d�but ou fin de fen�tres, on fait en sorte
que celles-ci se chevauchent, ce qui conduit � extraire des
caract�ristiques toutes les 10\,ms environ.

� partir du signal contenu dans chaque fen�tre d'analyse sont
calcul�es des valeurs num�riques caract�risant la voix humaine. �
l'issue de cette �tape, le signal devient alors une succession de
vecteurs dits acoustiques, de dimension souvent sup�rieure ou �gale �
39.



\subsubsection{Mod�le acoustique}
\label{subSecMA}

Une �tape suivante consiste � associer aux vecteurs acoustiques, qui
sont, comme nous venons de le voir, des vecteurs num�riques, un
ensemble d'hypoth�ses de mots, \textit{i.e.}, des symboles. En se
r�f�rant � l'�quation~(\ref{eqWbaySimpl}) de la mod�lisation
statistique, cela revient � estimer $P(A|W)$. Les techniques qui
permettent de calculer cette valeur forment ce qu'on appelle le mod�le
acoustique.

L'outil le plus utilis� pour la mod�lisation du MA est la cha�ne de
Markov cach�e (d�sign�e aussi sous le terme de HMM pour \textit{Hidden
Markov Model}). Les HMM ont en effet montr� dans la pratique leur
efficacit� pour reconna�tre la parole. M�me s'ils pr�sentent quelques
limitations pour mod�liser certaines caract�ristiques du signal, comme
la dur�e ou la d�pendance des observations acoustiques successives,
les HMM offrent un cadre ma\-th�\-ma\-tique bien d�fini pour calculer
les probabilit�s $P(A|W)$ \cite{Rabiner89}. Les MA font intervenir
trois niveaux de HMM (Fig.~\ref{figMA}).

\FigurePS{!htbp}{10cm}{MA.eps}{Niveaux de mod�lisation du mod�le
  acoustique}{figMA}


Ils cherchent dans un premier temps � reconna�tre les types de son,
autrement dit � identifier des \emph{phones}\footnote{Sons prononc�s
par un locuteur et d�finis par des caract�ristiques pr�cises.}. Pour
ce faire, ils mod�lisent un phone par un HMM, g�n�ralement � trois
�tats repr�sentant ses d�but, milieu et fin. La variable cach�e est
alors un \emph{sous-phone} et les observations sont des vecteurs
acoustiques, \textit{i.e.}, des vecteurs continus. Pour calculer les
probabilit�s d'observation dans chaque �tat, deux approches sont
souvent envisag�es, l'une bas�e sur la repr�sentation des densit�s de
probabilit� par des gaussiennes et l'autre reposant sur des r�seaux de
neurones. Ces diff�rentes m�thodes �tablissent des hypoth�ses sur la
probabilit� des phones prononc�s. Or, l'objectif des MA est de
d�terminer une succession de mots. Les MA utilisent � cette fin un
dictionnaire de prononciations, qui effectue la correspondance entre
un mot et ses prononciations. Comme un mot est susceptible d'�tre
prononc� de diff�rentes mani�res, selon son pr�d�cesseur et son
successeur, ou tout simplement selon les habitudes du locuteur, il
peut y avoir plusieurs entr�es dans ce lexique pour un m�me mot. Les
indications sont donn�es au moyen des \emph{phon�mes}\footnote{Unit�
linguistique associ�e � un type de prononciation d'une langue
donn�e. Le phon�me final /p/ pourra par exemple �tre prononc� en
fran�ais par le phone [b] dans l'expression \og \textit{grippe
aviaire}\fg\ et par le phone [p] dans \og \textit{grippe du
poulet}\fg.} caract�ristiques de la prononciation. Sur la
figure~\ref{figExtraitDicoPrononciations}, les phon�mes sont
transcrits dans le syst�me de repr�sentation SAMPA.

\begin{figure}
\begin{center}
\begin{tabular}{l l}
\hline
adorateurs & a d O R a t 9 R z \\
adorateurs & a d O R a t 9 R \\
adoration & a d O R a s j o\string~ \\
adore &  a d O R @ \\
adore & a d O R \\
\hline
\end{tabular}
\end{center}
\caption{Extrait d'un dictionnaire de prononciations}
\label{figExtraitDicoPrononciations}
\end{figure}

Le deuxi�me niveau de HMM mod�lise les mots � partir des HMM
repr�sentant des phones et du lexique de prononciations. Il se
pr�sente sous la forme d'un arbre lexical contenant initialement tous
les mots du vocabulaire, progressivement �lagu� au fur et � mesure que
sont reconnus des phones. Puisque les HMM de premier niveau mod�lisent
des phones et non des phon�mes, les phon�mes disponibles dans le
dictionnaire de prononciations sont convertis en phones afin de
reconna�tre des mots. Des r�gles de transformation d�pendant du
contexte d'apparition du phon�me sont alors utilis�es.

Le troisi�me niveau mod�lise enfin la succession des mots $W$ au sein
d'un groupe de souffle et peut alors incorporer les connaissances
apport�es par le ML sur $W$. Pour �tablir ce HMM �quivalent � un
graphe de mots, le HMM correspondant � l'arbre lexical est dupliqu� �
chaque fois que le MA effectue l'hypoth�se qu'un nouveau mot a �t�
reconnu \cite{Ortmanns97}.

Le fonctionnement du MA que nous venons de d�crire se heurte � un
probl�me majeur : l'espace de recherche du HMM de plus haut niveau
devient fr�quemment consid�rable, surtout si le vocabulaire est
important et si le groupe de souffle � analyser contient plusieurs
mots. Des algorithmes issus de la programmation dynamique permettent
de calculer efficacement les probabilit�s ; il s'agit principalement
de l'algorithme de Viterbi et le d�codage par pile, appel� aussi
d�codage A*. De plus, il est fait recours tr�s r�guli�rement �
l'�lagage pour ne conserver que les hypoth�ses susceptibles d'�tre les
plus int�ressantes \cite{Deshmukh99}.

Le r�le du MA consiste ainsi � aligner le signal sonore avec des
hypoth�ses de mots en utilisant uniquement des indices d'ordre
acoustique. Il inclut dans son dernier niveau de mod�lisation les
informations sur les mots apport�es par le ML.


\subsubsection{Mod�le de langage}
\label{subSecML}

Le ML a pour objectif de trouver les s�quences de mots les plus
probables, autrement dit celles qui maximisent la valeur $P(W)$ de
l'�quation~(\ref{eqWbaySimpl}). Si l'on se r�f�re au HMM de plus haut
niveau du MA (Fig.~\ref{figMA}), les valeurs $P(W)$ correspondent aux
probabilit�s de succession de mots.


\paragraph{Fonctionnement d'un mod�le de langage\\} 
\label{subSubSecFoncML} 

En posant $W = w_1^n = w_1 \ldots w_n$, o� $w_i$ est le mot de rang $i$
de la s�quence $W$, la probabilit� $P(W)$ se d�compose de la mani�re
suivante :
\begin{equation} 
P(w_1^n) = P(w_1) \prod_{i=2}^n P(w_i|w_1 \ldots w_{i-1})
\end{equation}

L'�valuation de $P(W)$ se ram�ne alors au calcul des valeurs $P(w_i)$
et $P(w_i|w_1^{i-1})$ qui s'obtiennent respectivement � l'aide des
�galit�s :
\begin{equation}
P(w_i) = \frac{C(w_i)}{\sum_{w \in \mathcal{V}} C(w)}
\end{equation}
\begin{equation}
\label{eqCoomptageNGrammes}
P(w_i|w_1^{i-1}) = \frac{C(w_1^i)}{\sum_{w_i} C(w_1^i)}
\end{equation}
o� $\mathcal{V}$ est le vocabulaire utilis� par le syst�me de RAP, et
$C(w_i)$ et $C(w_1^i)$ repr�sentent les nombres d'occurrences
respectifs du mot $w_i$ et de la s�quence de mots $w_1^i$ dans le
corpus d'apprentissage.

Malheureusement, pour pr�dire la suite de mots $w_1^n$, le nombre des
param�tres $P(w_i)$ et $P(w_i|w_1^{i-1})$ du ML � estimer augmente de
mani�re exponentielle avec $n$. Dans le but de r�duire ce nombre,
$P(w_i|w_1^{i-1})$ est mod�lis� par un \emph{mod�le N-gramme},
\textit{i.e.}, une cha�ne de Markov d'ordre $N-1$ (avec $N~>~1$), �
l'aide de l'�quation suivante :
\begin{equation} 
P(w_i|w_1^{i-1}) \approx  P(w_i|w_{i-N+1}^{i-1})
\end{equation}


\noindent Cette �quation indique que chaque mot $w_i$ peut �tre pr�dit
� partir des $N-1$ mots pr�c�dents. Pour $N = 2, 3$ ou $4$, on parle
respectivement de mod�le \emph{bigramme}, \emph{trigramme} ou
\emph{quadrigramme}. Pour $N = 1$, le mod�le est dit \emph{unigramme}
et revient � estimer $P(w_{i})$. G�n�ralement, ce sont les mod�les
bigrammes, trigrammes et quadrigrammes qui sont utilis�s dans les ML
des syst�mes de RAP.

Cette approche rencontre des limites du fait de l'absence de
nombreuses s�quences de mots de taille $N$, appel�es des
\emph{N-grammes}, dans les corpus d'apprentissage, bien que ceux-ci
puissent �tre de taille cons�quente. En effet, m�me en ayant une
valeur de $N$ r�duite, de nombreux mots seront rares, voire absents du
corpus. On dit � ce sujet que les mots suivent une loi de Zipf,
stipulant que la fr�quence d'apparition d'un mot d�cro�t rapidement
avec son rang d'apparition. Pour pallier cette difficult�, il est fait
appel � des m�thodes statistiques de \emph{lissage}.

Un premier proc�d� de lissage, connu sous le nom de
\emph{discounting}, consiste � retrancher au comptage des N-grammes
une certaine valeur qui sera en suite redistribu�e vers le comptage
des N-grammes absents du corpus d'apprentissage. Il existe de
nombreuses m�thodes de \textit{discounting}.  Un proc�d� tr�s simple
consiste par exemple � ajouter un � l'ensemble des comptages, y
compris ceux associ�s aux N-grammes absents.

Un autre moyen d'effectuer le lissage est d'utiliser les fr�quences
d'apparition des N-grammes d'ordres inf�rieurs si le N-gramme �tudi�
est peu pr�sent dans le dictionnaire. On distingue alors la technique
de l'\emph{interpolation lin�aire} de celle du \emph{repli} (appel�e
aussi \emph{backoff}).

L'interpolation lin�aire consiste � �valuer la probabilit�
$\hat{P}(w_i|w_{i-N+1}^{i-1})$ en faisant une combinaison lin�aire des
probabilit�s calcul�es pour les N-grammes d'ordre inf�rieur. Dans le
cas d'un mod�le trigramme par exemple, le calcul s'effectue � partir
des probabilit�s unigramme, bigramme et trigramme de la mani�re
suivante~:
\begin{equation}
\label{eqInterpolLineaire}
\hat{P}(w_i|w_{i-2}w_{i-1}) = \lambda_1 P(w_i|w_{i-2}w_{i-1}) +
\lambda_2 P(w_i|w_{i-1}) + \lambda_3 P(w_i)
\end{equation}
avec :
\begin{equation}
\sum_{k=1}^3 \lambda_k = 1
\end{equation}
de mani�re � ce que $\hat{P}$ demeure une probabilit�. $P$ est
calcul�e au moyen de l'�quation~(\ref{eqCoomptageNGrammes}) utilisant
les comptages. Les valeurs $\lambda_k$ sont estim�es de fa�on �
maximiser la vraisemblance de $\hat{P}$ sur un corpus de
test, diff�rent du corpus d'apprentissage.

Le repli effectue lui aussi une combinaison lin�aire avec les
probabilit�s de N-grammes d'ordre inf�rieur mais, � la diff�rence de
l'interpolation lin�aire, le recours aux N-grammes de tailles plus
r�duites n'est pas syst�matique \cite{Katz87}. Le calcul des
probabilit�s s'exprime de la mani�re suivante~:
\begin{equation} 
\hat{P}(w_i|w_{i-N+1}^{i-1}) = \left\{ \begin{array}{ll}
\tilde{P}(w_i|w_{i-N+1}^{i-1}) & \textrm{si } C(w_{i-N+1}^i) > 0\\
\alpha(w_{i-N+1}^{i-1}) \times \hat{P}(w_i|w_{i-N+2}^{i-1}) &
\textrm{sinon}
\end{array} \right.
\end{equation}

De m�me que pour les $\lambda_i$ de
l'�quation~(\ref{eqInterpolLineaire}), les coefficients $\alpha$ sont
calcul�s pour que $\hat{P}$ soit une probabilit�. Le symbole
\string~ sur le $P$ sert � indiquer que $\tilde{P}$ est souvent obtenu
� partir d'un proc�d� de \textit{discounting}.

Au-del� de ces techniques de lissage, il existe de nombreuses
variantes bas�es sur leurs principes, parmi lesquelles figure la
version modifi�e du lissage de Kneser-Ney qui, d'apr�s des �tudes
empiriques, donne de bons r�sultats \cite{Chen98}.

Les mod�les N-grammes, qu'ils utilisent ou non des techniques de
lissage, sont des m�thodes statistiques dont le nombre de param�tres �
estimer est tr�s grand, ce qui n�cessite de disposer d'une grande
quantit� de donn�es d'apprentissage. Depuis les d�buts d'utilisation
des N-grammes, de nombreux textes de natures diff�rentes ont �t�
collect�s, ce qui a largement profit� � l'am�lioration de ces
techniques. Toutefois, cette �volution suit depuis quelque temps une
asymptote. Selon une estimation informelle d'IBM, les performances des
mod�les bigrammes n'enregistrent plus de gain important au-del� de
quelques centaines de millions de mots, tandis que les mod�les
trigrammes semblent saturer � partir de quelques milliards de
mots. Or, dans plusieurs domaines d'application de syst�mes de RAP, de
tels volumes de donn�es ont d�j� �t� collect�s \cite{Rosenfeld00}.

Pour tenter d'am�liorer les performances des ML, des �volutions du
mode de calcul des probabilit�s par les mod�les N-grammes ont �t�
envisag�es. Le principal reproche qui est fait aux mod�les N-grammes
est l'hypoth�se qui a permis l'�laboration des premiers ML performants
et utilisables, � savoir la prise en compte d'un historique $h_i$ de
taille limit�e. Le calcul des probabilit�s est en effet r�alis� au
moyen d'une �galit� du type :
\begin{equation} 
P(w_1^n) = P(w_1) \prod_{i=2}^n P(w_i|h_i)
\end{equation}
Plusieurs �tudes ont �t� men�es pour examiner un historique plus
�tendu que $w_{i-N+1}^{i-1}$ \cite{Goodman01}.


\paragraph{Modifications de l'historique dans le calcul
  des probabilit�s \\} 
\label{subSubSecModifHisto}

La prise en compte d'un historique de tr�s grande taille est
susceptible d'am�liorer les performances du ML. Toutefois, les
modifications envisag�es doivent tenir compte du fait que parmi
l'ensemble des historiques possibles, beaucoup deviennent rares voire
inexistants dans le corpus d'apprentissage quand on augmente le nombre
de mots pris en compte.

Un moyen tr�s simple pour �tendre les N-grammes est d'utiliser
l'interpolation lin�aire (\textit{cf.}
�quation~(\ref{eqInterpolLineaire})) pour combiner des mod�les
N-grammes d'ordres diff�rents. Ceci permet d'avoir un historique
�tendu mais aussi de faire face � la raret� des donn�es dans le corpus
d'apprentissage. Ces mod�les sont nomm�s mod�les \emph{polygrammes}
\cite{Kuhn94, Gallwitz96}. Cette m�thode pr�sente deux
inconv�nients. Elle n�cessite tout d'abord l'�valuation de nombreux
param�tres puisque les calculs de probabilit� sont effectu�s � partir
de plusieurs tailles d'historique. De plus, il n'est pas possible
d'augmenter ind�finiment la taille de l'historique, m�me en utilisant
des m�thodes de lissage perfectionn�es. On consid�re souvent � ce
sujet que les mod�les N-grammes d'ordre sup�rieur � 5 n'apportent pas
de gain par rapport aux mod�les d'ordres inf�rieurs \cite{Goodman01}.

Une autre variation des mod�les N-grammes consiste � ignorer certaines
positions dans l'historique ; il s'agit alors de mod�les
\emph{skipping}. L'interpolation lin�aire de mod�les 5-grammes
\textit{skipping} peut ainsi avoir la forme :
\begin{equation}
\lambda_1 P(w_i|w_{i-4}w_{i-3}w_{i-2}w_{i-1}) + \lambda_2
P(w_i|w_{i-4}w_{i-3}w_{i-1}) + \lambda_3
P(w_i|w_{i-4}w_{i-2}w_{i-1})
\end{equation}
Ces types de mod�les permettent de prendre en compte des historiques
qui sont proches mais non strictement identiques au contexte
courant. Cette propri�t� est particuli�rement importante quand on
augmente la taille des N-grammes car il devient alors de plus en
plus rare de trouver deux historiques identiques \cite{Goodman01}. 

Les mod�les dits \emph{permugrammes} adoptent une approche similaire
en ce qui concerne les historiques, en effectuant une permutation des
mots pris dans le contexte. Ils red�finissent le calcul des
probabilit�s par l'�quation :
\begin{equation}
P(W) = P(w_{\pi(1)}) \prod_{i=2}^{n} P(w_{\pi(i)}|w_{\pi(i-N+1)}
\ldots w_{\pi(i-1)})
\end{equation}
o� $\pi$ est une permutation qui r�ordonne la succession des
mots. Cette �quation conduit ainsi � des historiques de la forme $h_i
= w_{i-3},w_{i+1}$ \cite{Schukat95}. L'utilisation de ces mod�les peut
parfois apporter une l�g�re am�lioration des performances des
N-grammes. Ils augmentent toutefois de mani�re importante l'espace
de recherche ainsi que le nombre de param�tres � calculer.


D'autres �tudes ont consid�r� l'historique non pas comme une
succession de mots mais comme une suite de groupes de mots. Cette
approche s'appuie sur une segmentation en s�quences de mots, en fixant
une taille maximum $M$ pour ces s�quences. Le calcul de la probabilit�
$P(w_1w_2w_3)$ devient par exemple, avec $M = 3$ et en prenant un
historique de longueur maximale 2 :
\begin{equation}
P(w_1w_2w_3) = max \left\{ \begin{array}{l} 
P([w_1w_2w_3]) \\
P([w_1]) P([w_2w_3]|[w_1]) \\
P([w_1w_2]) P([w_3]|[w_1w_2]) \\
P([w_1]) P([w_2]|[w_1]) P([w_3]|[w_1][w_2])
\end{array} \right\}
\end{equation}
Il existe une variante de ce calcul, rempla�ant $max$ par la somme de
toutes les segmentations possibles. Ces mod�les, qualifi�s de
\emph{multigrammes}, n'ont pas permis pour l'instant d'am�liorer
v�ritablement les performances par rapport aux ML classiques
\cite{Bimbot95, Deligne95, Alain05}.

Un autre type d'extension des N-grammes repose sur un historique �
longueur variable, ce qui permet de faire des distinctions
suppl�mentaires dans certains cas ambigus, tout en conservant un
nombre raisonnable de param�tres � estimer. Les N-grammes pris en
compte dans le calcul des probabilit�s sont alors pr�sent�s sous la
forme d'un arbre (Fig.~\ref{figVarigrammes}). Dans le cas des mod�les
N-grammes classiques, o� la taille de l'historique est fixe, cet arbre
a une profondeur fixe �gale � $N - 1$. Dans le cas des mod�les
\emph{varigrammes} au contraire, la profondeur varie selon les
branches puisque des n\oe uds proches dans l'arbre et associ�s � des
probabilit�s conditionnelles similaires sont fusionn�s \cite{Siu00,
Kneser96, Niesler96b}.
\FigurePS{!htbp}{10cm}{varigrammes.eps}{Repr�sentation sous forme
d'arbre d'un mod�le varigramme}{figVarigrammes} La conception des
mod�les varigrammes conduit � une diminution de la taille des ML, sans
modifier leurs performances. Les mod�les dits \emph{x-grammes}
poursuivent �galement le m�me objectif, \textit{i.e.}, la fusion des
historiques tr�s proches. Leur particularit� est de mod�liser les ML
par des automates � �tats finis.

Enfin, on peut citer l'utilisation des mod�les � base de
\emph{cache}. Ces mod�les conduisent � l'utilisation d'historiques de
l'ordre de plusieurs centaines de mots, \textit{i.e.}, de taille
beaucoup plus importante que les mod�les N-grammes. Ils sont bas�s
sur le principe que si un locuteur utilise un mot, la probabilit�
qu'il l'utilisera � nouveau dans un futur tr�s proche augmente
consid�rablement. Ils red�finissent alors le calcul des probabilit�s
$P(W)$ par l'�quation :
\begin{equation}
P(W) = \tilde{P}(w_1) \prod_{i=2}^{n}
\tilde{P}(w_i|w_{i-N+1} \ldots w_{i-1})
\end{equation}
o� les probabilit�s $\tilde{P}$ sont �valu�es � partir des comptages
des mots dans le cache et non plus dans un corpus d'apprentissage
comme cela est le cas pour les mod�les N-grammes. Les mod�les � base
de cache sont syst�matiquement combin�s avec des mod�les
N-grammes. Ils peuvent contribuer � am�liorer les performances des ML,
mais ce, au d�triment de la vitesse de calcul des probabilit�s lors de
la transcription \cite{Goodman01, Kuhn90, Clarkson97}.

On le voit donc, de nombreuses tentatives ont �t� faites pour essayer
de saisir les d�\-pen\-dances � longue distance, \textit{i.e.}, les
relations entre les mots qui sont s�par�s par plus de $N-1$ mots. Les
techniques qui viennent d'�tre pr�sent�es permettent souvent
d'am�liorer l�g�rement les performances par rapport � des mod�les
trigrammes. Toutefois, les progr�s sont bien souvent peu
significatifs, alors que leur utilisation engendre un accroissement de
la complexit� des calculs lors de la reconnaissance ou une
augmentation importante du nombre de param�tres � estimer
\cite{Goodman01}.

%% Les m�thodes qui ont �t� succinctement pr�sent�es dans cette
%% sous-section font appel exclusivement � des connaissances
%% statistiques. De plus, les ML les plus populaires, \textit{i.e.}, les
%% N-grammes, assimilent les mots � une suite de symboles, sans
%% r�ellement consid�rer qu'ils mod�lisent du langage. Une voie qui est
%% de plus en plus explor�e est d'utiliser davantage d'informations
%% linguistiques \cite{Rosenfeld00} pour tenter d'accro�tre leurs performances. La
%% section~\ref{secIntroConnaissancesLing} se propose de faire un �tat de
%% l'art sur cette question.

Cette section a pr�sent� les principes des ML, la derni�re �tape
intervenant dans l'association du signal acoustique � une succession
de mots. Il nous reste � voir sous quelles formes se pr�sentent les
sorties du processus de transcription de la parole.



\subsection{Sorties des syst�mes de transcription}
\label{subSecSortiesSTP}

Comme dit pr�c�demment, le r�le d'un syst�me de RAP est de produire
une transcription d'un signal sonore. Le r�sultat pourra donc �tre
naturellement un texte. Toutefois, selon le cadre d'utilisation d'un
tel syst�me, il existe d'autres types de sortie envisageables.

\paragraph{Texte brut} 
Lorsqu'un syst�me de RAP produit un texte, celui-ci correspond � la
succession de mots qui a obtenu la plus haute probabilit� de la part
du syst�me. Ce texte est organis� sous la forme de groupes de souffle,
le d�codage de la parole se basant sur la d�tection de pauses
silencieuses. Cette forme purement textuelle laisse envisager la
possibilit� d'appliquer des techniques de TAL pour am�liorer les
r�sultats produits.

Dans le cas o� l'on dispose d'une transcription de r�f�rence, obtenue
g�n�ralement manuellement, celle-ci peut �tre align�e avec le texte
produit par le syst�me de RAP (Fig.~\ref{figAlignementTrans}) pour
effectuer des calculs de performance (\textit{cf.}
section~\ref{subSecEval}). L'alignement est obtenu en faisant
correspondre un maximum de mots des deux transcriptions au moyen d'un
algorithme de type Viterbi. Trois types d'erreur sont alors distingu�s
:
\begin{itemize}
\item les insertions, rep�r�es par des I, correspondant � un ajout
  d'un mot de la transcription automatique par rapport � la
  transcription de r�f�rence,
\item les suppressions, marqu�es par des D (pour \textit{deletion}),
  associ�es � un mot manquant dans la transcription automatique,
\item les substitutions, repr�sent�es par des S, indiquant un
  remplacement d'un mot de la transcription de r�f�rence par un autre
  mot pr�sent dans la transcription automatique.
\end{itemize}

\begin{figure}
\begin{center}
\begin{tabular}{l}
\hline
\verb+REF: il AURA ALORS  face � lui une fronde syndicale *** UNIE+\\
\verb+HYP: il **** VALEUR face � lui une fronde syndicale EST PUNI+\\
\\
\verb+         D    S                                      I   S  +\\
\hline
\end{tabular}
\end{center}
\caption{Alignement de la transcription automatique (HYP) et de la
  transcription de r�f�rence (REF)}
\label{figAlignementTrans}
\end{figure}

Lorsque des traitements doivent �tre op�r�s apr�s le processus de
transcription, on choisit parfois de conserver non pas la meilleure
hypoth�se, mais plut�t la liste des $N$ meilleures hypoth�ses. Ceci
laisse la possibilit� de r�ordonner les hypoth�ses, si on dispose de
connaissances suppl�mentaires par la suite.


\paragraph{Graphes de mots}
La liste des $N$ meilleures hypoth�ses pr�sente de nombreuses
redondances, les �l�ments de la liste diff�rant bien souvent par un
seul mot. Une sortie plus compacte qui lui est souvent pr�f�r�e est le
graphe de mots (Fig.~\ref{figGrapheMots}). Ce graphe peut �tre une
variante du HMM de plus haut niveau du MA (\textit{cf.}
section~\ref{subSecMA}). Les arcs sont valu�s par les probabilit�s
�tablies par le MA et le ML, et repr�sentent des hypoth�ses ou sur les
mots prononc�s ou sur la pr�sence de pauses silencieuses (not�es par
\og \textit{sil} \fg\ sur la figure~~\ref{figGrapheMots}). Les n\oe
uds sont quant � eux associ�s aux instants possibles o� un mot se
termine et un autre d�bute. Puisque les informations concernant
l'instant de prononciation des mots sont peu employ�es, le graphe est
souvent compact� en supprimant les arcs et les n\oe uds qui
repr�sentent les m�mes hypoth�ses de succession de mots
\cite{Deshmukh99}. De surcro�t, la taille du graphe de mots construit
pouvant �tre consid�rable, il peut �tre utile de l'�laguer en fixant
par exemple un nombre maximum de n\oe uds. Un autre crit�re possible
d'�lagage est le nombre $k$ d'hypoth�ses retenues sur les successions
de mots.

\FigurePS{!htbp}{10cm}{GrapheMots.eps}{Exemple de graphe de mots
  (non valu�)}{figGrapheMots}

\paragraph{R�seaux de confusion}
Cet autre type de sortie correspond � un compactage des graphes de
mots, en conservant davantage d'informations que les $k$ meilleures
hypoth�ses. La construction des r�seaux de confusion, �galement
appel�s \og saussisses\fg\ (Fig.~\ref{figReseauConfusion}), consiste �
aligner les hypoth�ses de succession de mots, un peu comme on le
ferait si l'on souhaitait aligner la transcription automatique avec la
transcription de r�f�rence
(Fig.~\ref{figAlignementTrans}). L'extraction des meilleures
hypoth�ses se fait ici en tentant de minimiser les erreurs
d'insertion, de suppression ou de substitution, et non pas en
d�terminant la succession de mots associ�e aux plus faibles
probabilit�s \textit{a posteriori}, comme dans le cas des graphes de
mots. Ceci est une propri�t� int�ressante des r�seaux de confusion
dans la mesure o� les syst�mes de RAP cherchent plut�t � obtenir une
transcription ayant le minimum d'erreurs qu'un texte ayant un bon \og
score\fg\ de probabilit� \cite{Mangu00}.

\FigurePS{!htbp}{9.5cm}{ReseauConfusion.eps}{Exemple de r�seau de
confusion}{figReseauConfusion}

� l'issue de la pr�sentation des diff�rents types de sorties de la
transcription, la section suivante s'int�resse � la description de
m�thodes de mesure de la qualit� des r�sultats produits.


\subsection{M�thodes d'�valuation}
\label{subSecEval}

La mesure qui est commun�ment employ�e pour mesurer la qualit� d'une
transcription est le \emph{taux d'erreur sur les mots} d�fini par :
\begin{equation}
\textrm{taux d'erreur }= \frac{\textrm{nb d'insertions} + \textrm{nb
    de suppressions} + \textrm{nb de substitutions}}{\textrm{nb de
    mots dans la transcription de r�f�rence}}
\end{equation}

Dans ce calcul revenant � d�terminer la distance d'�dition entre la
transcription automatique et la transcription de r�f�rence, les co�ts
d'insertion, de suppression ou de substitution ont une valeur fixe qui
ne d�pend pas du nombre de caract�res erron�s dans la transcription
automatique. La transcription �tant envisag�e comme une succession de
mots-formes (\textit{cf.} section~\ref{subSecDiffTrans}), ceci
implique qu'une simple erreur d'accord en genre et en nombre aura le
m�me co�t qu'une substitution par un mot qui n'a aucun rapport sur le
plan acoustique ou s�mantique avec le mot correct. On voit ainsi que
le taux d'erreur, m�me s'il est tr�s utilis�, n'indique pas
directement si le r�sultat produit est correct du point de vue des
informations transmises. Bien entendu, s'il devient faible, la
probabilit� qu'il s'est produit une erreur sur les mots informatifs
diminue mais ce n'est pas syst�matique.

Le taux d'erreur sur les mots permet d'�valuer globalement le syst�me
de RAP. Il existe d'autres mesures, telles que l'\emph{entropie
crois�e} ou la \emph{perplexit�}, pour mesurer la qualit� du ML seul
\cite{Jurafsky00}. Pour d�finir la premi�re, pr�cisons pour d�buter la
notion d'\emph{entropie}.

L'entropie, not�e $H$, est une mesure d'information qui se calcule
pour une s�quence de mots $w_1^n$ de la mani�re suivante :
\begin{equation}
H(w_1^n) = - \sum_{w_1^n \in \mathcal{L}} P(w_1^n) \log_2P(w_1^n)
\end{equation}

Pour un langage $\mathcal{L}$, elle s'obtient par :
\begin{eqnarray}
H(\mathcal{L}) & = & \lim_{n \to \infty} \frac{1}{n} H(w_1^n)
\\
& = & \lim_{n \to \infty} - \frac{1}{n} \sum_{w_1^n \in \mathcal{L}}
P(w_1^n) \log_2 P(w_1^n)
\end{eqnarray}

La mesure d'\emph{entropie crois�e}, directement d�riv�e de l'entropie
et souvent abusivement appel�e de mani�re identique, permet d'�valuer
la performance d'un ML. Si l'estimation de la probabilit� par un ML
est not�e $\hat{P}$ et si $P$ est la distribution r�elle de
probabilit�, l'entropie crois�e de ce mod�le se calcule par :
\begin{equation}
H(P,\hat{P}) = \lim_{n \to \infty} - \frac{1}{n} \sum_{w_1^n \in
\mathcal{L}} P(w_1^n) \log_2 \hat{P}(w_1^n)
\end{equation}

En supposant que le langage $\mathcal{L}$ poss�de de bonnes propri�t�s,
le th�or�me de Shannon-McMillan-Breiman permet d'�crire :
\begin{equation}
H(P,\hat{P}) = \lim_{n \to \infty} - \frac{1}{n} \log_2 \hat{P}(w_1^n)
\end{equation}

En pratique, pour comparer la performance de deux ML, on compare les
entropies crois�es calcul�es pour ces deux mod�les sur un corpus de
test $T$ aussi grand que possible, de mani�re � approximer au mieux la
limite vers l'infini :
\begin{equation}
H_T(P,\hat{P}) = - \frac{1}{t} \log_2 \hat{P}(T)
\end{equation}
o� $t$ repr�sente le nombre de mots du corpus de test. Cette �quation
est tr�s proche de l'objectif de la mod�lisation statistique du ML
(\textit{cf.} �quation~(\ref{eqWbaySimpl})), \textit{i.e.}, trouver
$\hat{P}$ maximisant $\hat{P}(\mathcal{L})$. Plus l'entropie crois�e
est faible, meilleur est ainsi le mod�le.

Dans la plupart des �tudes �valuant les ML, la \emph{perplexit�} $PP$
est souvent pr�f�r�e � l'entropie crois�e. Elle se calcule sur un
ensemble de test $T$ � partir de :
\begin{equation}
PP_T(\hat{P}) = 2^{H_T(P,\hat{P})}
\end{equation}

Bien que tr�s utilis� pour la comparaison des ML, ce crit�re poss�de
des limites. Une baisse importante de la perplexit� ne correspond pas
forc�ment � une baisse de m�me ordre du taux d'erreur sur les mots, si
on int�gre le ML dans un syst�me de RAP ; seules des r�ductions de la
perplexit� d'au moins 10-20\,\% semblent �tre vraiment significatives
\cite{Rosenfeld00}. Son principal inconv�nient est qu'il favorise les
mod�les accordant une plus grande probabilit� aux mots pr�sents dans
le corpus de test, et ignore la mani�re avec laquelle sont distribu�es
les probabilit�s aux autres mots. Or, ces mots peuvent conduire, lors
du d�codage par le syst�me de RAP, � des probabilit�s plus �lev�es que
celles obtenues pour les mots corrects \cite{Clarkson99}. Dans
certaines situations, on peut ainsi observer une augmentation du taux
d'erreur en m�me temps qu'une diminution de la perplexit�. Certains
auteurs pr�conisent donc d'utiliser plut�t l'entropie crois�e, qui
semble plus corr�l�e avec le taux d'erreur \cite{Goodman01}.

\paragraph{}
Cette section~\ref{SecPrincRP} d�di�e aux principes de fonctionnement
des syst�mes de RAP nous a donn� l'occasion d'�voquer les limitations
des ML les plus populaires, \textit{i.e.}, les mod�les
N-grammes. Avant de voir en d�tail comment il est possible d'int�grer
davantage de connaissances linguistiques pour am�liorer les
performances de la transcription, la section suivante se focalise sur
les sp�cificit�s de la langue parl�e.




\newpage
%----------------------------------------------------------------------------



\section{Caract�ristiques de la langue parl�e}
\label{secCaractLangParle}

Les documents trait�s par les syst�mes de RAP sont par d�finition
prononc�s par des locuteurs et rel�vent donc du domaine de la langue
parl�e. Ces types de documents ont malheureusement �t� peu �tudi�s par
les linguistes et les adeptes du TAL, comparativement aux textes
�crits. Cette constatation trouve sa source dans le mode de pens�e de
la culture occidentale, qui �tablit tr�s souvent que l'�crit,
consid�r� comme prestigieux, est seul digne d'int�r�t. En outre, peu
de corpus oraux existent et ceux qui sont disponibles sont souvent de
taille peu importante. Les plus volumineux d'entre eux pour le
fran�ais ne poss�dent ainsi que quelques millions d'occurrences. Ceci
a pour r�sultat que les syst�mes de RAP actuels effectuent
l'apprentissage des ML sur un corpus oral de taille r�duite,
accompagn� d'un corpus �crit beaucoup plus volumineux, au risque de
param�trer les mod�les avec la langue utilis�e dans le journal
\textit{Le Monde} pour le fran�ais ou celui du \textit{Wall Street
Journal} pour l'anglais \cite{Veronis04}.

Deux questions se posent alors. Peut-on mod�liser la langue parl�e �
l'aide de corpus de la langue �crite, disponibles en plus grands
volumes que les corpus oraux ?  Quel est le comportement du TAL et du
processus de transcription par rapport aux ph�nom�nes sp�cifiques de
la langue parl�e ? Pour r�pondre � ces questions, nous pr�cisons tout
d'abord ce qui d�finit la langue parl�e par rapport � la langue
�crite. Nous pr�sentons ensuite les principales caract�ristiques de
cette langue parl�e en ce qui concerne son vocabulaire et sa syntaxe,
avant de d�crire les perturbations provoqu�es par les ph�nom�nes
d'h�sitation tr�s fr�quents qu'elle contient. Nous abordons ensuite la
constitution des corpus oraux, en montrant bri�vement sous quelles
formes ils se pr�sentent et comment ils peuvent �tre annot�s. Nous
terminons cette section en �tudiant le comportement des syst�mes de
RAP vis-�-vis des dialogues spontan�s, qui sont la forme de l'oral se
distinguant le plus des formes conventionnelles de l'�crit.


\subsection{Langue parl�e et langue �crite}
\label{subSecLPetLE}

La \emph{langue parl�e} est d�finie comme �tant ce qui est prononc�
par des locuteurs � l'oral et fait donc appel � la voix et �
l'oreille. La \emph{langue �crite} repr�sente quant � elle ce qui
s'�crit et implique donc l'usage de la main et des yeux. La langue
parl�e et la langue �crite exploitent ainsi des canaux diff�rents qui
ont des contraintes importantes sur leur mode de production
\cite{Melis00}.

Le canal oral impose une certaine lin�arit� lors son �mission et de
son �coute, m�me si on peut parfois avoir recours � des dispositifs
d'enregistrement permettant de faire des retours en arri�re. L'oral,
produit en continu, exclut en g�n�ral toute forme de pr�paration
pr�alable, de planification. La configuration typique de l'oral est
caract�ris�e par une r�ception imm�diate par un ou plusieurs
interlocuteurs, qui ont la possibilit� de r�agir au cours m�me de la
production. Ceci peut obliger le locuteur � adapter son discours en
fonction de ces r�actions.

Le canal �crit au contraire exploite la page et fait intervenir deux
dimensions : la largeur et la hauteur, facilitant ainsi les retours �
des �l�ments ant�rieurs. Le texte est g�n�ralement produit en diff�r�
et peut donc �tre formul� et reformul� avant d'�tre livr� aux
destinataires. Les r�cepteurs ne sont pas au contact du scripteur et
celui-ci se trouve en g�n�ral contraint de proposer un texte
d�sambigu�s�, informatif et structur�.

Il existe en outre une opposition entre l'oral et l'�crit au niveau de
la segmentation des productions. La \emph{prosodie}, qui recouvre des
informations sur l'intonation, l'accent, les pauses et m�me le d�bit,
joue un r�le important dans la segmentation de la langue orale, sans
toutefois permettre une structuration aussi importante que ce qu'on
peut attendre pour les textes �crits. Il n'existe en effet pas �
l'oral de d�marcation aussi nette que celle permise par les signes de
ponctuation ; on ne peut vraiment d'ailleurs y parler de phrase
(\textit{cf.}  section~\ref{subSubSecFormesCorpus}). Les proc�d�s de
mise en page de l'�crit, � savoir les alin�as, les paragraphes ou
encore les sections, autorisent au contraire une structuration de
documents de taille importante.

Les modes de production des langues parl�e et �crite, que nous venons
d'�voquer, font que l'�crit est stable et la parole instable. Cette
caract�ristique a ainsi conduit la culture occidentale � valoriser
l'�crit sur l'oral, m�me si finalement l'�crit peut �tre vu uniquement
comme un simple syst�me de codage de la langue parl�e au moyen de
signes visibles. Alors que les lois, les contrats, les textes
religieux fondamentaux sont des documents �crits, l'oral ne n�cessite
pas un apprentissage � l'�cole aussi formel que l'�crit. Avec
l'invention de l'imprimerie, qui a grandement favoris� la diffusion
des textes, le code �crit a pris de plus en plus
d'importance. L'apparition des ordinateurs et d'Internet a fait
cro�tre de mani�re exponentielle la production et la diffusion de
documents �crits, mais favorise �galement l'apparition de nouvelles
formes de documents, comme les courriels ou les blogs. Dans le m�me
temps, les m�dias ont permis la diffusion massive de discours
t�l�vis�s ou bien encore d'�missions radiophoniques. L'opposition
entre langue parl�e et langue orale est ainsi loin d'�tre aussi claire
que celle pr�sent�e au d�but de cette section et on assiste � une
hybridation des codes \cite{Polguere03}. Si l'on peut facilement
opposer les dialogues aux romans litt�raires, on ne trouve pas
toujours de contrastes aussi forts entre la langue parl�e et la langue
�crite, notamment en ce qui concerne l'interactivit� et la pr�paration
des documents. Le discours t�l�vis� du chef de l'�tat � la nation sera
par exemple pr�par� et n'autorise pas l'intervention des
r�cepteurs. Le courrier �lectronique autorise quant � lui davantage
d'interactions avec les destinataires et se rapproche plus du dialogue
oral.

La langue qui est employ�e dans les documents �crits ou oraux peut
subir d'importantes variations selon les r�gionalismes, les p�riodes
consid�r�es, les groupes sociaux et culturels ou encore les registres
\cite{Melis00}. Dans le domaine de l'oral, la linguiste
Blanche-Benveniste d�finit six genres majeurs : les conversations face
� face, les conversations par t�l�phone, les d�bats et entrevues en
public, les �missions de radio ou de t�l�vision, les discours non
pr�par�s et enfin les discours pr�par�s \cite{Blanche-Benveniste97}.

Les langues parl�e et �crite correspondent donc � deux codes
diff�rents puisqu'elles n'utilisent pas le m�me canal de
communication. On ne peut ainsi consid�rer l'oral comme une simple
forme d�grad�e de l'�crit. De m�me, bien que certaines �critures
soient phonographiques et codent en partie les sons, comme cela est le
cas du fran�ais, l'�crit est loin d'�tre une seule transcription de
l'oral, ne serait-ce que parce que le scripteur choisit la mani�re de
pr�senter les informations \cite{Gardes04}. Les diff�rences entre
l'oral et l'�crit ne sont toutefois pas suffisantes pour qu'il faille
les �tudier de mani�re totalement ind�pendante
\cite{Blanche-Benveniste90}.

Les sections suivantes se proposent de d�gager des ph�nom�nes
revenant plus fr�quem\-ment � l'oral qu'� l'�crit.




\subsection{Vocabulaire et syntaxe}
\label{subSecVocaSynt}

M�me s'il est incorrect de dire que l'oral est une forme rel�ch�e de
l'�crit, le registre de la langue parl�e est g�n�ralement moins
soutenu dans la mesure o� elle est souvent employ�e dans des cadres
moins formels. Du point de vue lexical, la langue parl�e se fonde sur
un ensemble familier de mots, plus restreint que celui de la langue
�crite. Une �tude comparant deux corpus de 20 millions d'occurrences
de mots chacun, le premier correspondant � des journaux �crits et le
second � des �missions journalistiques radiophoniques et t�l�vis�es
transcrites manuellement, a ainsi obtenu 127~000 mots distincts pour
l'oral et 215~000 pour l'�crit, et ce, en consid�rant une m�me ann�e
de production. Toujours selon cette m�me �tude, l'utilisation des
cat�gories grammaticales suit des r�partitions diff�rentes dans les
deux corpus. Un taux plus important de pronoms et un taux moins
important de noms sont ainsi observ�s � l'oral \cite{Gendner02}. On y
observe aussi l'introduction de \og petits\fg\ mots, notamment appel�s
ligateurs, marqueurs de discours ou encore inserts, comme par exemple
\og \textit{quoi}\fg, \og \textit{bon}\fg, \og \textit{donc}\fg, \og
\textit{enfin}\fg\ ou \og \textit{genre}\fg.

Au niveau de la syntaxe, il existe des tournures propres � l'oral. Si
en fran�ais le \og \textit{pas}\fg\ est facultatif � l'�crit dans la
n�gation \og \textit{ne ... pas}\fg, c'est le \og \textit{ne}\fg\ qui
le devient � l'oral. Le \og \textit{il}\fg\ prend �galement � l'oral
un caract�re facultatif dans les formules \og \textit{il faut} \fg\ et
\og \textit{il y a}\fg. On peut aussi citer l'invariabilit� du \og
\textit{c'est}\fg\ dans des expressions telles que \og \textit{c'est
les voisins qui sonnaient}\fg. Ces expressions sont dues au contexte
d'utilisation de la langue orale qui favorise l'interactivit� et
impose donc un temps limit� de formulation des id�es. Pour la m�me
raison, et m�me si cela est loin d'�tre syst�matique, les accords du
participe pass� seront moins respect�s � l'oral qu'� l'�crit
\cite{Melis00}.

Il semble �galement que l'ordre des mots soit un peu plus souple dans
la langue parl�e que dans l'�crite, bien que les langues rigides sur
l'ordre des mots comme le fran�ais ou l'anglais le soient encore �
l'oral \cite{Antoine01}. Les �l�ments r�gis par le verbe peuvent, �
l'oral, se placer avant le groupe sujet-verbe, comme dans l'exemple
\og \textit{les haricots j'aime pas}\fg. On observe aussi davantage de
cliv�es (\og \textit{c'est le coiffeur qui est content}\fg), de
pseudos-cliv�es (\og \textit{ce qui l'int�resse c'est le pognon}\fg),
de doubles marquages (\og \textit{moi j'en ai jamais vu en Suisse des
immeubles}\fg) ou encore de dislocations (\og \textit{j'ai choisi la
bleue de robe}\fg) \cite{Blanche-Benveniste90}.

Ces ph�nom�nes ne justifient pas toutefois de proposer une grammaire
sp�ciale pour la langue parl�e. Pour le fran�ais, Blanche-Benveniste
indique ainsi que la syntaxe de l'oral ne diff�re en rien de celle de
l'�crit, sauf en termes de proportions \cite{Blanche-Benveniste90,
Benzitoun04b}. Bien que cela soit plus rare qu'� l'oral, on observe
�galement � l'�crit des cliv�es ou m�me des erreurs d'accord de
participe pass�.

Cette section a montr� les principales diff�rences que l'on
pouvait observer entre l'oral et l'�crit du point de vue du lexique et
de la syntaxe. Toutefois, elle a occult� les perturbations de la
syntaxe par les ph�nom�nes d'h�sitation, plus nombreux dans la langue
parl�e. La section suivante �tudie l'influence de ces ph�nom�nes.




\subsection{Ph�nom�nes d'h�sitation}
\label{subSecPhHesitation}

Les marques d'h�sitation ne sont pas propres � l'oral puisqu'elles se
manifestent �galement dans les nouvelles formes de communication
�crite comme les courriels, les forums, les chats ou encore les SMS
\cite{Benzitoun04}. Elles sont �galement pr�sentes dans les brouillons
des textes �crits sous la forme de ratures. N�anmoins, elles sont
avant tout caract�ristiques de l'oral spontan�. Il est ainsi estim�
qu'elles repr�sentent environ 5\,\% des mots dans les corpus spontan�s
et moins de 0,5\,\% des mots dans les corpus de parole lue ou pr�par�e
(\textit{cf.} section~\ref{subSecCorpOraux}). Elles ne peuvent
donc �tre ignor�es lors de la transcription.

Les ph�nom�nes d'h�sitation correspondent g�n�ralement � un travail de
formulation de la part du locuteur, dans la mesure o� le discours est
compos� au fur et � mesure de sa production. Ils peuvent cependant
avoir d'autres r�les tels que la manifestation d'un doute, l'envoi
d'un signal au r�cepteur pour garder la parole ou au contraire la lui
c�der, le marquage de fronti�res dans le discours, ou bien encore
l'expression d'un stress ou d'une d�contraction.

Comme les marques d'h�sitation introduisent une rupture dans la
continuit� du discours, ou plus exactement dans le d�roulement
syntagmatique, elles sont �galement appel�es \emph{disfluences}. Il
existe bien d'autres termes utilis�s dans la litt�rature pour les
nommer, certains ne d�signant pas exactement les m�mes ph�nom�nes :
\emph{turbulences}, \emph{faux d�parts}, \emph{lapsus},
\emph{inattendus structurels}, \emph{spontan�it�s}, \emph{modes de
production de la langue parl�e}, \emph{marques de r�paration},
\emph{marques du travail de formulation}, \emph{extragrammaticalit�s},
\textit{etc}. Une telle profusion de termes t�moigne de la discordance
entre certains linguistes sur ce qui rel�ve ou non de l'h�sitation �
l'oral. Toutefois, depuis quelques ann�es, plusieurs �tudes se sont
int�ress�es aux ph�nom�nes d'h�sitations et une nomenclature commence
� se d�gager.

Ces ph�nom�nes peuvent �tre de natures diff�rentes. Ils incluent par
exemple les \emph{pauses silencieuses}, mais pas toutes, certaines
jouant d'autres r�les que l'h�sitation comme la hi�rarchisation et la
structuration des constituants, ou encore la mise en valeur
stylistique de certains syntagmes. Les \emph{pauses remplies},
correspondant au \og \textit{um}\fg\ ou au \og \textit{uh}\fg\ en
anglais et au \og \textit{euh}\fg\ en fran�ais, ou encore les
\emph{allongements vocaliques} en fin de mots sont des marques
d'h�sitation tr�s employ�es \cite{Henry02, Candea00}. On peut aussi
citer \cite{Shriberg01} :
\begin{itemize}
\item les r�p�titions : \og \textit{tous les - les jours}\footnote{Le
  \og \textit{-}\fg\ repr�sentant une pause silencieuse.}\fg,
\item les suppressions : \og \textit{c'est - il est arriv� lundi}\fg,
\item les substitutions : \og \textit{tous les jours - toutes les
  semaines}\fg,
\item les insertions : \og \textit{je suis convaincu - je suis
  intimement convaincu}\fg,
\item les erreurs d'articulation : \og \textit{en jouin - en juin}\fg.
\end{itemize}
Ces quatre derniers types de disfluence sont parfois d�sign�s sous
le terme d'autocorrections \cite{Henry02}.
 
Il est possible de faire une autre classification des ph�nom�nes
d'h�sitation, en distinguant \cite{Pallaud04} :
\begin{itemize}
\item les bribes, correspondant � une reprise � partir de syntagmes
  inachev�s : \og \textit{il a quand m�me un - une fibre p�dagogique}
 \fg,
\item les amorces, associ�es aux mots inachev�s : \og \textit{c'est pas
  malho - c'est pas malhonn�te}\fg.
\end{itemize}

Les diff�rents ph�nom�nes d'h�sitation sont rarement produits seuls
mais plut�t en combinaison. Il peut ainsi y avoir des r�p�titions de
fragments de mots (\og \textit{on le re- re- revendique encore une
fois}\fg) \cite{Henry03}. De m�me, pour assurer un r�le d'h�sitation,
les pauses silencieuses sont g�n�ralement associ�es � des allongements
vocaliques ou � des pauses remplies \cite{Campione04}.

La fr�quence d'apparition des marques d'h�sitation est tr�s variable
selon le locuteur et le contexte d'�locution. Dans les dialogues
homme-machine, on constate g�n�ralement moins de disfluences que dans
les dialogues entre deux humains. Il semble �galement que les hommes
produisent en moyenne davantage de disfluences que les femmes. La
fr�quence des marques d'h�sitation est de plus d�pendante de la
position dans la phrase. Les disfluences ont ainsi tendance � se
produire plut�t en d�but de phrase, lorsque l'effort de planification
est le plus important. Pour la m�me raison, leur taux augmente souvent
avec la longueur de la phrase \cite{Shriberg01}. Les ph�nom�nes
d'h�sitation affectent enfin diff�remment les mots. En distinguant
deux types de mots, � savoir les \emph{lexicaux}, repr�sentant ceux
qui ont une charge lexicale pleine\footnote{En g�n�ral les noms, les
adjectifs, les verbes et les adverbes.} et les \emph{grammaticaux},
participant � la structuration de la langue\footnote{Les pronoms, les
d�terminants, les pr�positions, les conjonctions et les verbes
auxiliaires.}, on constate que les r�p�titions concernent plus souvent
les mots grammaticaux et que les amorces affectent plus fr�quemment
les lexicaux \cite{Pallaud04, Henry02a}.

En analysant les disfluences, des psycholinguistes ont mis en �vidence
plusieurs r�gions (Fig.~\ref{figDisfluences})\cite{Shriberg94,
Shriberg01} :
\begin{itemize}
\item le \emph{reperandum}, d�signant une partie ou la totalit� de la
  s�quence qui sera abandonn�e au profit de la r�paration,
\item le \emph{point d'interruption}, marquant une rupture dans la
  fluidit� du discours,
\item l'\emph{interregnum}, pouvant �tre des pauses remplies, mais
  aussi des termes d'�dition, comme \og \textit{ben}\fg,
  \og \textit{hein}\fg, \og \textit{tu vois}\fg, \og \textit{disons pour
  simplifier}\fg, \og \textit{je sais pas moi}\fg\ ou encore
  \og \textit{je me rappelle plus du nom}\fg,
\item la \emph{r�paration}, repr�sentant la partie corrig�e du
  \textit{reparandum}.
\end{itemize}

\FigurePS{!htbp}{7cm}{disfluences.eps}{R�gions dans une disfluence
(d'apr�s \cite{Shriberg01})}{figDisfluences}

\noindent La segmentation des disfluences en r�gions est li�e � des
modifications des propri�t�s acoustiques et phon�tiques. On observe
ainsi g�n�ralement un allongement des syllabes avant le point
d'interruption, ou au contraire, dans le cas d'une d�tection d'erreur
de la part du locuteur, un raccourcissement des syllabes. Cette
structuration permettrait de r�duire les �nonc�s � un oral \og propre\fg,
proche de l'�crit, en �liminant le \textit{reparandum} et
l'\textit{interregnum}. Malheureusement, cette approche ne rencontre
pas l'unanimit� des linguistes �tudiant l'oral.




\subsection{Corpus oraux}
\label{subSecCorpOraux}



On dispose � l'heure actuelle de corpus �crits de taille
volumineuse. Le \textit{British National Corpus} (BNC) contient ainsi
100 millions d'occurrences pour l'anglais, tandis que la base
\textit{Frantext} comporte 210 millions d'occurrences pour le
fran�ais.  Les pages disponibles sur Internet, bien que souvent
bruit�es, peuvent �tre �galement consid�r�es comme une source
gigantesque d'informations \cite{Veronis04}. Il n'existe
malheureusement pas pour l'oral de corpus de taille comparable. Le
plus grand, � savoir la partie orale du BNC, contient 10 millions
d'occurrences en anglais. On peut citer pour le fran�ais de Belgique
le corpus Valibel comptant pr�s de 4 millions d'occurrences et pour le
fran�ais de l'hexagone, le corpus Corpaix comptant environ 2,5
millions d'occurrences \cite{Campione05}, et le \textit{Corpus de
r�f�rence du fran�ais parl�} comptant 440~000 occurrences
\cite{delic04}.

Les corpus oraux, constitu�s au moyen de transcriptions manuelles,
concernent aussi bien de la parole \emph{lue}, \emph{pr�par�e} ou
encore \emph{spontan�e}. La parole lue est associ�e � la lecture �
haute de voix de textes, qui bien souvent appartiennent au domaine de
la langue �crite. La parole spontan�e correspond � des situations de
la vie quotidienne o� le locuteur parle sans avoir pr�par� au
pr�alable ce qu'il allait dire et en s'adaptant constamment � ses
interlocuteurs. La parole pr�par�e est une forme interm�diaire par
rapport aux deux pr�c�dentes et est plus d�licate � d�finir. Elle
d�signe des prises de parole o� le locuteur a r�f�chi auparavant aux
id�es qu'il souhaite transmettre ; il peut m�me disposer d'un texte
contenant une partie de son discours, qu'il n'ira pas toutefois
jusqu'� lire mot � mot pour pouvoir interagir avec les
interlocuteurs. Les questions pos�es par un journaliste et les
entretiens donn�s par un homme politique sont deux exemples de
production de parole pr�par�e.

Selon les conventions adopt�es, les corpus peuvent avoir plusieurs
formats ; ils peuvent contenir des informations pr�cises sur la
prosodie, �tre ponctu�s ou bien encore avoir des annotations sur des
�v�nements autres que la prononciation des mots. Accessoirement, ils
sont souvent �tiquet�s pour faciliter leur exploitation. Ils sont
alors segment�s en mots ou groupes de mots, auxquels sont associ�es
des informations (\textit{e.g.} syntaxiques ou s�mantiques) sur le
r�le de ces constituants dans le groupe de souffle courant. La forme
choisie du corpus d�pend de l'utilisation pr�vue mais aussi des
ressources humaines disponibles, compte tenu de la difficult� et du
temps n�cessaire pour effectuer une transcription
manuelle. L'indication de la prosodie dans les corpus oraux, bien que
souhaitable, demande notamment un temps consid�rable et se limite
souvent � quelques informations. M�me si des logiciels tels que
\textit{Transcriber} simplifient l'alignement du son avec la
transcription \cite{Barras01}, il a �t� estim� qu'environ 40 heures de
travail sont n�cessaires pour faire une transcription orthographique
pr�cise d'une heure de parole, et ce, avec de bonnes conditions
d'enregistrement et sans alternance de locuteurs \cite{Campione01b,
Veronis04}. La suite de cette section d�crit sous quelles formes
peuvent se pr�senter les corpus oraux, avant de pr�senter la mani�re
dont ils peuvent �tre �tiquet�s.


\subsubsection{Formes des corpus oraux}
\label{subSubSecFormesCorpus}

La transposition du signal sonore sous la forme d'un autre canal de
communication, � savoir le texte, n�cessite certaines
conventions. Elle se heurte � des difficult�s qui sont principalement
: la pr�sence d'�v�nements non linguistiques dans le flux audio,
l'existence de ph�nom�nes propres � la langue parl�e et la
segmentation du discours.

La perception des mots � partir du signal sonore peut tout d'abord
�tre perturb�e par des �v�nements non linguistiques qu'il est
int�ressant d'annoter dans la mesure o� ils peuvent rendre la parole
inaudible. Ces ph�nom�nes peuvent �tre li�s aux conditions
d'enregistrement, tels les parasites ou les bruits de fond, ou bien
encore �tre produits par les locuteurs, comme les inspirations, les
rires ou les toux.

Des �v�nements propres � la langue parl�e n�cessitent �galement des
conventions. Les chevauchements entre les discours prononc�s en m�me
temps par plusieurs locuteurs sont ainsi probl�matiques, dans la
mesure o� il faut indiquer la simultan�it� dans le texte, qui a un
format s�quentiel. Les ph�nom�nes d'h�sitation n�cessitent quant � eux
une attention particuli�re de la part du transcripteur car ils sont
naturellement ignor�s lors de la compr�hension des dialogues. Ils
pr�sentent pourtant un int�r�t pour les linguistes, qui en les
observant peuvent voir la production du langage en train de se
r�aliser. Il faut donc adopter des r�gles pour indiquer les pauses
silencieuses ou encore les amorces. Il existe aussi plusieurs types de
prononciation pour certains mots, ce qu'il est utile d'indiquer. Ceci
peut conduire � faire une transcription \emph{phon�tique} plut�t
qu'une transcription plus classique, dite \emph{orthographique}, sous
forme de mots. On choisit g�n�ralement d'avoir une transcription
orthographique, avec une convention pour distinguer les prononciations
de mots probl�matiques, tels que les sigles.

Une des difficult�s majeures de la constitution des corpus oraux
r�side dans leur segmentation. Pour faciliter leur lisibilit�, ils ne
peuvent en effet se pr�senter sous la forme d'une suite ininterrompue
de mots. Un premier niveau de segmentation consiste � distinguer les
\emph{tours de parole}, \textit{i.e.}, les suites de mots prononc�es
par un locuteur donn� avant qu'il ne c�de la parole. Il n'existe pas
d'unit� qui soit aussi nettement d�finie que la phrase pour la langue
�crite. L'unit� de la langue parl�e, que l'on qualifie
d'\emph{�nonc�}, peut ainsi repr�senter l'ensemble du tour de
parole. Certains linguistes et psycholinguistes caract�risent aussi un
�nonc� comme �tant d�limit� par la prosodie. D'autres le d�finissent
comme une succession de mots repr�sentant une id�e coh�rente ; dans
les directives d'annotation \textit{metadata} adopt�es dans les
�valuations \textit{Rich Transcription} conduites par le NIST, on
parle ainsi de \textit{SU}, associ�e � plusieurs significations :
\textit{Sentential Unit}, \textit{Syntactic Unit}, \textit{Semantic
Unit} ou \textit{Slash Unit} \cite{Strassel03}.

Malgr� la subjectivit� que cela entra�ne de la part du transcripteur,
certaines recommandations de transcription demandent d'indiquer les
signes de ponctuation dans les corpus oraux, ce qui les rapproche de
textes plus conventionnels.  La prosodie et les pauses silencieuses
apportent alors des informations pr�cieuses quant � la ponctuation. La
figure~\ref{figCorpTransc} montre ainsi un extrait de corpus transcrit
avec des ponctuations.
\begin{figure}
\begin{center}
\begin{tabularx}{\textwidth}{X}
\hline 
\og \textit{Le gouvernement am�ricain va pr�senter, [i] euh, au conseil
de s�curit� de l' !ONU, [i] un projet d(e) r�solution, [mic] un texte
qui permettrait, [i] la lev�e d(e) l'embargo No�lle
\string^\string^V�li.}\fg \\
\\
o� \og [\textit{i}]\fg\ marque une inspiration, \og \textit{!ONU}\fg\ 
repr�sente un acronyme, \og \textit{d(e)}\fg\ indique une absence de
prononciation du \og \textit{e}\fg, \og [\textit{mic}]\fg\ t�moigne de la
pr�sence d'un bruit de micro et \og \textit{\string^\string^V�li}\fg\ 
pr�cise que le mot est inconnu par le transcripteur. \\
\hline
\end{tabularx}
\end{center}
\caption{Extrait d'un corpus transcrit selon les conventions de
Transcriber}
\label{figCorpTransc}
\end{figure}
D'autres conventions de transcription recommandent au contraire de ne
pas indiquer de signes de ponctuation car le d�coupage effectu� par le
transcripteur en syntagmes ou en phrases pr�juge de l'analyse � faire
\cite{Blanche-Benveniste90}. Les pauses silencieuses se r�v�lent de
plus impr�cises pour d�tecter ces ponctuations, y compris quand le
corpus transcrit correspond � un texte lu \cite{Campione02}. Pour
am�liorer la lisibilit� des transcriptions, Blanche-Benveniste propose
une segmentation plus fine sous forme de grille. Lors de la production
de la parole, il existe en effet un travail de formulation important
qui vient perturber la succession des mots et le discours s'apparente
souvent � une �num�ration. Ce type de pr�sentation conduit �
positionner l'un en dessous de l'autre des �l�ments prononc�s
successivement et qui occupent une m�me place syntaxique
(Fig.~\ref{figMiseGrille}) \cite{Blanche-Benveniste90}.

\begin{figure}
\begin{center}
\begin{tabular}{l l l}
\hline
\og \textit{ils ont des ouvriers euh} & \textit{pay�s}  \\
& \textit{sp�cialis�s} & \textit{sup-} \\
& & \textit{sur les chantiers de fouille}\fg\ \\
\hline
\end{tabular}
\end{center}
\caption{Mise en grille d'un �nonc� (d'apr�s \cite{Guenot05})}
\label{figMiseGrille}
\end{figure}





\subsubsection{�tiquetage des corpus oraux}
\label{subSubSecEtiqCorpusOraux}


Pour faciliter l'utilisation des corpus, qu'ils soient oraux ou
�crits, un �tiquetage morpho-syntaxique est souvent r�alis�. Cet
�tiquetage consiste � attribuer � chaque mot, voire � des groupes de
mots dans le cas de locutions, une �tiquette que l'on appelle
\emph{partie du discours} ou \emph{PoS} (pour \textit{Part of
Speech}). Une PoS correspond � une propri�t� grammaticale dans une
phrase, telle que nom, verbe, adjectif, pr�position, \textit{etc.},
que l'on peut pr�ciser par le genre, le nombre, la personne,
\textit{etc.} Le choix des PoS � consid�rer n'est pas fixe pour une
langue donn�e. Les �tiqueteurs peuvent ainsi avoir des jeux
d'�tiquettes divers pour des mots tr�s employ�s \cite{Campione05}.

Devant la taille des corpus � analyser, l'�tiquetage automatique se
r�v�le indispensable. Les premiers programmes d'�tiquetage automatique
sont apparus pour l'�crit d�s les ann�es 50. Ils �taient bas�s sur la
production manuelle de r�gles. Depuis les ann�es 80, certains
�tiqueteurs utilisent des m�thodes statistiques, telles que les HMM
\cite{Brants00} ou les arbres de d�cision \cite{Schmid94, Schmid95},
pour pr�dire la probabilit� d'attribution des �tiquettes. Mais ce
n'est que r�cemment que des �tudes ont �t� men�es sur l'�tiquetage de
corpus oraux.

Il n'existe pas � l'heure actuelle, tout du moins � notre
connaissance, d'�tiqueteurs con�us sp�cifiquement pour l'oral. Des
syst�mes pr�vus initialement pour �tiqueter des documents �crits ont
�t� utilis�s sur des corpus oraux, que ce soit pour l'anglais
\cite{Garside95}, le fran�ais \cite{Valli99, Campione05}, le su�dois
\cite{Nivre01}, le n�erlandais \cite{VanEynde00}, l'espagnol
\cite{Moreno03}, le portugais \cite{Mendes03}, l'italien
\cite{Panunzi04} ou encore le japonais \cite{Uchimoto02}. Ces
�tiqueteurs sont souvent adapt�s � l'oral en modifiant l�g�rement leur
comportement pour certains mots et en appliquant au corpus un
traitement pr�alable pour �liminer certaines caract�ristiques de
l'oral, telles que les amorces. Dans le cas o� le corpus ne contient
pas de signe de ponctuation, les marques de pauses peuvent �tre
remplac�es par des points de suspension, \textit{i.e.}, par la
ponctuation la plus neutre possible par rapport au fonctionnement de
l'�tiqueteur. Les amorces de mots sont en g�n�ral ignor�es par
l'�tiqueteur car il est parfois difficile de deviner le mot
prononc�. Il peut �tre �galement utile d'�liminer des �v�nements non
lexicaux, tels que \og \textit{hein}\fg\ et \og \textit{euh}\fg, ou
encore des �v�nements non linguistiques comme le signalement
d'applaudissements. De plus, certains mots apparaissent beaucoup plus
fr�quemment � l'oral qu'� l'�crit, notamment les contractions de mots
et les interjections ; les mots caract�ristiques de l'oral sont ainsi
ins�r�s dans le lexique de l'�tiqueteur. De m�me, on ajoute
manuellement des r�gles ou on modifie manuellement les probabilit�s
d'assignation des �tiquettes pour les mots qui ont un comportement
diff�rent � l'�crit et � l'oral.

Pour mesurer les performances de l'�tiquetage automatique, un extrait
de corpus �tiquet� automatiquement est compar� avec le m�me extrait
�tiquet� manuellement. L'�valuation est une op�ration d�licate �
effectuer dans la mesure o� l'�tiquetage de r�f�rence, \textit{i.e.},
l'�tiquetage manuel, peut diff�rer selon les annotateurs pour certains
mots probl�matiques. Il est le plus souvent choisi de consid�rer comme
\emph{acceptable} une �tiquette d�s qu'elle rel�ve d'un point de
discussion entre linguistes. Le crit�re de performance est alors le
pourcentage d'�tiquettes acceptables. La comparaison des performances
entre �tiqueteurs n'est pas non plus chose ais�e car le jeu
d'�tiquettes ou la segmentation en unit�s � �tiqueter peuvent diff�rer
\cite{Adda99}. En ce qui concerne l'�tiquetage de l'�crit, les
performances sont sup�rieures � 95\,\% d'�tiquettes correctes. En
utilisant des �tiqueteurs con�us initialement pour l'�crit et adapt�s
pour l'oral, des exp�riences ont permis d'atteindre 98,75\,\% pour le
fran�ais \cite{Valli99}, entre 95\,\% et 97\,\% pour le su�dois
\cite{Nivre01}, 94,3\,\% pour le n�erlandais \cite{VanEynde00} ou
encore 98,3\,\% pour l'espagnol \cite{Moreno03}.

Les performances sont donc tr�s proches de ce qui est observ� pour
l'�crit, contrairement � ce que l'on aurait pu penser. L'explication
qui est souvent donn�e pour justifier ces r�sultats est que les
�tiqueteurs se basent sur des ph�nom�nes locaux et se r�v�lent donc
peu sensibles aux ph�nom�nes propres � la langue parl�e. Une analyse
qualitative des erreurs montre toutefois que l'�tiquetage est mis en
erreur par certaines particularit�s des corpus oraux comme l'absence
de ponctuation, les r�p�titions ou les chevauchements entre des mots
prononc�s simultan�ment \cite{Valli99}.

Outre l'�tiquetage par des PoS, il existe d'autres niveaux
d'annotation envisageables pour les corpus oraux. On peut ainsi citer
:
\begin{itemize}
\item l'annotation pragmatique caract�risant les actes de discours,
  tels que la question, le conseil, la confirmation, les
  remerciements... \cite{Leech97},
\item l'annotation stylistique caract�risant la pr�sentation du
  discours et de la pens�e, \textit{e.g.} par narration, discours
  direct, discours indirect, discours indirect libre... \cite{Leech97}
\item l'annotation syntaxique indiquant les d�pendances entre mots ou
groupes de mots \cite{Benzitoun04b, Benzitoun05}.
\end{itemize}
Toutes ces annotations sont beaucoup moins courantes que l'�tiquetage
morphosyntaxique et ne peuvent �tre obtenues convenablement par des
m�thodes automatiques. L'analyse syntaxique de l'oral par des
grammaires pose ainsi de nombreux probl�mes. Aux difficult�s
rencontr�es pour la langue �crite et qui sont �galement pr�sentes dans
la langue parl�e, comme l'ambigu�t� des analyses possibles, s'ajoutent
des probl�mes bien sp�cifiques � l'oral, tels que la pr�sence de
disfluences, le respect plus l�che des r�gles de la langue et
l'absence de segmentation bien claire en phrases. Les distorsions de
la langue parl�e requi�rent une grande robustesse de la part des
analyseurs syntaxiques. Pour concevoir ces syst�mes, une approche
similaire � la d�marche adopt�e pour l'�tiquetage morphosyntaxique
consiste � utiliser un analyseur d�velopp� pour l'�crit et � lui
adjoindre des proc�dures traitant les extragrammaticalit�s de l'oral
\cite{Boufaden98}.



\subsection{Transcription automatique des dialogues spontan�s}
\label{subSecTransAutoDiaSpont}

La communaut� de la reconnaissance de la parole s'int�resse de plus en
plus aux dialogues spontan�s, pour lesquels les locuteurs s'expriment
sans pr�parer leur discours, ce qui entra�ne une production accrue de
disfluences. Les campagnes d'�valuation conduites par le NIST depuis
1987 t�moignent de cette �volution \cite{Pallett03}. Les premi�res
�valuations ont ainsi port� sur des applications au vocabulaire tr�s
r�duit et avec une grammaire sp�cifi�e, puis sur la lecture de
journaux. C'est avec la transcription d'�missions d'actualit� que les
syst�mes de RAP se sont heurt�s � des documents plus vari�s. Ces
�missions comportent en effet des discours pr�par�s mais aussi des
interviews ou des reportages, dans lesquels on retrouve fr�quemment
des dialogues spontan�s, dans des conditions d'enregistrement
bruit�es. D'autres �valuations portent d�sormais sur la transcription
de la base de donn�es \textit{Switchboard}, constitu�e de dialogues
t�l�phoniques spontan�s sur des sujets particuliers, ou plus r�cemment
sur les �changes enregistr�s entre les participants d'une r�union.

Les ph�nom�nes caract�ristiques de la langue parl�e g�nent
consid�rablement la transcription automatique. L'ordre plus flexible
des mots perturbe par exemple les mod�les de langages qui basent leur
calcul sur les s�quences de mots (\textit{cf.}
section~\ref{subSecML}). Les disfluences compliquent quant � elles
l'analyse du signal et viennent perturber le calcul des probabilit�s
par les mod�les N-grammes. Les amorces et les contractions de mots
sont �galement difficiles � mod�liser, le vocabulaire ayant une taille
limit�e. Enfin, les marqueurs de discours tels que \og \textit{en
fait}\fg, \og \textit{enfin}\fg, \og \textit{voil�}\fg\ sont
particuli�rement probl�matiques car ils sont beaucoup plus fr�quents �
l'oral et sont souvent tr�s mal articul�s. Une �tude men�e sur
10~heures d'interviews t�l�vis�es a montr� que les disfluences,
repr�sentant 8\,\% du corpus, expliquent 12\,\% du taux d'erreur
(\textit{cf.}  section~\ref{subSecEval}) global sur la
transcription. Ce taux sugg�re que les disfluences accroissent la
difficult� de la transcription mais n'exercent pas un effet majeur sur
les segments voisins \cite{AddaDecker04}.

La segmentation du signal acoustique en groupes de souffle n'est pas
non plus sans poser de probl�me. Le groupe de souffle �tant en effet
justifi� par le mode de fonctionnement des syst�mes de RAP et
uniquement d�fini d'apr�s des indices acoustiques, � savoir la
d�tection de pauses, les unit�s sur lesquelles ont � op�rer les ML ne
sont pas aussi coh�rentes que les phrases de la langue �crite. Une
segmentation plus linguistique peut ainsi �tre envisag�e avant
d'appliquer des ML. Les meilleures perplexit�s obtenues sur un corpus
de test non segment�, avec un ML utilisant une segmentation
linguistique plut�t qu'une segmentation acoustique, illustrent
l'utilit� de cette adaptation \cite{Meteer96}. Toutefois, la d�tection
des segments linguistiques, effectu�e notamment � l'aide d'indices sur
les classes grammaticales et la prosodie, restent une t�che difficile
puisque les meilleurs syst�mes d�tectent les fins de segments avec des
taux d'erreurs variant entre 30\,\% et 50\,\%, selon le type de
discours � analyser \cite{Liu04}.

Pour traiter les dialogues spontan�s, il est n�cessaire d'apporter des
modifications importantes au processus de transcription. Un syst�me de
RAP initialement con�u pour �tre appliqu� sur des �missions
d'information transcrivait ainsi des conversations t�l�phoniques avec
un taux d'erreur de l'ordre de 50\,\%. Apr�s plusieurs raffinements,
ce taux a finalement pu �tre ramen� � 21\,\% \cite{Gauvain04}. Parmi
les adaptations � effectuer pour prendre en compte la parole
spontan�e, on peut citer :
\begin{itemize}
\item au niveau du mod�le acoustique, l'ajout de trois phones associ�s
  aux pauses, aux h�sitations et aux respirations ;
\item au niveau du dictionnaire de prononciations, l'ajout de r�p�titions
  et de contractions pour certains mots et l'int�gration des
  interjections ;
\item au niveau du mod�le de langage, l'inclusion des inspirations et
  des pauses remplies dans l'historique des mod�les N-grammes.
\end{itemize}

De mani�re � limiter les perturbations engendr�es par les disfluences,
certains syst�mes de RAP cherchent � les d�tecter et � les
�liminer. Les disfluences qui sont alors principalement corrig�es sont
celles o� le \textit{reparandum} et la r�paration
(Fig.~\ref{figDisfluences}, page~\pageref{figDisfluences}) sont tr�s
proches au niveau lexical \cite{Dowding93, Johnson04b}. Certaines
sont toutefois plus probl�matiques � d�tecter et peuvent
de surcro�t apporter des informations pour la pr�diction des mots. Il
a �t� ainsi constat� qu'une suppression des pauses remplies dans les
corpus d'apprentissage et de test entra�nait une augmentation de la
perplexit� \cite{Stolcke96b}. Une alternative est donc d'utiliser les
disfluences comme source d'informations pour la transcription
\cite{Siu96}.

\paragraph{}
La section~\ref{secCaractLangParle} a expos� les caract�ristiques de
la langue parl�e, en montrant bri�vement les formes sous lesquelles se
pr�sentent les corpus oraux. La section suivante d�crit comment des
connaissances linguistiques peuvent �tre introduites dans des syst�mes
de RAP. Les techniques utilis�es � cette fin doivent pouvoir
s'int�grer dans le sch�ma de fonctionnement que nous avons d�crit en
section~\ref{SecPrincRP} et �tre suffisamment flexibles pour ne pas
�tre perturb�es par les ph�nom�nes de l'oral.



\newpage
%----------------------------------------------------------------------------

\section{La linguistique pour la reconnaissance de la parole}
\label{secIntroConnaissancesLing}

Comme nous l'avons vu en section~\ref{subSecModelRP}, les syst�mes de
RAP adoptent une mod�lisation hi�rarchique pour d�coder la parole. Le
MA identifie � partir des caract�ristiques extraites du signal des
phones puis des mots ; le ML est quant � lui charg� de reconna�tre les
successions de mots les plus probables pour un groupe de souffle. Ce
mode de fonctionnement pr�sente des similarit�s avec celui de l'�tre
humain qui, pour reconna�tre le sens v�hicul� par la parole, identifie
successivement des phones, des syllabes, des mots et des \og
phrases\fg\ \cite{Allen94}. Mais � la diff�rence de l'�tre humain qui
utilise diff�rents niveaux de connaissances linguistiques, les
informations sur le langage dans les syst�mes de RAP se limitent
essentiellement � la connaissance des phones et des phon�mes d'une
langue, � la r�alisation d'un dictionnaire de prononciations et �
l'apprentissage de mod�les de langages sur des corpus oraux. Il est
notamment souvent reproch� aux ML les plus employ�s, \textit{i.e.},
aux mod�les N-grammes, de ne consid�rer de mani�re arbitraire qu'un
historique de $N-1$ mots. Il existe en effet bien des configurations
o� leurs hypoth�ses de conception sont mises en d�faut. Ainsi, dans
l'exemple suivant : \og \textit{les oiseaux sur l'arbre
chantaient}\fg, un mod�le quadrigramme n'aura pas les �l�ments utiles,
dans son historique de trois mots, pour pr�dire l'accord du verbe \og
\textit{chantaient}\fg, du fait de l'insertion du compl�ment de lieu
entre le sujet et le verbe.

Une exp�rience men�e par Brill \textit{et al.}  corrobore l'hypoth�se
d'un apport de la linguistique � l'am�lioration de la reconnaissance
de la parole. Elle a consist� � analyser les ressources qu'un �tre
humain utiliserait pour corriger des trans\-crip\-tions
au\-to\-ma\-tiques \cite{Brill98}. Trois corpus de parole ont �t� �
cette fin trait�s par un syst�me de RAP pour produire les listes des
dix meilleures hypoth�ses (\textit{cf.}
section~\ref{subSecSortiesSTP}) associ�es � chaque groupe de
souffle. Il a alors �t� demand� � des sujets humains de s�lectionner
parmi chacune de ces listes l'hypoth�se qui leur semblait la plus
juste. Les choix effectu�s par les sujets se sont souvent r�v�l�s
judicieux puisqu'ils ont permis une nette diminution du taux d'erreur
par rapport � la meilleure hypoth�se d�sign�e par le syst�me de RAP
pour chacun des groupes de souffle. Un questionnaire sur les
connaissances utilis�es pour faire leur s�lection a montr� que les
humains se basaient principalement sur des informations linguistiques
telles que l'emploi correct des pr�positions et des d�terminants, les
accords en genre et en nombre, l'examen du temps pour les verbes, la
connaissance de syntagmes idiomatiques ou encore l'analyse de la
structure des hypoth�ses propos�es.

Si l'introduction de connaissances linguistiques suppl�mentaires est
donc souhaitable, elle peut s'effectuer de diverses mani�res. D'une
part, elle implique des choix qui influent sur le processus de
transcription. Si l'on souhaite utiliser au plus t�t des informations
sur le langage, certains modes de couplage MA-ML sont ainsi �
privil�gier par rapport � d'autres. Il existe �galement plusieurs
modes possibles de calcul de probabilit�s de successions de
mots. D'autre part, les techniques diff�rent suivant le type de
connaissances envisag�. Les m�thodes introduisant des informations
morphologiques ne sont ainsi pas les m�mes que celles prenant en
compte de la s�mantique. Cette section pr�sente dans un premier temps
les techniques adaptant le processus de transcription � l'introduction
de la linguistique, avant de rentrer plus en d�tail dans les m�thodes
sp�cifiques � chaque type de connaissances.


\subsection{Adaptation du processus de transcription}
\label{subSecMobLingRAP}

Les ML classiques ne manipulent que des mots et se limitent � un
historique restreint dans leurs calculs de probabilit�s. L'int�gration
de connaissances linguistiques conduit � traiter des informations
suppl�mentaires au cours de la transcription, telles que la
d�\-com\-po\-si\-tion morphologique des mots � reconna�tre, ou bien
encore � effectuer des calculs de probabilit�s prenant en compte
l'int�gralit� du groupe du souffle courant, comme cela est le cas de
certaines m�thodes d'analyse syntaxique. Le mode de fonctionnement du
syst�me de RAP doit alors �tre modifi� afin d'introduire ces
connaissances sans trop d�grader la rapidit� de la transcription. Les
adaptations n�cessaires sont effectu�es au niveau de l'interface MA-ML
et du calcul des probabilit�s par le ML, ce qui fait l'objet des deux
sections suivantes.


\subsubsection{Int�gration du mod�le acoustique avec le mod�le de langage}
\label{subSubSecIntMAML}

L'intervention du MA et du ML dans le processus de transcription se
r�v�le souvent plus complexe que la description qui en a �t� faite en
section~\ref{subSecModelRP}. Pour des raisons de rapidit�, le d�codage
de la parole est g�n�ralement r�alis� en plusieurs passes, chaque
passe correspondant � une application d'un MA et d'un ML et conduisant
� la cr�ation d'un graphe de mots. Au fur et � mesure des passes, les
graphes de mots produits sont de plus en plus r�duits, tandis que les
MA et les ML sont de plus en plus informatifs et, par cons�quent,
lents. On utilisera par exemple plut�t un ML trigramme dans une
premi�re passe et un ML quadrigramme dans une seconde passe. L'int�r�t
de ces syst�mes multipasses consiste ainsi � pouvoir utiliser des
mod�les complexes au niveau des derni�res passes, sans engendrer une
augmentation trop importante du temps de calcul. En sus du mode
d'organisation g�n�ral du processus de transcription, le syst�me de
RAP peut �tre adapt� au niveau de l'interface entre un MA et un ML
donn�s. Il existe ainsi trois types d'int�gration des modules : le
couplage �troit, le couplage l�che et le couplage mod�r�
\cite{Harper94}.

Un syst�me � \emph{couplage �troit} int�gre toutes les connaissances
dans un ensemble de processus interd�pendants et non s�parables. Dans
un tel syst�me, le ML est directement int�gr� dans le MA, ce qui est
permis par certaines structures de ML. Celui-ci doit ainsi �tre
particuli�rement rapide puisque le nombre d'hypoth�ses examin�es par
le MA est tr�s grand et n'a pas encore �t� r�duit. Les ML qui prennent
uniquement en compte des contraintes locales sont ainsi bien adapt�s �
ce type de couplage car ils facilitent la mise en \oe uvre
d'algorithmes dynamiques. Un mod�le N-grammes, � condition que $N$ ne
soit pas trop grand, ou encore une grammaire � �tats finis
\cite{Moore99}, peuvent par exemple convenir � ce type de couplage.

Les syst�mes � couplage �troit pr�sentent l'avantage d'utiliser au
plus t�t les connaissances linguistiques du ML pour r�duire l'espace
de recherche du MA. Ils sont n�anmoins difficiles � faire �voluer
puisque ce couplage impose des contraintes fortes sur le
fonctionnement du ML. En outre, la forte imbrication des composants
complique grandement l'�valuation de l'impact de chaque connaissance
sur les performances du syst�me.

Un syst�me � \emph{couplage l�che} isole le MA et le ML en modules
relativement ind�pendants et communiquant entre eux. Le r�le du ML est
alors de filtrer ou r�ordonner les hypoth�ses fournies par le
MA. Trois possibilit�s sont g�n�ralement envisag�es pour faire
l'interface entre le MA et le ML : utiliser un graphe de mots
\cite{Chow89b, Harper99}, une liste des N meilleures hypoth�ses
\cite{Chow89}, ou bien encore un \emph{graphe d'homophones}
\cite{Gauvain05, Bechet99}. Dans ce dernier type d'interface, chaque
mot de la meilleure hypoth�se est remplac� par tous ses homophones
possibles, \textit{i.e.}, par tous les mots du langage qui ne sont pas
discriminables au moyen d'indices acoustiques. Cette approche convient
parfaitement � la d�tection des erreurs dues � des probl�mes d'accord
en genre et en nombre.

G�n�ralement, les syst�mes � couplage l�che sont plus faciles � faire
�voluer que ceux � couplage �troit et on ne constate pas d'explosion
combinatoire quand on augmente le nombre de connaissances prises en
compte. De plus, ils n'imposent pas de contraintes importantes sur la
structure du ML et permettent d'�valuer facilement les performances
des MA et des ML, qui se pr�sentent sous la forme de modules bien
diff�renci�s. Ils ont toutefois le d�savantage de ne pas r�duire
l'espace de recherche lors du d�codage par le MA.

Un syst�me � \emph{couplage mod�r�} a un comportement interm�diaire
entre les deux pr�\-c�\-dents. Il utilise le ML pour guider le MA,
sans y �tre int�gr�. Il se diff�rencie du couplage l�che par le fait
que le ML ne peut pas �tre supprim� sans modifier le processus de
recherche conduit par le MA. Deux approches ont �t� envisag�es pour le
couplage mod�r� : l'approche descendante et l'approche ascendante
\cite{Hauenstein94}. Dans l'\emph{approche descendante}, le ML est
invoqu� � des points de d�cision o� il pr�dit des hypoth�ses. Le MA
est ensuite charg� de s�lectionner la meilleure hypoth�se. Un
analyseur syntaxique LR peut par exemple �tre utilis� pour pr�dire des
phones qui sont ensuite v�rifi�s par un HMM de phones
\cite{Kita89}. Les phones qui constituent un mot sont alors sp�cifi�s
par des r�gles de grammaire. Dans l'\emph{approche ascendante}, les
scores acoustiques sont calcul�s en premier et le ML est appliqu� pour
v�rifier les hypoth�ses, en r�duisant �ventuellement le nombre de
candidats acoustiques. Cette organisation est tr�s proche de celle des
syst�mes � couplage l�che mais il est fait appel au ML � chaque point
de d�cision et non pas � la fin de l'analyse du groupe de
souffle. L'approche ascendante a �t� par exemple mise en \oe uvre par
un analyseur syntaxique tabulaire par �lots \cite{Beutler03}. Les
hypoth�ses de mots sont alors fournies les unes apr�s les autres par
le MA au ML. Quand celui-ci �choue dans son analyse syntaxique, il
demande au MA de produire des hypoth�ses suppl�mentaires � des
endroits pr�cis du groupe de souffle. Une autre possibilit� envisag�e
a consist� � construire dynamiquement le ML par un r�seau repr�sentant
une grammaire, de mani�re � n'inclure que les transitions n�cessaires
� l'analyse du groupe de souffle courant \cite{Moore89}.

Les syst�mes � couplage mod�r� constituent donc un compromis original
avec les deux autres types. Malheureusement, ils posent de nombreux
probl�mes d'ing�nierie pour faire interagir les modules et imposent
des contraintes sur la structure des ML telles que la n�cessit� d'une
analyse gauche-droite.

Au terme de la pr�sentation des trois modes de couplage du MA et du
ML, les deux alternatives qui paraissent les plus int�ressantes sont
donc le couplage �troit et le couplage l�che, le premier autorisant
l'int�gration de connaissances linguistiques au plus t�t, le second
imposant moins de contraintes sur la structure et la rapidit� du
ML. Les syst�mes � couplage mod�r� semblent quant � eux �tre une
approche difficile � mettre en \oe uvre. Il existe d'ailleurs peu de
syst�mes de RAP � ce jour qui soient bas�s sur cette
organisation. Cette section a pr�sent� les mani�res de r�aliser
l'interface MA-ML en vue d'introduire des informations linguistiques ;
la suivante d�crit comment des ML prenant en compte des connaissances
diverses peuvent �tre agenc�s pour calculer des probabilit�s de
succession de mots.



\subsubsection{Linguistique et mod�le de langage}
\label{subSubSecLingML}

Dans les syst�mes de RAP actuels, le ML contient g�n�ralement un
mod�le N-grammes. Il existe plusieurs sch�mas d'int�gration de
connaissances linguistiques suppl�mentaires dans ce mod�le
\cite{Chappelier99}.

Une premi�re solution consiste � construire un nouveau ML, plus
linguistique, que l'on utilise en remplacement d'un mod�le N-grammes.
Ceci implique qu'il poss�de des propri�t�s communes avec le mod�le
N-grammes ; il doit �tre notamment capable de fournir un score et de
faire une analyse gauche-droite en un temps raisonnable. Ce type de
solution est g�n�ralement envisag� quand on dispose de connaissances
\textit{a priori} sur un domaine particulier, mais pas d'un corpus
d'apprentissage suffisant, ou quand le nouveau ML int�gre
simultan�ment plusieurs types de connaissances, y compris des
connaissances lexicales qui seraient redondantes avec celles apport�es
par un mod�le N-grammes \cite{Wang02b}.

Une deuxi�me possibilit� est d'utiliser les connaissances
linguistiques pour lisser le calcul des probabilit�s des mod�les
N-grammes \cite{Jurafsky95}. Ceci se fait par exemple en utilisant une
grammaire pour g�n�rer des phrases qui viennent ensuite enrichir le
corpus d'apprentissage du mod�le N-grammes \cite{Wang00}. Les
probabilit�s d'un mod�le N-grammes peuvent �galement �tre �valu�es
directement � partir du nouveau ML \cite{Stolcke94}.

Dans une troisi�me solution, les connaissances sont utilis�es
s�quentiellement. L'int�r�t est que si chaque source d'informations
est susceptible d'am�liorer les performances globales du syst�me de
RAP, chacune a une influence et une complexit� de calcul
potentiellement tr�s diff�rentes. Par exemple, un mod�le bigramme
pourra r�duire la perplexit� d'un facteur de dix, avec peu de calculs,
tandis qu'un ML apportant des informations plus compl�tes sur la
syntaxe et la s�mantique pourra demander beaucoup de calculs pour une
r�duction de perplexit� moindre \cite{Schwartz90}. Dans cette approche
s�quentielle, les mod�les les plus rapides sont utilis�s en premier
lieu pour produire l'ensemble des hypoth�ses les plus probables. Cet
ensemble, qui se pr�sente sous la forme d'une liste des meilleures
hypoth�ses \cite{Chow89} ou d'un graphe de mots \cite{Su92}, est
ensuite filtr� et r�ordonn� au moyen des sources de connaissance
restantes.

Une derni�re solution consiste � combiner plusieurs mod�les, apportant
chacun des connaissances, pour constituer un seul ML. Cette
combinaison peut se faire � l'aide de l'interpolation lin�aire ou du
repli, dont les principes ont d�j� �t� expos�s (\textit{cf.}
section~\ref{subSubSecFoncML}). Dans le cas de l'interpolation
lin�aire, technique la plus utilis�e du fait de sa simplicit�, la
combinaison de $M$ mod�les diff�rents, associ�s aux distributions de
probabilit� $P_k$ avec $k = 1 \ldots M$, s'effectue de la mani�re
suivante :
\begin{equation}
P(w_i|w_1^{i-1}) = \sum_{k=1}^M \lambda_k P_k(w_i|w_1^{i-1})
\end{equation}
o� $\sum_{k=1}^M = 1$. En ce qui concerne le repli, le calcul pour
combiner M mod�les, avec M fix� ici � 2 pour simplifier l'�quation,
s'�crit \cite{Niesler96} :
\begin{equation} 
P(w_i|w_1^{i-1}) = \left\{ \begin{array}{ll}
P_1(w_i|w_1^{i-1}) & \textrm{si } w_i \in \Phi_1(w_1^{i-1}) \\
\alpha(w_1^{i-1}) \times P_2(w_i|w_1^{i-1}) & \textrm{sinon}
\end{array} \right.
\end{equation}
o� $\Phi_k(w_1^{i-1})$ repr�sente l'ensemble des mots dans le contexte
$w_1^{i-1}$ pour lequel le $k^{i\grave{e}me}$ mod�le est � utiliser en
priorit�, et $\alpha$ est un coefficient de normalisation. L'int�r�t
de cette m�thode est d'utiliser d'abord les mod�les les plus
informatifs quand on dispose de suffisamment d'informations dans le
contexte courant. Une autre possibilit� pour combiner des mod�les est
d'utiliser des \emph{mod�les exponentiels}, appel�s encore \emph{�
entropie maximale} \cite{Rosenfeld96, Goodman01}. Ceux-ci �valuent les
probabilit�s sous la forme :
\begin{equation}
P(w_i|w_1^{i-1}) = \frac{\exp (\sum_k \lambda_k f_k(w_1^i))}{z(w_1^{i-1})}
\end{equation}
o� $z$ est une fonction de normalisation telle que :
\begin{equation}
\sum_{w_i} P(w_i|w_1^{i-1}) = 1
\end{equation}
Les $\lambda_k$ sont des coefficients obtenus gr�ce � un algorithme
d'apprentissage, tandis que les $f_k$ sont des fonctions de
contraintes retournant typiquement 0 ou 1. Le principal int�r�t de ce
type de mod�le est que les $f_k$ permettent de repr�senter des mod�les
N-grammes, des mod�les � base de cache (\textit{cf.}
section~\ref{subSubSecModifHisto}), des mod�les N-classes
(\textit{cf.} section~\ref{subSecMorphologie}) ou encore des mod�les
\textit{triggers} (\textit{cf.}  section~\ref{ssSecASyntax}). Dans le
cas d'une fonction pour le trigramme $w_a w_b w_c$, on aura ainsi :
\begin{equation} 
f_{w_a w_b w_c}(w_1^i) = \left\{ \begin{array}{ll}
1 & \textrm{si } w_{i-2}=w_a, w_{i-1}=w_b \textrm{ et } w_{i}=w_c\\
0 & \textrm{sinon }
\end{array} \right.
\end{equation}
Les mod�les exponentiels permettent ainsi d'int�grer plusieurs sources
d'informations de mani�re �l�gante. Leur temps d'apprentissage est
cependant extr�mement long et ils se r�v�lent assez lents lors de leur
utilisation. En outre, mis � part avec les mod�les \textit{triggers},
il semble qu'ils n'aient pas encore permis de r�duire la perplexit� de
mani�re significative \cite{Goodman01}.

Apr�s avoir d�crit les adaptations possibles du processus de
transcription pour int�grer de nouvelles informations, nous nous
tournons d�sormais vers la pr�sentation des sortes de connaissances
linguistiques pouvant compl�ter celles g�n�ralement apport�es par les
MA et les ML, des m�thodes qui ont d�j� �t� envisag�es pour les
utiliser et de leur influence sur la qualit� de la transcription
produite.


\subsection{Quelles connaissances linguistiques ?}
\label{subSecQuellesConnaissancesLing}

Cette section fait un tour d'horizon des types d'informations
linguistiques qui ont �t� pris en compte en RAP. Les MA ne pouvant
inclure que des connaissances concernant l'acoustique, nous nous
consacrons plus particuli�rement ici aux exp�riences men�es dans le
cadre de l'int�gration de ces connaissances au sein de ML. La
pr�sentation est structur�e selon une typologie � cinq niveaux
g�n�ralement reconnue en linguistique :
\begin{itemize}
\item la \emph{phonologie} et la \emph{phon�tique} qui �tudient les
  sons,
\item la \emph{morphologie} qui �tudie la structure des mots,
\item la \emph{syntaxe} qui �tudie la structure des syntagmes et des
phrases,
\item la \emph{s�mantique} qui �tudie les sens des mots, des
  locutions, des phrases ou des textes,
\item la \emph{pragmatique} qui �tudie la relation entre le langage et
  son contexte d'utilisation.
\end{itemize}

Les techniques d'insertion se heurtent � plusieurs difficult�s ; elles
doivent �tre robustes aux distorsions de l'oral, suffisamment rapides
selon le type de couplage MA-ML envisag� et doivent pouvoir s'int�grer
dans un ML statistique pour s�lectionner les hypoth�ses les plus
probables. Ce dernier point complique notamment la prise en compte de
connaissances symboliques au cours de la transcription
\cite{Antoine99}.


%% Les techniques de TAL bas�es sur des mod�lisations symboliques sont de
%% plus probl�matiques par rapport au mode de fonctionnement du processus
%% de transcription, qui calcule des scores pour guider la recherche des
%% meilleures hypoth�ses. D'ailleurs, l'opposition entre le TAL et la RAP
%% a longtemps consist� en une opposition entre les approches symboliques
%% et num�riques. Le TAL s'est en effet initialement int�ress� � la
%% mod�lisation informatique des lois cognitives pr�sidant aux fonctions
%% langagi�res, en utilisant essentiellement des m�thodes symboliques,
%% alors que le domaine de la RAP s'est consacr� dans le m�me temps �
%% l'am�lioration du processus de transcription, � l'aide d'une
%% mod�lisation statistique et en se confrontant � des donn�es r�elles
%% \cite{Antoine99, Antoine03hdr}. Bien que l'utilisation de m�thodes
%% symboliques dans les syst�mes de RAP ne soit pas imm�diate, elle peut
%% pr�senter quelques avantages par rapport aux m�thodes
%% statistiques. Ces techniques permettent en effet d'int�grer de mani�re
%% synth�tique des connaissances pouvant �tre �crites manuellement
%% \cite{Moore99} et de corriger certaines erreurs faites par des
%% m�thodes statistiques, notamment sur les �v�nements rares
%% \cite{Spriet98}.



\subsubsection{Phonologie et phon�tique}
\label{subSecPhonologiePhonetique}

Les ensembles de phon�mes et de phones d'une langue sont finis et il
est possible d'�tablir des r�gles quant � la succession de leurs
�l�ments. En fran�ais, l'emploi cons�cutif des deux phones [d] et [s]
est par exemple illicite. Les connaissances issues de la phonologie et
de la phon�tique pr�sentent la particularit� de pouvoir �tre prises en
compte � la fois dans le MA, le dictionnaire de prononciations et le
ML.

Les MA les plus performants utilisent par exemple davantage
d'informations sur le contexte de prononciation des phones que ce qui
a �t� pr�sent� en section~\ref{subSecMA} ; les �tats des HMM peuvent
�tre des \emph{triphones}, prenant en consid�ration les influences des
phones pr�c�dant et suivant le phone courant, plut�t que des
phones. La pr�diction des ph�nom�nes de liaison entre les mots, dans
des s�quences telles que \og \textit{les enfants}\fg\ \cite{Boula03},
peut �galement �tre envisag�e pour affiner l'utilisation du
dictionnaire de prononciations par le MA. Cette section se
consacrant plut�t � l'am�lioration du ML, nous ne d�crivons toutefois
pas davantage les modifications possibles du MA et du dictionnaire de
prononciations.

Peu d'informations sur la phonologie et la phon�tique ont �t�
int�gr�es dans le ML. La seule �tude que nous ayons rencontr�e porte
sur la d�termination des �v�nements impossibles \cite{Langlois03}. Ce
sont des successions de mots qui ne peuvent se produire du fait de
contraintes sur la langue. En fran�ais, l'expression \og \textit{je
aime}\fg\ est par exemple interdite. La d�termination de ces
�v�nements permet d'affiner le calcul des probabilit�s des mod�les
N-grammes, qui s'effectue au moyen de
l'�quation~(\ref{eqCoomptageNGrammes}) (\textit{cf.}
page~\pageref{eqCoomptageNGrammes}), en d�nombrant l'ensemble des
�v�nements $S$ (pour \textit{Seen}) pr�sents dans le corpus
d'apprentissage. Les techniques de lissage prennent en compte les
s�quences de mots absentes de ce corpus mais elles ne distinguent pas
les �v�nements $U$ (pour \textit{Unseen}) non rencontr�s mais pourtant
possibles des �v�nements $I$ impossibles. Il para�t int�ressant
d'int�grer uniquement $S$ et $U$ dans l'�valuation des
probabilit�s. Une des contraintes examin�es dans l'�tude, d'ordre
phonologique, repose sur des r�gles d'�lision, imposant que certains
mots termin�s par une voyelle ne peuvent �tre suivis par une voyelle
(\textit{e.g.}  \og \textit{le arbre}\fg). Cette contrainte a permis
de consid�rer comme impossible une fraction tr�s modeste (0,1\,\%) de
l'ensemble des bigrammes et n'apporte donc pas de gain significatif au
niveau de la qualit� de la transcription.



\subsubsection{Morphologie}
\label{subSecMorphologie}

La structuration des mots constitue une source d'informations
int�ressante pour des langues morphologiquement tr�s riches comme le
turc, le russe ou l'arabe ou m�me pour des langues � haut taux de
flexion comme le fran�ais. Dans le cas des langues agglutinantes
notamment, pour avoir une couverture lexicale similaire � celle
obtenue pour l'anglais, il est n�cessaire d'envisager un nombre
consid�rable de mots ; le fait de d�composer les mots en plusieurs
constituants �l�mentaires permet de r�duire le nombre d'�v�nements �
envisager lors du calcul des probabilit�s. Dans le cas des langues
flexionnelles, l'analyse morphologique permet de rassembler dans une
m�me classe des mots qui jouent le m�me r�le dans la phrase, comme \og
\textit{mangeait} \fg\ et \og \textit{mangerons}\fg\ en fran�ais.

Les informations morphologiques peuvent �tre introduites dans un ML en
utilisant des mod�les N-grammes bas�s sur des classes (on parle alors
de \emph{mod�les N-classes}), et non plus des mod�les bas�s sur des
mots. Les classes contiennent alors l'ensemble des mots poss�dant le
m�me lemme\footnote{Forme \og simple \fg\ d'un mot obtenue par un
processus de \emph{lemmatisation}. Le lemme associ� � un verbe
conjugu� sera par exemple sa forme � l'infinitif ; pour un adjectif ou
un nom, ce sera sa forme au masculin singulier. Cette notion permet
d'associer � un m�me lemme l'ensemble de mots qui ne se distinguent
que par la flexion.}. G�n�ralement, un mot est associ� � un seul lemme
mais il peut arriver en cas d'ambigu�t� qu'il corresponde �
plusieurs. Il en existe ainsi deux pour le participe pass� \og
\textit{plu} \fg\ : \og \textit{pleuvoir}\fg\ et \og
\textit{plaire}\fg. 

Dans un mod�le N-classes, si $\mathcal{C}_i$ repr�sente l'ensemble des
classes $c_i$ auxquelles peut appartenir un mot $w_i$, le calcul des
probabilit�s se fait de la mani�re suivante :
\begin{eqnarray}
P(w_1^n) & = & \sum_{c_1 \in \mathcal{C}_1 \ldots c_n \in
  \mathcal{C}_n} P(w_1^n c_1^n) \\
& = & \sum_{c_1 \in \mathcal{C}_1 \ldots c_n \in
  \mathcal{C}_n} \prod_{i=1}^n P(w_i|w_1^{i-1}c_1^i) P(c_i|w_1^{i-1}c_1^{i-1})
\end{eqnarray}
o� $P(w_i|w_1^{i-1}c_1^i)$ est appel�e la \emph{probabilit� lexicale}
et $P(c_i|w_1^{i-1}c_1^{i-1})$ la \emph{probabilit� contextuelle}. En
supposant que la probabilit� de $w_i$ d�pend uniquement des classes
$c_i$ auxquelles il peut appartenir dans le groupe de souffle, on
obtient :
\begin{equation} 
\label{eqApproxProbaLex}
P(w_1^n) \approx \sum_{c_1 \in \mathcal{C}_1 \ldots c_n \in
  \mathcal{C}_n} \prod_{i=1}^n P(w_i|c_i) P(c_i|w_1^{i-1}c_1^{i-1})
\end{equation} 
De mani�re similaire aux mod�les N-grammes de mots qui ne prennent en
compte que les $N-1$ mots pr�c�dents dans le calcul,
$P(c_i|w_1^{i-1}c_1^{i-1})$ est approxim� en ne consid�rant que les
$N-1$ classes attribu�es pr�c�demment :
\begin{equation} \label{eqApproxMLclasses}
P(w_1^n) \approx \sum_{c_1 \in \mathcal{C}_1 \ldots c_n \in
  \mathcal{C}_n} \prod_{i=1}^n P(w_i|c_i) P(c_i|c_{i-N+1}^{i-1})
\end{equation} 

L'int�r�t principal des mod�les N-classes est de r�duire
consid�rablement le nombre d'�v�nements possibles par rapport aux
mod�les N-grammes puisque le nombre total de classes est g�n�ralement
beaucoup plus petit que la taille du vocabulaire du syst�me de
RAP. Ceci permet de limiter le recours aux techniques de lissage, qui
introduisent des approximations lors du calcul des probabilit�s. 

Les mod�les N-classes utilisant les lemmes sont g�n�ralement combin�s,
par interpolation lin�aire, avec des mod�les N-classes � base de PoS
(\textit{cf.} section~\ref{ssSecPoS}) \cite{Elbeze90, Maltese92}. Ceci
permet d'am�liorer l�g�rement la perplexit� par rapport � un simple
mod�le N-classes de PoS. Le comportement n'a toutefois pas �t� test�
dans des syst�mes de RAP.

Une alternative aux mod�les N-classes est le \emph{ML factoris�}. Ce
ML d�compose chaque mot $w_i$ en $k$ caract�ristiques $f_i^{1:k}$,
aussi appel�es facteurs. Elles repr�sentent des informations
morphologiques, syntaxiques ou s�mantiques sur le mot, en plus du mot
lui-m�me. Les ML factoris�s probabilistes utilisant une approximation
trigramme calculent les probabilit�s gr�ce � l'expression :
\begin{equation}
P(f_1^{1:k}, f_2^{1:k} \ldots f_n^{i:k}) = \prod_{i=3}^n
P(f_i^{1:k}|f_{i-2}^{1:k}, f_{i-1}^{1:k})
\end{equation}
Ces ML factoris�s ont notamment �t� appliqu�s � l'arabe, avec comme
facteurs le radical\footnote{Support morphologique d'un mot. C'est la
partie qui contient le sens d'un mot, apr�s avoir supprim� tout ce qui
relevait de la flexion. Par exemple, les radicaux respectifs de \og
\textit{d�stabiliser} \fg\ et \og \textit{nationaliser}\fg\ sont \og
\textit{d�stabilis-}\fg\ et \og \textit{nationalis-}\fg.}, la
racine\footnote{Constituant d'un mot qui porte la partie principale de
son sens. � la diff�rence du radical, la racine ne peut pas �tre
d�compos�e en d'autres �l�ments porteurs de sens ou morphologiquement
simples. Ainsi, les racines respectives de \og \textit{d�stabiliser}
\fg\ et \og \textit{nationaliser}\fg\ sont \og \textit{stabil-}\fg\ et
\og \textit{nation}\fg.} et la classe morphologique. Leur utilisation
au sein d'un syst�me de RAP pour transcrire des �missions d'actualit�
a permis de r�duire le taux d'erreur sur les mots de 57,6\,\% �
56,1\,\% \cite{Vergyri04}. Un inconv�nient principal est qu'ils
n�cessitent des adaptations importantes pour �tre int�gr�s dans le
processus de transcription, celui-ci �tant g�n�ralement con�u pour
op�rer sur des mots, plut�t que sur des facteurs.



\subsubsection{Syntaxe}
\label{subSecSyntaxe}

L'information syntaxique peut �tre utilis�e sous plusieurs formes :
les ML peuvent ainsi tenir compte des classes grammaticales attribu�es
aux mots, d'une nouvelle segmentation du groupe de souffle en
r�unissant plusieurs mots au sein d'un m�me constituant, ou encore
d'une analyse syntaxique du groupe de souffle. Nous pr�sentons
successivement un �tat de l'art des tentatives faites pour int�grer
ces divers types de connaissances.

\paragraph{Parties du discours et classes statistiques\\}
\label{ssSecPoS}

Il existe des successions de parties de discours (PoS) (\textit{cf.}
section~\ref{subSubSecEtiqCorpusOraux}) qui se produisent de mani�re
rarissime dans une langue donn�e. Il est ainsi tr�s peu fr�quent que
deux noms communs se suivent en fran�ais. Des ML bas�s sur ce principe
ont �t� con�us en consid�rant soit des classes syntaxiques d�termin�es
\textit{a priori} (en g�n�ral des PoS souvent accompagn�es
d'informations morphologiques sur le genre, le nombre, le temps ou
encore le mode), soit des classes produites automatiquement par des
m�thodes statistiques.

Les PoS sont g�n�ralement int�gr�es au syst�me de RAP au moyen de
mod�les N-classes, o� chaque PoS correspond � une classe
\cite{Maltese92, Goodman01}. Les mod�les N-classes sont toutefois
moins performants que les mod�les N-grammes, en consid�rant des
historiques de m�me longueur. On observe en revanche dans certains cas
une am�lioration de la perplexit� par rapport aux mod�les N-grammes
quand on combine des mod�les N-classes avec des mod�les
N-grammes. Cette baisse de la perplexit� reste cependant peu
importante m�me quand on dispose de suffisamment de donn�es pour
apprendre les param�tres du ML. Diverses am�liorations des mod�les
N-classes ont donc �t� envisag�es.

Dans une premi�re solution, le mode d'int�gration dans le syst�me de
RAP des mod�les N-classes utilisant les PoS est r�vis�. Au lieu d'�tre
employ� sur le graphe de mots produit aux cours des passes
pr�c�dentes, le ML est appliqu� de mani�re plus s�lective sur le
graphe d'homophones �tabli � partir de la meilleure hypoth�se trouv�e
(\textit{cf.}  section~\ref{subSubSecIntMAML}). Le r�le du mod�le
N-classes est alors de s�lectionner un homophone possible parmi ceux
g�n�r�s pour chaque hypoth�se de mots \cite{Bechet99}. Ce mode est
particuli�rement adapt� pour corriger des fautes d'accord en genre et
en nombre, notamment en fran�ais o� les formes d'un m�me mot au
singulier et au pluriel sont souvent homophones. L'application d'un
mod�le N-classes adoptant cette m�thode a permis de r�duire le taux
d'erreur de 10,7\,\% � 10,5\,\% sur la transcription d'�missions
d'actualit� en fran�ais \cite{Gauvain05}.

Une deuxi�me solution consiste � reconsid�rer le mode de calcul des
probabilit�s. En modifiant l'approximation faite sur la probabilit�
lexicale dans l'�quation~(\ref{eqApproxProbaLex}) par :
\begin{equation}
P(w_i|w_1^{i-1}c_1^i) \approx P(w_i|c_{i-N+1}^i)
\end{equation}
une l�g�re am�lioration de l'entropie crois�e a �t� observ�e
\cite{Goodman01}. On peut m�me aller jusqu'� supprimer les
approximations faites � la fois sur les probabilit�s lexicale et
contextuelle. Une �tude \cite{Heeman99} propose ainsi de red�finir
l'objectif d'un syst�me de RAP (\textit{cf.}
section~\ref{subSecModelRP}), de mani�re � ce que les PoS $C$
associ�es aux mots $W$ � reconna�tre soient consid�r�es comme partie
int�grante de la sortie de la transcription et non plus comme des
objets interm�diaires. La finalit� de la RAP revient alors � estimer :
\begin{equation} 
\hat{W}, \hat{C}=\arg\max_{W, C} P(W, C|A)
\end{equation}
En �liminant les approximations, le nombre d'�v�nements � examiner
pour �valuer les probabilit�s augmente consid�rablement ; une m�thode
bas�e sur des arbres de d�cision a donc �t� �labor�e. Cette technique
a donn� des r�sultats satisfaisants pour transcrire des dialogues
portant sur des sujets pr�cis puisque le ML triclasse modifi� a
conduit � une r�duction du taux d'erreur de 26,0\,\% � 24,9\,\% par
rapport � des ML trigrammes, tandis que le ML triclasse conventionnel
faisait quant � lui augmenter le taux d'erreur.

Une troisi�me solution pour am�liorer les mod�les N-classes est de
modifier la construction des classes. Au lieu d'avoir une classe par
PoS, une possibilit� est de regrouper au sein d'une m�me classe
l'ensemble des mots ayant les m�mes PoS possibles avec le m�me ordre
de vraisemblance. Ceci supprime l'ambigu�t� des classes que l'on peut
associer aux mots. Bien que l'attribution d'une PoS � un mot soit une
technique relativement ma�tris�e (\textit{cf.}
section~\ref{subSubSecEtiqCorpusOraux}), il demeure toujours des
erreurs qui peuvent venir perturber le calcul des probabilit�s. Un ML
triclasse utilisant ce type de classes, combin� avec un ML trigramme,
a permis de r�duire le taux d'erreur sur les mots pour traiter de la
parole lue \cite{Samuelsson99}.

On peut �galement envisager un syst�me � nombre tr�s restreint de
classes, en poussant � l'extr�me la propri�t� principale des mod�les
N-classes, qui est de r�duire le total des �v�nements � envisager pour
le calcul des probabilit�s. Normalement, il est possible de consid�rer
d'une vingtaine � une centaine de PoS diff�rentes ; dans un nouveau
syst�me, on ne discerne que deux types de PoS : les \emph{classes
ouvertes}, correspondant aux mots lexicaux, et les \emph{classes
ferm�es}, correspondant aux mots grammaticaux (\textit{cf.}
section~\ref{subSecPhHesitation}). Cette distinction est faite avec
l'id�e que la s�quence des mots grammaticaux refl�te les contraintes
syntaxiques du groupe de souffle, alors que la s�quence de mots
lexicaux est contr�l�e par des relations s�mantiques entre les
mots. Les classes ouvertes et ferm�es sont g�n�ralement utilis�es en
adaptant les mod�les N-classes \cite{Isotani94, Geutner96}. Dans le
cas o� on consid�re un historique de longueur deux, seuls les derniers
mots lexical et grammatical rencontr�s sont consid�r�s. Si $o_{i-1}$
est le dernier mot de classe ouverte et $f_{i-1}$ le dernier mot de
classe ferm�e dans $w_1^{i-1}$, le calcul des probabilit�s se fait
comme suit :
\begin{equation} 
P(w_i|w_1^{i-1}) \approx  \left\{ \begin{array}{ll}
P(w_i|w_{i-1}, o_{i-1}) & \textrm{si $w_{i-1}$ est un mot de classe ferm�e}\\
P(w_i|w_{i-1}, f_{i-1}) & \textrm{si $w_{i-1}$ est un mot de classe ouverte}\\
\end{array} \right.
\end{equation}
La combinaison d'un tel mod�le avec un ML trigramme a permis de
r�duire le taux d'erreur de 29,4\,\% � 29,0\,\% pour transcrire un corpus
de parole spontan� en allemand \cite{Geutner96}. La prise en compte de
ces deux types de classes peut �tre faite diff�remment en utilisant un
mod�le N-grammes classique pour les classes ouvertes et un mod�le
sp�cialement con�u pour les mots de classes ferm�es \cite{Peng01}. Le
mod�le sp�cifique pr�dit alors les mots grammaticaux � partir des
$M-1$ mots grammaticaux pr�c�dents. La conception de ce mod�le est
justifi�e par le fait qu'en anglais par exemple, les mots des classes
ferm�es repr�sentent 30\,\% du langage �crit et sont en moyenne distants
de 1,9 mots. L'utilisation de ce mod�le a permis une l�g�re
am�lioration de la perplexit� par rapport � un ML trigramme.

Outre les mod�les N-classes, la connaissance sur les PoS peut �tre
introduite gr�ce aux mod�les de cache (\textit{cf.}
section~\ref{subSubSecModifHisto}). Un cache, limit� � 200 mots, peut
�tre construit pour chaque PoS \cite{Kuhn90}. Le cache d'une PoS
donn�e contiendra alors les derniers mots rencontr�s, �tiquet�s par
cette PoS. Ces mod�les sont con�us avec l'id�e que chaque PoS a une
r�partition particuli�re d'occurrences. Les mots lexicaux ont
ainsi tendance � appara�tre par vagues, au gr� des sujets trait�s,
tandis que les mots grammaticaux sont r�partis plus uniform�ment. Ce
type de mod�le poss�de des propri�t�s int�ressantes puisque la
combinaison d'un mod�le de cache avec un ML trigramme a conduit � une
r�duction de perplexit� d'un facteur sup�rieur � trois par rapport �
un mod�le trigramme \cite{Kuhn90}. Un mod�le assez similaire a �t�
�galement con�u pour discriminer les formes singulier et pluriel
homophones \cite{Bechet99}.



\paragraph{}
Une alternative aux PoS d�termin�es \textit{a priori} consiste �
construire des classes statistiques \cite{Brown92, Kneser93b,
Tamoto95, Farhat96, Jardino96}. L'objectif de ces classes est de
regrouper les mots qui ont le m�me \og comportement\fg. Elles peuvent
ainsi r�unir ceux qui poss�dent les m�mes PoS et qui sont li�s sur le
plan s�mantique, comme par exemple \og \textit{gens}\fg, \og
\textit{hommes}\fg, \og \textit{femmes} \fg\ et \og
\textit{enfants}\fg. Elles sont obtenues par des m�thodes de
classification automatique, en cherchant notamment � maximiser la
perplexit� sur un ensemble de test ou � maximiser l'information
mutuelle moyenne entre les classes. Lors du processus de construction
des classes statistiques, la position du mot peut �tre prise en
compte. Des classes dites \emph{pr�dictives} peuvent ainsi �tre cr��es
quand le mot est situ� en position $w_i$ dans le calcul de
$P(w_i|w_1^{i-N+1})$, tandis que d'autres dites \emph{conditionnelles}
correspondent aux mots positionn�s dans l'historique $w_1^{i-N+1}$
\cite{Yamamoto99}. Si on consid�re par exemple en anglais \og
\textit{a}\fg\ et \og \textit{an}\fg, ils peuvent suivre les m�mes
mots puisque ce sont deux articles ind�finis ; ils appartiennent par
cons�quent � la m�me classe pr�dictive. En revanche, du fait qu'il
existe tr�s peu de mots qui peuvent � la fois se positionner apr�s \og
\textit{a}\fg\ et \og \textit{an}\fg, ils sont associ�s � deux classes
conditionnelles diff�rentes. L'utilisation de deux types de classes
permet ainsi d'introduire des connaissances de granularit� plus fine.

G�n�ralement, on attribue une seule classe statistique � chaque mot,
contrairement aux ML � base de PoS o� plusieurs PoS sont associables �
un mot. Cette propri�t� permet de simplifier le calcul des
probabilit�s de l'�quation~(\ref{eqApproxMLclasses}) :
\begin{equation}
P(w_1^n) \approx \prod_{i=1}^n P(w_i|c_i) P(c_i|c_{i-N+1}^{i-1})
\end{equation} 
Des mod�les triclasses utilisant des classes statistiques ont permis
de r�duire la perplexit� par rapport � des mod�les trigrammes, que ce
soit pour l'anglais, le fran�ais ou l'allemand \cite{Jardino96}. Les
gains en perplexit� sont plus importants pour des langues � haut taux
de flexion telles que le russe \cite{Whittaker01}. L'int�gration des
classes statistiques dans des mod�les varigrammes (\textit{cf.}
section~\ref{subSubSecModifHisto}) a conduit quant � elle � une baisse
du taux d'erreur relative de 7\,\% par rapport � des mod�les
varigrammes sans classe pour transcrire de la parole lue en anglais
\cite{Blasig99}. Il semble que ces classes statistiques conduisent �
une r�duction plus grande de perplexit� que les PoS
\cite{Niesler98}. Toutefois, le fait que la perplexit� diminue
davantage quand on combine les mod�les N-classes � base de classes
statistiques avec ceux � base de PoS \cite{Kneser93b, Perraud2003}
laisse penser que les deux types de classes portent des informations
compl�mentaires. Les bons r�sultats des classes statistiques
pourraient �tre expliqu�s par le fait que celles-ci d�passent
g�n�ralement une taille critique, ce qui permet aux mod�les N-classes
de ne pas faire intervenir des nombres d'occurrences faibles dans le
calcul des probabilit�s, contrairement aux mod�les N-grammes. La
baisse du taux d'erreur, constat�e en classifiant uniquement les mots
peu fr�quents pour transcrire de la parole spontan�e dans le domaine
du trafic a�rien, va dans ce sens \cite{Farhat96}. Il appara�t
toutefois que l'association des mots rares � leur classe par des
m�thodes automatiques est peu fiable, ce qui diminue l'int�r�t des
mod�les N-classes par rapport aux techniques de lissage pour �valuer
la probabilit� des �v�nements absents de l'ensemble d'apprentissage
\cite{Rosenfeld00b}.

En sus des mod�les N-classes, les r�seaux de neurones constituent un
autre mode de construction des ML � base de classes statistiques
\cite{bengio03}. Leur particularit� est de repr�senter chaque mot non
plus par une classe discr�te, mais par un vecteur de caract�ristiques
� $m$ dimensions (\textit{e.g.}  $m = 30$), o� $m$ est beaucoup plus
petit que la taille du vocabulaire. L'objectif du nouvel espace est
que deux mots qui jouent des r�les syntaxiques et s�mantiques
similaires, comme \og \textit{chat} \fg\ et \og \textit{chien} \fg\
par exemple, aient des vecteurs de caract�ristiques proches. La
projection de chaque mot dans le nouvel espace et les valeurs
$P(w_i|w_{i-N+1}^{i-1})$ sont d�termin�es simultan�ment lors de la
phase d'apprentissage d'un r�seau de neurones, o� la premi�re couche
cach�e repr�sente les vecteurs de caract�ristiques des mots
$w_{i-N+1}^{i-1}$ et les sorties les probabilit�s
$P(w_i|w_{i-N+1}^{i-1})$ pour chaque mot $w_i$ du vocabulaire. Les ML
� base de neurones se r�v�lent performants puisqu'ils ont permis de
r�duire le taux d'erreur de 22,6\,\% � 21,8\,\% pour transcrire de la
parole conversationnelle en anglais, par rapport � un ML quadrigramme
\cite{Schwenk04}.

Enfin, une autre application envisageable de la connaissance des
classes statistiques est de r�duire le nombre d'�v�nements impossibles
(\textit{cf.}  section~\ref{subSecPhonologiePhonetique}). Les mots
sont regroup�s en classes selon leurs ressemblances syntaxiques et
s�mantiques et re�oivent l'�tiquette de leur classe. L'ensemble des
suites possibles de deux classes cons�cutives �tant connu, les
s�quences impossibles sont celles qui sont absentes d'un corpus
repr�sentatif de la langue, voire pr�sentes de mani�re peu
significative si on tient compte des erreurs de typographie de ce
corpus. Cette technique a �galement �t� �tendue aux PoS, en remarquant
que des r�gles de certaines langues prohibent des successions telles
que \og [{\footnotesize ARTICLE D�FINI PLURIEL}] [{\footnotesize NOM
MASCULIN SINGULIER}]\fg. Dans l'exp�rience d�crite dans
\cite{Langlois03}, la prise en compte de 200 classes statistiques et
de 233 PoS a ainsi permis de r�duire de pr�s de 15\,\% le nombre de
bigrammes possibles.




\paragraph{Multimots\\}
\label{ssSecGroupesMots}

Une autre utilisation de connaissances syntaxiques consiste �
regrouper plusieurs mots au sein d'unit�s d'ordre sup�rieur, comme des
locutions ou des syntagmes, et � les ajouter au vocabulaire du syst�me
de RAP. Ces groupes de mots, que nous d�signons par la suite par le
terme \emph{multimots}, peuvent �tre de natures tr�s diverses. Il peut
s'agir de mots qui cooccurrent fr�quemment dans un corpus, tels que
\og \textit{demain matin}\fg\ ou encore \og \textit{millions de
dollars}\fg, de mots compos�s comme \og \textit{New York}\fg\ ou \og
\textit{vice pr�sident}\fg, ou d'entit�s nomm�es concernant des dates
ou des noms de personne. Dans le cas d'applications cibl�es, ce peut
�tre des expressions propres � un domaine telles que \og \textit{vous
�tes la bienvenue}\fg\ ou \og \textit{pouvez-vous s'il vous pla�t me
mettre en contact avec}\fg.

Les multimots sont g�n�ralement s�lectionn�s par des m�thodes
automatiques parmi l'ensemble des combinaisons possibles de mots du
vocabulaire du syst�me de RAP. Il existe deux approches principales
pour les obtenir : les m�thodes purement statistiques et les syst�mes
� base de r�gles, m�me si cette distinction est parfois un peu
arbitraire, certaines techniques combinant les deux approches
\cite{Bechet99}. Parmi les m�thodes purement statistiques figurent les
mod�les multigrammes, d�j� �voqu�s en
section~\ref{subSubSecModifHisto}, qui choisissent pour chaque groupe
de souffle la meilleure segmentation parmi plusieurs possibles, en
maximisant la probabilit� d'observation. Ce type de mod�le d�termine
les multimots en ligne pour chaque nouveau groupe de souffle, en
fixant le nombre maximal de mots qu'ils peuvent contenir. La plupart
des m�thodes statistiques prennent cependant en compte les multimots
en les s�lectionnant hors ligne suivant un crit�re donn�, tel que les
fr�quences de cooccurrences, ou encore l'�valuation de la perplexit�
par validation crois�e, puis en les int�grant au vocabulaire du
syst�me de RAP au m�me titre que les mots \cite{Suhm94, RIes96,
Kuo99}. Parmi les m�thodes � base de r�gles, on peut citer celles
utilisant les automates � �tats finis \cite{Nasr99, Bechet99} ou les
grammaires non contextuelles probabilistes \cite{Gillett98, Wang00,
Mou02, Seneff03}.

L'int�r�t principal des multimots par rapport aux mots est d'autoriser
la prise en compte de ph�nom�nes entre mots distants, tels que les
accords en genre et en nombre, sans avoir � augmenter la taille de
l'historique des ML \cite{Bechet99}. Ces unit�s peuvent �galement �tre
utilis�es avec profit pour am�liorer la mod�lisation acoustique des
liaisons entre les mots. Elles permettent enfin d'introduire des
connaissances sp�cifiques � un domaine en indiquant des expressions �
reconna�tre \cite{Kuo99} ou encore des r�gles pour identifier
certaines entit�s nomm�es \cite{Mou02}.

La qualit� des multimots d�tect�s diff�re selon le domaine �tudi�
\cite{Kuo99}. Dans des applications cibl�es, telles que le routage
d'appels t�l�phoniques, les constructions st�r�otyp�es telles que \og
\textit{can you please get me}\fg\ sont tr�s naturellement
mod�lis�es. Le choix des multimots se r�v�le plus d�licat dans le
cadre de la parole lue, o� les constructions et le vocabulaire sont
riches et vari�s. L'apport des multimots dans des mod�les trigrammes
est d'ailleurs plus important en domaines sp�cialis�s.

L'ajout de multimots au vocabulaire ayant l'inconv�nient d'augmenter
le nombre d'�v�\-ne\-ments possibles, des mod�les N-classes sont
souvent envisag�s \cite{Deligne98, RIes96, Nasr99}. Les classes
peuvent indiff�remment contenir des mots et des multimots
\cite{Deligne98, RIes96}, ce qui peut notamment permettre de regrouper
des expressions diff�rant uniquement par la pr�sence de disfluences
(\textit{cf.}  section~\ref{subSecPhHesitation}), comme \og
\textit{euh je veux}\fg\ et \og \textit{je veux}\fg. Ce type de mod�le
a conduit � une r�duction du taux d'erreur de 29,5\,\% � 27,9\,\% par
rapport � un ML trigramme pour transcrire de la parole spontan�e en
allemand \cite{RIes96}. Les classes peuvent �galement ne concerner que
les multimots, ce qui est surtout le cas quand on utilise des
automates d'�tats finis ou des grammaires \cite{Nasr99, Gillett98,
Wang00, Mou02, Seneff03}. Les multimots reconnus par une m�me r�gle et
correspondant � un concept pr�cis, tels que le type de pr�cipitation
ou le nom d'une ville, se retrouvent ainsi au sein d'une m�me
classe. Cette m�thode a permis de faire baisser le taux d'erreur par
rapport � des mod�les N-classes standard pour des requ�tes sur la
m�t�o (de 18,3\,\% � 18,0\,\%) ainsi que dans le domaine du trafic
a�rien (de 15,6\,\% � 15,0\,\%) \cite{Seneff03}.




\paragraph{Analyse syntaxique\\}
\label{ssSecASyntax}

Nous venons de voir, au travers de l'extraction de multimots, un
emploi un peu particulier de l'analyse syntaxique. Les techniques
pr�sent�es ici l'utilisent dans un cadre plus formel, en prenant en
compte la structure du groupe de souffle. Les \emph{grammaires non
contextuelles}, notamment leurs versions probabilistes, ont �t� le
premier type d'analyse envisag� dans les syst�mes de RAP
\cite{Stolcke94, Jurafsky95, Seneff92, Seneff95, Linares04}. Le mode
d'attribution des probabilit�s pour ces grammaires est souvent jug�
limit� puisqu'il ne d�pend que du non-terminal de la partie gauche de
chacune des r�gles ; d'autres formes d'analyse sont souvent pr�f�r�es.
Les \emph{grammaires lexicalis�es} \cite{Jurafsky00} �tendent ainsi
les grammaires non contextuelles en choisissant pour chaque
constituant d�tect� un mot jouant le r�le de t�te. Le calcul des
probabilit�s est alors conditionn� par la t�te \cite{Chelba00} et
parfois par d'autres non-terminaux rencontr�s auparavant dans
l'analyse \cite{Roark01, Charniak01}. Les \emph{grammaires de
d�pendance} offrent elles aussi un plus haut degr� de lexicalisation
que les formes non contextuelles, en d�terminant les liens qui
s'�tablissent entre les mots (par exemple � l'aide de \emph{grammaires
de liens} \cite{Lafferty92, Berger98b}) ou en exprimant les
d�pendances par des contraintes syntaxiques et s�mantiques (on parle
alors de \emph{grammaires de d�pendance par contraintes}
\cite{Harper95, Wang02b}). Si les r�gles de toutes ces grammaires sont
g�n�ralement d�termin�es \textit{a priori}, l'�valuation des
probabilit�s se fait automatiquement soit � partir de corpus annot�s
syntaxiquement tels que le Penn Treebank, soit � partir de corpus
analys�s par des m�thodes automatiques.

Le principal avantage de ce type de connaissance est de prendre en
compte les d�pendances syntaxiques entre les constituants d'un m�me
groupe de souffle, et ce, m�me si ces constituants se trouvent � des
positions assez �loign�es. Le calcul des probabilit�s int�gre alors
des informations plus pr�cises que l'influence des $N-1$ mots
pr�c�dents sur le mot courant, comme cela est le cas des mod�les
N-grammes.

La difficult� la plus importante � laquelle se trouvent confront�es
les m�thodes d'analyse syntaxique concerne la conception de grammaires
suffisamment robustes. Il est d�j� difficile d'�laborer pour l'�crit
des analyseurs syntaxiques ayant une large couverture, m�me si
certaines grammaires lexicalis�es parviennent � une
pr�cision\footnote{D�finie par $\frac{\textrm{nb de constituants
communs � GOLD et � TEST}} {\textrm{nb de constituants dans TEST}}$,
o� GOLD et TEST sont les arbres d'analyse obtenus respectivement
manuellement et automatiquement.}  et un rappel\footnote{D�fini par
$\frac{\textrm{nb de constituants communs � GOLD et � TEST}}
{\textrm{nb de constituants dans GOLD}}$.} proches de 90\,\% pour
analyser une partie du corpus du \textit{Wall Street Journal}
\cite{Charniak00}. Les difficult�s intrins�ques de l'oral
(\textit{cf.}  section~\ref{secCaractLangParle}), notamment le manque
de ponctuation, la pr�sence de disfluences et l'absence �ventuelle de
majuscules dans la transcription, ajout�es aux erreurs de
reconnaissance des syst�mes de RAP, compliquent encore la r�alisation
d'analyseurs. L'utilisation de l'analyse syntaxique par les syst�mes
de RAP a, pour ces raisons, longtemps �t� confin�e � des applications
homme-machine o� les tournures de phrase et le vocabulaire �taient
tr�s sp�cifiques \cite{Seneff92}.  Les m�thodes d'analyse partielle,
qui ne n�cessitent pas de construire un arbre syntaxique d�crivant la
structure d�taill�e du groupe de souffle entier, sont particuli�rement
adapt�es pour concevoir des solutions robustes. Un ML a ainsi �t�
d�fini en segmentant les suites de mots � analyser en constituants non
r�cursifs, que l'on appelle \emph{chunks} \cite{Zechner98}.

La prise en compte de l'analyse syntaxique au niveau du ML s'envisage
diff�remment selon que l'on associe ou non des probabilit�s aux r�gles
de la grammaire. Dans le cas des versions non probabilistes, on
distingue trois types d'int�gration pour guider le choix des
hypoth�ses de transcription. Une solution simple consiste � utiliser
l'analyse pour filtrer les N meilleures hypoth�ses fournies les unes
apr�s les autres par le syst�me de RAP, en arr�tant d�s qu'une
hypoth�se a pu �tre analys�e enti�rement. Une deuxi�me solution repose
sur le calcul du nombre de mots du groupe de souffle couverts par
l'analyse. Plus ce nombre est grand, meilleure est consid�r�e
l'hypoth�se \cite{Zechner98}. Dans une derni�re solution, un mod�le
N-grammes est construit en examinant les s�quences de constituants de
l'analyse et non plus celles de mots. Dans le cas o� on utilise des
\textit{chunks}, l'examen du groupe de souffle \og [{\footnotesize NP}
\textit{you}] [{\footnotesize VC} \textit{weren't born}]
[{\footnotesize ADVP} \textit{just}] [{\footnotesize NP} \textit{to
soak up}] [{\footnotesize NP} \textit{sun}]\footnote{O� {\footnotesize
NP} = groupe nominal, {\footnotesize VC} = verbe complexe et
{\footnotesize ADVP} = groupe adverbial.}\fg\ conduira ainsi � l'�tude
de la s�quence \og {\footnotesize NP} {\footnotesize VC}
{\footnotesize ADVP} {\footnotesize VC} {\footnotesize NP} \fg\
\cite{Zechner98}.

L'int�gration des versions probabilistes dans les syst�mes de RAP
d�pend quant � elle du type de grammaire envisag�. En ce qui concerne
les grammaires non contextuelles probabilistes, il existe des
algorithmes rapides \cite{Jelinek91, Stolcke95} permettant d'estimer
avec exactitude les probabilit�s $P(w_1^i) = P(S
\stackrel{*}\rightarrow w_1 w_2 \ldots w_i \ldots)$ des cha�nes
pr�fixes $w_1^i$. Ces techniques peuvent �tre utilis�es pour d�finir
des probabilit�s de mod�les bigrammes � partir de grammaires
\cite{Stolcke94, Jurafsky95}, en consid�rant que :
\begin{equation}
P(w_i|w_1^{i-1}) = \frac{P(w_1^i)}{P(w_1^{i-1})}
\end{equation}

Un autre proc�d� introduisant une grammaire non contextuelle
probabiliste dans un ML consiste � la convertir en un r�seau
stochastique. Dans le syst�me TINA, les r�gles $X \rightarrow A B C$
et $X \rightarrow B C D$ sont par exemple transform�es en un graphe
(Fig.~\ref{figTINA}) dont les arcs sont valu�s par des probabilit�s
apprises sur des exemples et d�pendant de la partie gauche $X$ de la
r�gle utilis�e ainsi que du mot qui vient d'�tre rencontr�. Cette
m�thode pr�sente l'avantage de fournir des probabilit�s explicites
d'un mot, �tant donn� une s�quence de mots \cite{Seneff92, Seneff95}.
\FigurePS{!htbp}{6.5cm}{grapheTINA.eps}{R�seau stochastique obtenu
� partir de 2 r�gles ayant la m�me partie gauche}{figTINA}

Une autre technique, employ�e aussi bien par les grammaires non
contextuelles que par les lexicalis�es, repose sur les probabilit�s
associ�es aux arbres de d�rivation \cite{Linares04, Roark01,
Charniak01}. Si $D_{w_1^i}$ repr�sente l'ensemble des d�rivations
associ�es � $w_1^i$, on peut estimer $P(w_1^{i})$ par :
\begin{equation}
P(w_1^i) = \sum_{d \in D_{w_1^i}} P(d)
\end{equation}
o� $P(d)$ est obtenue en faisant le produit des probabilit�s de toutes
les r�gles utilis�es dans la d�rivation $d$. Il en r�sulte que :
\begin{equation}
\label{eqDervationsProba}
P(w_i|w_1^{i-1}) = \frac {P(w_1^i)} {P(w_1^{i-1})} = \frac {\sum_{d \in
    D_{w_1^i}} P(d)} {\sum_{d \in D_{w_1^{i-1}}} P(d)}
\end{equation}
En pratique, l'ensemble $D_{w_1^i}$ peut �tre tr�s grand, ce qui
conduit � utiliser une pile conservant uniquement les d�rivations
les plus probables.

Les mod�les de langages structur�s \cite{Chelba00}, � base d'une grammaire
lexicalis�e, utilisent un mode de calcul l�g�rement diff�rent de
l'�quation~(\ref{eqDervationsProba}) :
\begin{equation}
P(w_i|w_1^{i-1}) = \frac {\sum_{d \in D_{w_1^{i-1}}} P(w_i, h_{-1,d},
  h_{0,d}) P(d)} {\sum_{d \in D_{w_1^{i-1}}} P(d)}
\end{equation}
o� $h_{-1,d}$ et $h_{0,d}$ repr�sentent les t�tes des deux derniers
constituants de la d�rivation $d$. Ce calcul a l'avantage de prendre
explicitement en compte des d�pendances � longue distance. Dans
l'exemple de la figure~\ref{figMLstruct}, le mot \og \textit{after}
\fg\ est ainsi pr�dit � partir de \og \textit{contract} \fg\ et \og
\textit{ended} \fg, et non � partir de \og \textit{7} \fg\ et \og
\textit{cents} \fg\ comme cela serait le cas avec un ML trigramme
classique.  \FigurePS{!htbp}{12cm}{arbreMLstructure.eps}{Arbre de
d�rivation partielle dont les feuilles sont des mots accompagn�s de
leurs PoS et dont les n\oe uds sont annot�s par la t�te et le type du
constituant auquel ils sont associ�s
(d'apr�s~\cite{Chelba00})}{figMLstruct}

Il existe, selon les m�thodes d'analyse syntaxique employ�es, des
fa�ons encore diff�rentes d'int�grer les connaissances syntaxiques au
ML. C'est par exemple le cas pour l'analyse par grammaire de liens qui
utilisent d'autres m�thodes probabilistes comme les mod�les
exponentiels (\textit{cf.} section~\ref{subSubSecLingML})
\cite{Berger98b}. La fonction de contraintes d�termin�e sur les liens
du groupe de souffle s'exprime ici sous la forme :
\begin{equation}
f_{u \frown v}(w_1^i) = \left\{ \begin{array}{ll}
1 & \textrm{si } w = v \textrm{ et si } \exists u \in w_1^{i-2}
\textrm{ tel que } u \textrm { et } v \textrm{ sont li�s}\\
0 & \textrm{sinon }
\end{array} \right.
\end{equation}
La pr�diction est r�alis�e � partir des liens �tablis avec le contexte
gauche, mais elle peut �galement �tre faite en prenant en compte � la
fois les contextes gauche et droit \cite{Lafferty92}. Les mod�les
construits � partir de ce type de grammaire sont tr�s similaires aux
ML � base de mots \textit{triggers} \cite{Tillmann97}. Les paires de
mots \textit{triggers} sont deux mots qui apparaissent souvent dans le
m�me contexte, tels que \og \textit{demande} \fg\ et \og
\textit{r�pond} \fg, et qui peuvent �tre assimil�s � des bigrammes
longue distance. Les relations entre mots \textit{triggers}
s'apparentent � des liens �tablis par des grammaires de liens mais
elles pr�sentent la particularit� d'�tre d�termin�es \textit{a priori}
et non en fonction de l'analyse du groupe de souffle courant.

Enfin, les grammaires de d�pendance par contraintes font quant � elles
appel � des m�thodes proches de celles rencontr�es pour int�grer les
PoS dans un ML. Le principe de ce type d'analyse est d'attribuer �
chaque mot un r�le en fonction de sa position dans le groupe de
souffle. Ce r�le, qui contient des informations lexicales, syntaxiques
mais aussi s�mantiques, est assimilable � une super-�tiquette
(Fig.~\ref{figSuperEtiq}), plus informative qu'une PoS, ce qui permet
de prendre en compte ces grammaires en utilisant des mod�les
N-classes, o� chaque classe est associ�e � une super-�tiquette
\cite{Wang02b}. 


\begin{figure}
\begin{center}
\begin{otherlanguage*}{english}
\begin{tabular}{l}
\hline Category: Verb\\ 
\hline Features: \{verbtype=past, voice=active,
inverted=yes, gapp=yes, mood=whquestion, \\
agr=all\}\\ 
\hline
Role=G, Label=VP, (PX $>$ MX) (\textit{Gouvern� par un mot � sa
gauche}) \\
Role=Need1, Label=S, (PX $<$ MX) (\textit{N�cessite un modifieur � sa
droite}) \\
Role=Need2, Label=S, (PX $<$ MX) (\textit{N�cessite un modifieur � sa
droite}) \\
Role=Need3, Label=S, (PX = MX) (\textit{Pas de modifieur})\\
\hline
Dependent Positional Constraints: \\
MX[G] $<$ PX = MX[Need3] $<$ MX[Need1] $<$ MX[Need2] \\
\hline
\end{tabular}
\end{otherlanguage*}
\end{center}
\caption{Super-�tiquette de \og \textit{did} \fg\ dans le groupe de
  souffle \og \textit{what did you learn}\fg, o� $G$ repr�sente le
  r�le de gouverneur, $Need1$, $Need2$ et $Need3$ repr�sentent des
  contraintes grammaticales sur le mot \og \textit{did} \fg, $PX$ et
  $MX$ repr�sentent respectivement la position de \og \textit{did}
  \fg\ et d'un de ses modifieurs (d'apr�s \cite{Wang02})}
\label{figSuperEtiq}
\end{figure}



\paragraph{}
Les grammaires ont �t� principalement int�gr�es dans les syst�mes de
RAP pour des applications cibl�es, du fait de leur manque de
robustesse et de leur lenteur. Les non contextuelles probabilistes ont
ainsi permis de diminuer le taux d'erreur dans les domaines de
r�servations pour le trafic a�rien (de 34,6\,\% � 29,6\,\% par rapport
� un mod�le bigramme) \cite{Jurafsky95} et de la restauration (de
6,9\,\% � 6,7\,\% par rapport � un mod�le quadrigramme)
\cite{Seneff95}. Les grammaires lexicalis�es ont quant � elles conduit
� une baisse de la perplexit� par rapport aux mod�les trigrammes sur
un corpus du \textit{Wall Street Journal} \cite{Chelba00, Roark01,
Charniak01}. Les progr�s r�cents de l'analyse syntaxique, obtenus en
prenant en compte un contexte de plus en plus grand lors de
l'attribution des probabilit�s � chacune des r�gles, ont ainsi
autoris� son utilisation sur de la parole lue.  En outre, leur
combinaison avec des mod�les N-grammes a fait baisser davantage encore
la perplexit�, ce qui semble indiquer qu'elles apportent des
connaissances suppl�mentaires � ces mod�les. Les mod�les con�us avec
ces grammaires sont cependant trop co�teux en calculs pour �tre
utilis�s au sein de syst�mes de RAP dans des applications � grande
�chelle, m�me si l'un de ces mod�les a pu �tre int�gr� dans un ML
multipasses en rescorant des graphes de mots
\cite{Hall04}. L'int�gration des grammaires de d�pendance par
contraintes semble quant � elle plus ais�e puisqu'elle a permis
d'obtenir des ML de complexit� raisonnable, et ce, en constatant une
diminution du taux d'erreur pour transcrire des �missions d'actualit�
(de 14,7\,\% � 14,3\,\% par rapport � un mod�le trigramme)
\cite{Wang03} mais aussi des conversations t�l�phoniques (avec une
baisse relative de 6,2\,\% par rapport � des ML 4-grammes et 4-classes
interpol�s) \cite{Wang04}.



\subsubsection{S�mantique}
\label{subSecSemantique}

L'introduction de connaissances s�mantiques vise � favoriser les
hypoth�ses qui poss�dent plusieurs mots proches au niveau de leur
sens, en supposant que les groupes de souffle � reconna�tre ont une
certaine coh�rence s�mantique. On attribuera ainsi un meilleur score �
des hypoth�ses de d�codage contenant les mots \og \textit{action}
\fg\, \og \textit{obligation}\fg\ et \og \textit{bourse} \fg\ qu'� une
hypoth�se n'ayant pas de champ s�mantique bien d�fini.

Une premi�re possibilit� pour introduire ce type d'information repose
sur l'utilisation de connaissances \textit{a priori}. Un dictionnaire,
contenant les domaines d'emplois et les d�finitions des sens de 36~000
lemmes en anglais, a ainsi permis d'�tablir des associations
s�\-man\-tiques $S(x,y)$ entre paires de mots \cite{Demetriou97}. Pour
ne pas avoir � d�sambigu�ser les mots, les descriptions s�mantiques de
tous les sens associ�s � un m�me mot sont fusionn�es. $S(x,y)$ est
alors fonction du nombre de mots en commun que poss�dent les
descriptions s�mantiques de $x$ et $y$. Un ML a �t� construit en
calculant pour chaque groupe de souffle $W$ un score $Score(W)$ :
\begin{equation}
Score(W) = \frac{1}{k} \sum_{i \ne j} S(w_i,w_j)
\end{equation}
o� $k$ est un facteur de normalisation d�pendant de la taille de $W$.
Ce ML n'a pas �t� compar� � des mod�les N-grammes mais des exp�riences
ont montr� qu'il �tait informatif lorsque le contexte pris en compte
�tait important, \textit{i.e.}, que le groupe de souffle � analyser
�tait long.

Une autre technique �tudi�e pour introduire des connaissances
s�mantiques est l'\emph{analyse s�mantique latente}
\cite{Bellegarda98}. Le principe de cette m�thode, utilis�e en
recherche d'information, est de trouver les relations s�mantiques qui
s'�tablissent entre les mots d'un document. Pour ce faire, elle
suppose que deux mots sont proches s'ils ont tendance � appara�tre
dans les m�mes documents. $W$, la matrice d'occurrences de mots dans
des documents d'un corpus d'apprentissage, est calcul�e de fa�on � ce
que $w_{ij}$ repr�sente le nombre d'occurrences pond�r� du mot $w_i$
dans le document $d_j$. La pond�ration utilise un coefficient
d�pendant de $w_i$, qui vise � traduire que deux mots apparaissant
avec les m�mes nombres d'occurrences dans $d_j$ ne portent pas
n�cessairement autant d'information ; cela d�pend �galement de leur
distribution dans la collection enti�re de documents, ceux
apparaissant dans beaucoup de documents �tant consid�r�s comme moins
informatifs. Afin de r�duire ses dimensions, $W$ est transform�e dans
un espace $\mathcal{S}$ de dimension $R \times R$ (avec $100 \le R \le
200$), par des techniques proches de l'analyse en composantes
principales :
\begin{equation}
\label{eqDecompASL}
W = U S V^T
\end{equation}
o� $S$ est une matrice diagonale de dimension $R \times R$, $U$ est
une matrice dont les lignes $u_i$ sont les repr�sentations de chaque
mot $w_i$ dans $\mathcal{S}$ et $V$ est une matrice dont les lignes
$v_j$ sont les projections de chaque document $d_j$ dans
$\mathcal{S}$. D'apr�s la d�finition de $W$, la mani�re dont $w_i$ et
$d_j$ sont associ�s est d�termin�e par $w_{ij}$. Ceci peut �tre
�galement caract�ris� selon l'�quation~(\ref{eqDecompASL}) par le
produit scalaire de $u_i S^{1/2}$ et $v_j S^{1/2}$, et une distance
mesurant la proximit� entre $u_i$ et $v_j$, \textit{i.e.}, entre $w_i$
et $d_j$, est :
\begin{equation}
K(u_i, v_j) = cos(u_i S^{1/2}, v_j S^{1/2})
\end{equation}

L'analyse s�mantique latente permet de d�finir sur ce principe un
nouveau type de ML \cite{Bellegarda98, Bellegarda00}. Le calcul des
probabilit�s $P(w_i|h_i)$ est �tabli en consid�rant que $h_i$
repr�sente le document courant $\tilde{d}_{i-1}$ jusqu'au mot
$w_i$. $\tilde{d}_{i-1}$ pouvant �tre vu comme une colonne
suppl�mentaire de $W$, on calcule sa repr�sentation $\tilde{v}_{i-1}$
dans $\mathcal{S}$. $P(w_i, \tilde{d}_{i-1})$ est alors d�termin�e �
partir de la mesure de proximit� $K(w_i, \tilde{d}_{i-1})$ entre $w_i$
et l'historique $\tilde{d}_{i-1}$, en r�alisant une normalisation pour
obtenir une probabilit� bien d�finie. Gr�ce � ce mode de calcul,
$P(w_i, \tilde{d}_{i-1})$ est plus grande pour les mots dont le sens
se rapproche le plus de celui des mots de l'historique et plus petite
dans le cas contraire. Pour avoir des informations sur l'ordre des
mots, le calcul des probabilit�s prend en outre en consid�ration les
N-grammes. L'analyse s�mantique latente est une technique int�ressante
puisque ce type de ML a permis une baisse relative du taux d'erreur de
16\,\% par rapport � des ML trigrammes pour transcrire de la parole
lue en anglais \cite{Bellegarda00}.




\subsubsection{Pragmatique}
\label{subSecPragmatique}

L'introduction de la pragmatique dans la RAP recouvre un ensemble de
techniques qui visent � adapter le processus de transcription au
contexte d'utilisation. L'adaptation peut se faire de deux fa�ons :
\begin{itemize}
\item soit en concevant des mod�les adaptatifs, qui se sp�cialisent
automatiquement au cours du processus de RAP, en fonction de ce que le
syst�me a d�j� reconnu,
\item soit en utilisant des corpus d'adaptation, obtenus par des
syst�mes de recherche d'information et plus proches du texte �
transcrire que le corpus d'apprentissage.
\end{itemize}

\paragraph{Mod�les adaptatifs\\}
\label{subSubSecMLAdapt}

Il existe plusieurs m�thodes d'adaptation des ML, parmi lesquelles on
retrouve les mod�les � base de cache (\textit{cf.}
section~\ref{subSubSecModifHisto}) et les mod�les � base de mots
\textit{triggers} (\textit{cf.} section~\ref{ssSecASyntax}).  Dans le
cas des mod�les � base de cache, les probabilit�s $P(w_i|h_i)$ sont
r�estim�es en fonction des mots contenus dans le cache, en supposant
que les mots qui sont apparus r�cemment voient leur probabilit�
d'apparition augmenter. Les mod�les classiques � base de cache
n'apportant pas un gain significatif, il en existe plusieurs
variantes. Il a �t� par exemple envisag� de ne consid�rer dans le
cache que les mots rares \cite{Rosenfeld94}, ou bien encore de faire
d�cro�tre les probabilit�s du cache de mani�re exponentielle en
fonction de la distance entre le mot courant et les apparitions
pr�c�dentes de ce mot \cite{Clarkson97}.

Si ces mod�les modifient uniquement les probabilit�s des mots pr�sents
dans le cache, ceux � base de mots \textit{triggers} font l'hypoth�se
que certains mots pr�sents dans l'historique ont une influence sur
l'apparition des mots auxquels ils sont corr�l�s. Le mot \og
\textit{avion}\fg\ pourra par exemple favoriser la pr�diction du mot
\og \textit{vol}\fg. Ce type de mod�le peut ainsi prendre en compte
des d�pendances entre mots distants dans le document � transcrire
\cite{Rosenfeld96}.

Un autre type de ML adaptatif repose sur la d�tection du th�me trait�
par le document � transcrire. Il est en effet constat� que pour des
documents sonores abordant plusieurs th�mes, notamment les �missions
d'actualit�, les tournures de phrase et les termes employ�s diff�rent
selon le sujet trait�. Dans cette approche, le corpus d'apprentissage
est divis� en plusieurs ensembles correspondant chacun � un
sous-langage ou un th�me ; un ML th�matique est alors construit pour
chacun de ces ensembles. Pour partitionner le corpus d'apprentissage,
il est g�n�ralement suppos� que chaque document du corpus est associ�
� un unique th�me. Ces documents sont le plus souvent regroup�s en
utilisant des m�thodes automatiques non supervis�es \cite{Iyer99,
Clarkson97, Martin97, Florian99, Gildea99} mais peuvent �tre aussi
class�s gr�ce � des m�thodes automatiques supervis�es \cite{Lane05,
Khudanpur99} ou de mani�re manuelle en annotant chaque document
\cite{Kneser93, Brun03}. Le nombre de groupes obtenu � partir du
corpus d'apprentissage est tr�s variable. Il peut par exemple �tre
inf�rieur � 10 si les th�mes d�tect�s sont g�n�raux, comme l'�conomie,
l'histoire ou la politique \cite{Brun03, Bigi00} ou �tre de plus de
5~000, permettant ainsi une distinction plus fine du sujet abord�
\cite{Seymore97}.

Il existe plusieurs proc�d�s pour utiliser les mod�les adaptatifs
bas�s sur la d�tection de th�mes. Tout d'abord, la reconnaissance du
sujet abord� par le document � transcrire peut se faire � diff�rents
niveaux. Elle est souvent r�alis�e � partir du document entier pour
limiter l'influence des erreurs sur les mots reconnus, puisque ce sont
des hypoth�ses de transcription, susceptibles d'�tre partiellement
erron�es, qui sont utilis�es pour la d�tection du th�me. Elle peut
n�anmoins �tre effectu�e au niveau de chaque groupe de souffle. Malgr�
une difficult� plus importante, ce type de d�tection conduit dans
certains cas � une plus grande baisse du taux d'erreur de la
transcription \cite{Khudanpur99}. Pour limiter les erreurs de
d�tection du th�me sur un groupe de souffle, les sujets peuvent �tre
hi�rarchis�s ; on utilise alors des mod�les correspondant � des th�mes
plus ou moins pr�cis selon la confiance attribu�e au groupe de souffle
\cite{Lane05}. Un autre niveau de segmentation suppose de d�couper le
document � transcrire pour obtenir des ensembles cons�cutifs de
groupes de souffle associ�s � un seul th�me. Les segments obtenus
�tant plus longs, cette solution pr�sente l'avantage de limiter
l'influence des erreurs de transcription, tout en d�tectant des th�mes
plus pr�cis qu'en prenant en compte l'ensemble du document
\cite{Chen01}.

Les mod�les th�matiques diff�rent en outre selon la mani�re dont ils
sont combin�s pour calculer les probabilit�s. Le ML correspondant au
th�me d�tect� � partir d'une premi�re hypoth�se de transcription peut
�tre directement utilis� dans la deuxi�me passe du syst�me de RAP
\cite{Lane05}. Cependant, les mod�les sp�cifiques � un th�me ayant �t�
appris sur des corpus de taille r�duite, ils sont g�n�ralement
combin�s avec le mod�le g�n�ral, construit � partir de l'ensemble du
corpus d'apprentissage. Cette combinaison peut �tre r�alis�e au moyen
d'une interpolation lin�aire \cite{Brun03, Iyer99, Seymore97} ou d'un
mod�le exponentiel (\textit{cf.} section~\ref{subSubSecLingML})
\cite{Khudanpur99}. L'avantage du dernier est qu'il modifie, pour
chaque th�me, les probabilit�s du mod�le g�n�ral pour un nombre limit�
de mots, ce qui permet de ne pas accro�tre beaucoup la taille du
ML. Des m�thodes propres � l'adaptation ont �t� de plus con�ues pour
combiner plusieurs mod�les sp�cifiques � un th�me. Si $t_k$ est un
th�me pr�sent dans le corpus d'apprentissage, les ML dits �
\emph{m�lange de mod�les} calculent les probabilit�s de la mani�re
suivante :
\begin{equation} \label{eqMelModeles}
P(w_i|w_1^{i-1}) = \sum_k \lambda_k (w_1^{i-1}) P(w_i|w_1^{i-1}, t_k)
\end{equation}
Ce proc�d� diff�re de l'interpolation lin�aire dans la mesure o� les
param�tres $\lambda_k$ sont d�termin�s dynamiquement en fonction des
mots rencontr�s pr�c�demment \cite{Kneser93, Martin97, Clarkson97}. Il
existe une autre variante des m�langes de mod�les, consistant �
�valuer les param�tres $\lambda_k$ au niveau des phrases (ou groupes
de souffles) et non pas au niveau des N-grammes \cite{Iyer99}. Notons
que les coefficients $\lambda_k$ peuvent �tre assimil�s aux
probabilit�s $P(t_k|w_1^{i-1})$ \cite{Florian99, Gildea99}. L'int�r�t
de ce type de mod�le est de pouvoir associer plusieurs th�mes au
document � transcrire.

D'une mani�re g�n�rale, les mod�les adaptatifs ont permis une
r�duction significative de la perplexit�, mais cette r�duction s'est
traduite par une baisse limit�e du taux d'erreur de transcription. Une
propri�t� int�ressante des mod�les th�matiques est qu'ils semblent
apporter des informations compl�mentaires � celles fournies par une
analyse syntaxique. En combinant ces deux sources d'informations, il a
�t� ainsi constat� que les gains de chaque source sont presque
additifs en ce qui concerne la baisse du taux d'erreur \cite{Wu99}.

Une technique alternative d'adaptation consiste � utiliser des corpus
sp�cialis�s en fonction du texte � transcrire.


\paragraph{Utilisation de corpus d'adaptation\\}

Les ML statistiques sont particuli�rement sensibles � l'ad�quation du
corpus d'apprentissage vis-�-vis du type de document �
transcrire. Dans le cas d'�missions d'actualit�, le poids attribu� aux
transcriptions manuelles de programmes radio est ainsi beaucoup plus
important, eu �gard � son volume de donn�es, que celui de journaux
�crits. On voit ainsi l'int�r�t d'avoir un corpus adapt� au document �
transcrire.

Le corpus d'adaptation peut �tre d�j� disponible, ce qui correspond �
une adaptation \emph{statique}. Par rapport au corpus g�n�ral, ce
corpus se rapporte davantage au domaine des textes � transcrire mais
sa taille r�duite, souvent de l'ordre de quelques milliers de mots, ne
lui permet pas d'�tre directement utilisable comme corpus
d'apprentissage du ML. Les param�tres du ML sont alors calcul�s
principalement � partir du corpus g�n�ral et, dans les situations o�
le volume de donn�es est suffisant, � partir du corpus sp�cialis�
\cite{Gao00, Federico99}.

Le corpus d'adaptation peut��tre aussi r�guli�rement mis � jour ; on
parle alors d'adaptation \emph{dynamique}. Cette mise � jour est
effectu�e soit � partir de documents qui ont �t� con�us durant la m�me
p�riode que ce qui est � transcrire \cite{Allauzen03b, Kemp98}, soit �
partir de documents dont le contenu est similaire � ce que l'on
souhaite d�coder \cite{Berger98, Chen03, Bigi04}. Dans le deuxi�me
cas, il est fait appel � un syst�me de recherche d'information (SRI) ;
un ML g�n�ral �tablit alors une premi�re hypoth�se de transcription
utilis�e par le SRI pour retourner les documents les plus
proches. L'ensemble des r�sultats de la recherche forme un corpus
d'adaptation, permettant de rectifier le ML, et le ML modifi� est
utilis� dans une deuxi�me passe du processus de transcription.

La recherche d'information peut se faire � partir de sources de types
diff�rents. Une recherche parmi l'ensemble de documents du corpus
d'apprentissage permet d'avoir un corpus sp�cialis�, ce qui est
int�ressant quand le corpus d'apprentissage se rapporte � plusieurs
th�mes \cite{Chen03}. Une autre possibilit� repose sur l'utilisation
d'Internet \cite{Bigi04}. Cette vaste source d'informations �volutive
pr�sente �galement, au sein de certains sites tels que les blogs ou
les serveurs de news, des caract�ristiques proches de la langue parl�e
(\textit{cf.} section~\ref{subSecLPetLE}) \cite{Vaufreydaz99}.

Le syst�me de RAP prend en compte les corpus d'adaptation de deux
mani�res diff�rentes :
\begin{itemize}
\item en modifiant son vocabulaire,
\item en adaptant le calcul des probabilit�s du ML au corpus
  d'adaptation.
\end{itemize}

L'adaptation du vocabulaire est particuli�rement pertinente pour
transcrire des �\-mis\-sions d'actualit�, des entit�s nom\-m�es
ap\-paraissant au gr� des �v�\-ne\-ments \cite{Kemp98, Allauzen03b,
Bigi04}. La col\-lecte r�\-guli�re d'in\-for\-ma\-tions sur des sites
de d�p�ches d'agences de presse ou de quotidiens nationaux permet de
r�duire le taux de mots hors vocabulaire. Pour ne pas augmenter la
taille du vocabulaire, des mots pr�sents initialement sont supprim�s
pour laisser place � des mots apparaissant souvent dans l'actualit�
r�cente. L'ajout d'un mot au syst�me de RAP n�cessite � la fois
d'associer une transcription phon�tique � ce mot et de l'inclure dans
les distributions N-grammes du ML. La modification du vocabulaire
pr�sente donc l'inconv�nient de devoir effectuer un r�apprentissage
fr�quent des MA et des ML. Toutefois, une m�thode a permis de
construire un syst�me de RAP � vocabulaire ouvert, avec une diminution
constat�e du taux d'erreur de 25,5\,\% � 24,9\,\% pour la
transcription d'�missions d'actualit� en fran�ais \cite{Allauzen05}.

Le calcul des probabilit�s du ML peut �tre modifi� selon plusieurs
proc�d�s pour prendre en compte le corpus d'adaptation. Une premi�re
possibilit� consiste � utiliser les m�langes de mod�les th�matiques
(\textit{cf.}  section~\ref{subSubSecMLAdapt}). Les param�tres
$\lambda_k$ de l'�quation~(\ref{eqMelModeles}) sont alors appris non
plus � partir des mots transcrits pr�c�demment comme dans le cas des
mod�les adaptatifs, mais � partir du corpus d'adaptation. Le m�lange
de mod�les peut se faire en outre de mani�re dynamique en adaptant le
calcul des probabilit�s $P(w_i|w_1^{i-1}, t_k)$ au corpus d'adaptation
\cite{Chen04b}. D'autres techniques consistent � sp�cialiser un ML
g�n�ral sur le corpus d'adaptation en utilisant un crit�re de maximum
\textit{a posteriori} (MAP) \cite{Federico96, Berger98, Chen04b} ou un
crit�re de minimum d'information discriminante (MDI pour
\textit{Minimum Discrimination Information}) \cite{Federico99,
Chen04b}. L'utilisation de corpus d'adaptation permet une r�duction
non n�gligeable du taux d'erreur de la transcription. Il a ainsi �t�
constat� une baisse de 17,1\,\% � 16,3\,\% dans la transcription
d'�missions d'actualit� en anglais. Les adaptations au moyen de
m�langes dynamiques de mod�les et du crit�re MDI semblent �tre les
proc�d�s les plus performants \cite{Chen04b}.



\newpage
%----------------------------------------------------------------------------


\section{Conclusion}
\label{SecConclusion}


La description du principe de fonctionnement de la transcription met
en �vidence que les syst�mes de RAP actuels s'appuient sur une
mod�lisation statistique. Ce type de conception a conduit � la
construction de MA � base de HMM et de ML N-grammes. Il a permis de
r�aliser diff�rents syst�mes capables de transcrire des �missions
d'actualit� mais aussi des dialogues spontan�s, m�me si le traitement
de ce dernier type de documents est rendu probl�matique par la
pr�sence non n�gligeable de ph�nom�nes de la langue parl�e tels que
les disfluences. Les connaissances linguistiques prises en compte se
limitent bien souvent � la conception d'un lexique de prononciations
et � l'apprentissage de ML N-grammes, ce qui laisse penser que des
am�liorations de la qualit� de la transcription sont possibles en
exploitant davantage d'informations sur le langage.

La pr�sentation que nous avons faite des ML N-grammes et leurs
variantes a montr� que deux limitations sont souvent mises en avant
quant � leur capacit� � donner une valeur correcte aux probabilit�s de
s�quences de mots. D'une part, les ML N-grammes sont bas�s sur
l'hypoth�se un peu simpliste et arbitraire, mais conduisant � des
m�thodes de calculs rapides, qui est d'examiner uniquement les $N-1$
mots pr�c�dents pour pr�dire le mot courant. Afin de rem�dier � ce
premier point, des essais ont �t� conduits de fa�on � int�grer des
connaissances sup\-pl�\-men\-taires telles que les d�pendances
syntaxiques ou les similarit�s s�mantiques entre les mots d'un groupe
de souffle. Des m�thodes d'adaptation tentent �galement de prendre en
compte des relations entre diff�rents groupes de souffle. D'autre
part, malgr� des techniques de lissage perfectionn�es, les calculs
pour pr�dire des �v�nements rares voire m�me absents du corpus sont
impr�cis. Pour tenter de corriger ce probl�me, des �tudes ont r�uni
des mots poss�dant la m�me partie du discours ou le m�me lemme au sein
d'une m�me classe, de mani�re � r�duire le nombre d'�v�nements
possibles.

Au final, les r�sultats obtenus en int�grant des connaissances
linguistiques sup\-pl�\-men\-taires montrent que les am�liorations en
terme de taux d'erreur sur les mots reconnus sont g�\-n�\-ra\-le\-ment
assez peu significatives, d'autant plus que les nouveaux ML propos�s
ne sont presque jamais compar�s avec des ML 5-grammes utilisant un
lissage performant \cite{Goodman01}. Parmi les raisons qui expliquent
cet �tat de fait, les nouvelles informations introduites par ces
m�thodes sont souvent redondantes avec les connaissances d�j�
apport�es par les ML N-grammes de mots. En outre, les particularit�s
des transcriptions produites automatiquement, notamment la flexiblit�
de la langue parl�e, la segmentation en groupes de souffle ou encore
les erreurs de reconnaissance, viennent compliquer la conception de
m�thodes extrayant automatiquement des connaissances linguistiques.
De plus, les techniques employ�es ont souvent le d�faut d'augmenter
consid�rablement le temps de d�codage du signal acoustique, ce qui
fait qu'elles sont utilis�es principalement au niveau de la derni�re
passe du processus de transcription.

Quelques m�thodes apparaissent toutefois prometteuses pour corriger
certaines erreurs de transcription : les ML utilisant des grammaires
lexicalis�es probabilistes, bien qu'ils soient encore trop co�teux au
niveau des calculs, l'introduction de connaissances s�mantiques, les
mod�les th�matiques ou encore l'utilisation de corpus
d'adaptation. Les mod�les N-classes, qui sont rapides lors de leur
utilisation, peuvent �galement r�duire le taux d'erreur. La
combinaison de plusieurs types de connaissances semble de plus
souhaitable pour apporter des informations compl�mentaires.

Notons enfin que cette synth�se s'est limit�e � l'am�lioration de la
qualit� de la transcription mais que le couplage TAL-RAP peut
�galement s'exprimer � l'issue de la reconnaissance. De nombreuses
recherches s'int�ressent ainsi actuellement au rep�rage d'entit�s
nomm�es dans les textes produits, � la d�tection de th�mes ou encore �
la r�alisation de r�sum�s.


\newpage

% pour ne pas avoir d'espace devant `:'
\begin{otherlanguage*}{english}

% pour ajouter la bibliographie dans le plan
\addcontentsline{toc}{section}{R�f�rences}
\bibliography{these}

\end{otherlanguage*}



\end{document} 
\endinput

biblio.bbl
\newcommand{\etalchar}[1]{$^{#1}$}
\begin{thebibliography}{BDMADG03}

\bibitem[AB05]{Alain05}
P.~\bgroup\sc Alain\egroup{} \andname{} O.~\bgroup\sc Bo�ffard\egroup{}.
\newblock \og �valuation des mod�les de langage {N}-gramme et
  {N}/{M}-multigramme\fg.
\newblock \Inname{} {\em Actes de la 12�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, \volumename{}~1, Dourdan, France,
  2005.

\bibitem[ADHB{\etalchar{+}}04]{AddaDecker04}
M.~\bgroup\sc Adda-Decker\egroup{}, B.~\bgroup\sc Habert\egroup{},
  C.~\bgroup\sc Barras\egroup{}, G.~\bgroup\sc Adda\egroup{}, P.~\bgroup\sc
  {Boula de Mare�il}\egroup{} \andname{} P.~\bgroup\sc Paroubek\egroup{}.
\newblock \og Une �tude des disfluences pour la transcription automatique de la
  parole spontan�e et l'am�lioration des mod�les de langage\fg.
\newblock \Inname{} {\em Actes des 25�mes Journ�es d'�tudes sur la Parole
  (JEP)}, F�s, Maroc, 2004.

\bibitem[AG99]{Antoine99}
J.-Y. \bgroup\sc Antoine\egroup{} \andname{} D.~\bgroup\sc Genthial\egroup{}.
\newblock \og M�thodes hybrides issues du TALN et du TAL Parl�~: �tat des lieux
  et perspectives\fg.
\newblock \Inname{} {\em Actes de la 6�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, Carg�se, France, 1999.

\bibitem[AG01]{Antoine01}
J.-Y. \bgroup\sc Antoine\egroup{} \andname{} J.~\bgroup\sc Goulian\egroup{}.
\newblock \og Word Order Variations and Spoken Man-Machine Dialogue in French:
  a Corpus Analysis on the ATIS Domain\fg.
\newblock \Inname{} {\em Proc. of Corpus Linguistics}, Lancaster, Royaume-Uni,
  2001.

\bibitem[AG03]{Allauzen03b}
A.~\bgroup\sc Allauzen\egroup{} \andname{} J.-L. \bgroup\sc Gauvain\egroup{}.
\newblock \og Adaptation automatique du mod�le de langage d'un syst�me de
  transcription de journaux parl�s\fg.
\newblock {\em Traitement Automatique des Langues (TAL)}, 44(1):11--31, 2003.

\bibitem[AG05]{Allauzen05}
A.~\bgroup\sc Allauzen\egroup{} \andname{} J.-L. \bgroup\sc Gauvain\egroup{}.
\newblock \og Open Vocabulary {ASR} for Audiovisual Document Indexation\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1,
  Philadelphie, Pennsylvanie, �tats-Unis, 2005.

\bibitem[All94]{Allen94}
J.~B. \bgroup\sc Allen\egroup{}.
\newblock \og How do Humans Process and Recognize Speech?\fg.
\newblock {\em IEEE Transactions on Speech and Audio Processing},
  2(4):567--577, 1994.

\bibitem[AMP{\etalchar{+}}99]{Adda99}
G.~\bgroup\sc Adda\egroup{}, J.~\bgroup\sc Mariani\egroup{}, P.~\bgroup\sc
  Paroubek\egroup{}, M.~\bgroup\sc Rajman\egroup{} \andname{} J.~\bgroup\sc
  Lecomte\egroup{}.
\newblock \og M�trique et premiers r�sultats de l'�valuation {GRACE} des
  �tiqueteurs morphosyntaxiques pour le fran�ais\fg.
\newblock \Inname{} {\em Actes de la 6�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, Carg�se, France, 1999.

\bibitem[BB90]{Blanche-Benveniste90}
C.~\bgroup\sc Blanche-Benveniste\egroup{}.
\newblock {\em Le fran�ais parl�~: �tudes grammaticales}.
\newblock Paris~: �ditions du CNRS, 1990.

\bibitem[BB97]{Blanche-Benveniste97}
C.~\bgroup\sc Blanche-Benveniste\egroup{}.
\newblock {\em Approches de la langue parl�e en fran�ais}.
\newblock Gap - Paris~: Ophrys, 1997.

\bibitem[BCD{\etalchar{+}}04]{Benzitoun04b}
C.~\bgroup\sc Benzitoun\egroup{}, E.~\bgroup\sc Campione\egroup{},
  J.~\bgroup\sc Deulofeu\egroup{}, S.~\bgroup\sc Henry\egroup{}, F.~\bgroup\sc
  Sabio\egroup{}, S.~\bgroup\sc Teston\egroup{}, A.~\bgroup\sc Valli\egroup{}
  \andname{} J.~\bgroup\sc V�ronis\egroup{}.
\newblock \og L'analyse syntaxique de l'oral~: probl�mes et m�thode\fg.
\newblock \Inname{} {\em Actes de la journ�e d'�tude de l'ATALA sur
  l'annotation syntaxique de corpus}, Paris, France, 2004.

\bibitem[BDM98]{Boufaden98}
N.~\bgroup\sc Boufaden\egroup{}, S.~\bgroup\sc Delisle\egroup{} \andname{}
  B.~\bgroup\sc Moulin\egroup{}.
\newblock \og Analyse syntaxique robuste de dialogue retranscrits~: peut-on
  vraiment traiter l'oral � partir de l'�crit~?\fg.
\newblock \Inname{} {\em Actes de la 5�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, Paris, France, 1998.

\bibitem[BDMADG03]{Boula03}
P.~\bgroup\sc Boula De~Mare�il\egroup{}, M.~\bgroup\sc Adda-Decker\egroup{}
  \andname{} V.~\bgroup\sc Gendner\egroup{}.
\newblock \og Liaisons in French: a Corpus-Based Study Using Morpho-Syntactic
  Information\fg.
\newblock \Inname{} {\em Proc. of the 15th International Congress of Phonetic
  Sciences}, Barcelone, Espagne, 2003.

\bibitem[BDMS00]{Bigi00}
B.~\bgroup\sc Bigi\egroup{}, R.~\bgroup\sc De~Mori\egroup{} \andname{}
  T.~\bgroup\sc Spriet\egroup{}.
\newblock \og Reconnaissance th�matique � partir de textes dict�s et adaptation
  dynamique de mod�les de langage th�matiques\fg.
\newblock \Inname{} {\em Actes des 23�mes Journ�es d'�tudes sur la Parole
  (JEP)}, Aussois, France, 2000.

\bibitem[BDPd{\etalchar{+}}92]{Brown92}
P.~F. \bgroup\sc Brown\egroup{}, V.~J. \bgroup\sc Della~Pietra\egroup{}, P.~V.
  \bgroup\sc deSouza\egroup{}, J.~C. \bgroup\sc Lai\egroup{} \andname{} R.~L.
  \bgroup\sc Mercer\egroup{}.
\newblock \og Class-Based {N}-Gram Models of Natural Language\fg.
\newblock {\em Computational Linguistics}, 18(4):467--480, 1992.

\bibitem[BDVJ03]{bengio03}
Y.~\bgroup\sc Bengio\egroup{}, R.~\bgroup\sc Ducharme\egroup{}, P.~\bgroup\sc
  Vincent\egroup{} \andname{} C.~\bgroup\sc Jauvin\egroup{}.
\newblock \og A Neural Probabilistic Language Model\fg.
\newblock {\em Journal of Machine Learning Research}, 3(2):1137--1155, 2003.

\bibitem[Bel98]{Bellegarda98}
J.~R. \bgroup\sc Bellegarda\egroup{}.
\newblock \og A Multispan Language Modeling Framework for Large Vocabulary
  Speech Recognition\fg.
\newblock {\em IEEE Transactions on Speech and Audio Processing},
  6(5):456--467, 1998.

\bibitem[Bel00]{Bellegarda00}
J.~R. \bgroup\sc Bellegarda\egroup{}.
\newblock \og Large Vocabulary Speech Recognition with Multispan Statistical
  Language Models\fg.
\newblock {\em IEEE Transactions on Speech and Audio Processing}, 8(1):76--84,
  2000.

\bibitem[Ben04]{Benzitoun04}
C.~\bgroup\sc Benzitoun\egroup{}.
\newblock \og L'annotation syntaxique de corpus oraux constitue-t-elle un
  probl�me sp�cifique~?\fg.
\newblock \Inname{} {\em Actes de la 8�me Rencontre des �tudiants Chercheurs en
  Informatique pour le Traitement Automatique des Langues (RECITAL)}, F�s,
  Maroc, 2004.

\bibitem[BFHM98]{Brill98}
E.~\bgroup\sc Brill\egroup{}, R.~\bgroup\sc Florian\egroup{}, J.~C. \bgroup\sc
  Henderson\egroup{} \andname{} L.~\bgroup\sc Mangu\egroup{}.
\newblock \og Beyond {N}-Grams: Can Linguistic Sophistication Improve Language
  Modeling?\fg.
\newblock \Inname{} {\em Proc. of the 36th Annual Meeting of the Association
  for Computational Linguistics and the 17th International Conference on
  Computational Linguistics (COLING-ACL)}, \volumename{}~1, Montr�al, Canada,
  1998.

\bibitem[BGWL01]{Barras01}
C.~\bgroup\sc Barras\egroup{}, E.~\bgroup\sc Geoffrois\egroup{}, Z.~\bgroup\sc
  Wu\egroup{} \andname{} M.~\bgroup\sc Liberman\egroup{}.
\newblock \og Transcriber: Development and Use of a Tool for Assisting Speech
  Corpora Production\fg.
\newblock {\em Speech Communication}, 33(1-2):5--22, 2001.

\bibitem[BHDM04]{Bigi04}
B.~\bgroup\sc Bigi\egroup{}, Y.~\bgroup\sc Huang\egroup{} \andname{}
  R.~\bgroup\sc De~Mori\egroup{}.
\newblock \og Vocabulary and Language Model Adaptation Using Information
  Retrieval\fg.
\newblock \Inname{} {\em Proc. of the 8th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~2, �le de Jeju, Cor�e du Sud,
  2004.

\bibitem[Bla99]{Blasig99}
R.~\bgroup\sc Blasig\egroup{}.
\newblock \og Combination of Words and Word Categories in Varigram
  Histories\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Phoenix,
  Arizona, �tats-Unis, 1999.

\bibitem[BM98]{Berger98}
A.~\bgroup\sc Berger\egroup{} \andname{} R.~\bgroup\sc Miller\egroup{}.
\newblock \og Just-in-Time Language Modelling\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~2, Seattle,
  Washington, �tats-Unis, 1998.

\bibitem[BNSd99]{Bechet99}
F.~\bgroup\sc B�chet\egroup{}, A.~\bgroup\sc Nasr\egroup{}, T.~\bgroup\sc
  Spriet\egroup{} \andname{} R.~\bgroup\sc {de Mori}\egroup{}.
\newblock \og Mod�les de langage � port�e variable~: application au traitement
  des homophones\fg.
\newblock \Inname{} {\em Actes de la 6�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, Carg�se, France, 1999.

\bibitem[BP98]{Berger98b}
A.~\bgroup\sc Berger\egroup{} \andname{} H.~\bgroup\sc Printz\egroup{}.
\newblock \og Recognition Performance of a Large-Scale Dependency-Grammar
  Language Model\fg.
\newblock \Inname{} {\em Proc. of the 5th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~6, Sydney, Australie, 1998.

\bibitem[BP03]{Beutler03}
R.~\bgroup\sc Beutler\egroup{} \andname{} B.~\bgroup\sc Pfister\egroup{}.
\newblock \og Integrating Statistical and Rule-Based Knowledge for Continuous
  German Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the 8th European Conference on Speech
  Communication and Technology (Eurospeech)}, Gen�ve, Suisse, 2003.

\bibitem[BPLA95]{Bimbot95}
F.~\bgroup\sc Bimbot\egroup{}, R.~\bgroup\sc Pieraccini\egroup{}, E.~\bgroup\sc
  Levin\egroup{} \andname{} B.~\bgroup\sc Atal\egroup{}.
\newblock \og Variable-Length Sequence Modeling: Multigrams\fg.
\newblock {\em Signal Processing Letters, IEEE}, 2(6):111--113, 1995.

\bibitem[Bra00]{Brants00}
T.~\bgroup\sc Brants\egroup{}.
\newblock \og TnT - A Statistical Part-of-Speech Tagger\fg.
\newblock \Inname{} {\em Proc. of the Sixth Applied NLP}, Seattle, Washington,
  �tats-Unis, 2000.

\bibitem[Bru03]{Brun03}
A.~\bgroup\sc Brun\egroup{}.
\newblock \og {\em D�tection de th�me et adaptation des mod�les de langage pour
  la reconnaissance automatique de la parole}\fg.
\newblock \thesename{}, Universit� Henri Poincar� - Nancy 1, France, 2003.

\bibitem[BV05]{Benzitoun05}
C.~\bgroup\sc Benzitoun\egroup{} \andname{} J.~\bgroup\sc V�ronis\egroup{}.
\newblock \og Probl�mes d'annotation d'un corpus oral dans le cadre de la
  campagne EASY\fg.
\newblock \Inname{} {\em Actes de la 12�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, \volumename{}~2, Dourdan, France,
  2005.

\bibitem[Cam01]{Campione01b}
E.~\bgroup\sc Campione\egroup{}.
\newblock \og {\em �tiquetage prosodique semi-automatique de corpus oraux~:
  algorithmes et m�thodologie}\fg.
\newblock \thesename{}, Universit� de Provence, Aix-en-Provence, France, 2001.

\bibitem[Can00]{Candea00}
M.~\bgroup\sc Candea\egroup{}.
\newblock \og {\em Contribution � l'�tude des pauses silencieuses et des
  ph�nom�nes dits d'�h�sitation� en fran�ais oral spontan�. �tude sur un corpus
  de r�cits en classe de fran�ais}\fg.
\newblock \thesename{}, Universit� Paris III, France, 2000.

\bibitem[CG98]{Chen98}
S.~F. \bgroup\sc Chen\egroup{} \andname{} J.~\bgroup\sc Goodman\egroup{}.
\newblock \og An Empirical Study of Smoothing Techniques for Language
  Modeling\fg.
\newblock \technicalreportname{}, Harvard University, Cambridge, Massachusetts,
  �tats-Unis, 1998.

\bibitem[CGL{\etalchar{+}}01]{Chen01}
L.~\bgroup\sc Chen\egroup{}, J.-L. \bgroup\sc Gauvain\egroup{}, L.~\bgroup\sc
  Lamel\egroup{}, G.~\bgroup\sc Adda\egroup{} \andname{} M.~\bgroup\sc
  Adda-Decker\egroup{}.
\newblock \og Using Information Retrieval Methods for Language Model
  Adaptation\fg.
\newblock \Inname{} {\em Proc. of the 7th European Conference on Speech
  Communication and Technology (Eurospeech)}, Aalborg, Danemark, 2001.

\bibitem[CGLA03]{Chen03}
L.~\bgroup\sc Chen\egroup{}, J.-L. \bgroup\sc Gauvain\egroup{}, L.~\bgroup\sc
  Lamel\egroup{} \andname{} G.~\bgroup\sc Adda\egroup{}.
\newblock \og Unsupervised Language Model Adaptation for Broadcast News\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Hong
  Kong, Chine, 2003.

\bibitem[CGLA04]{Chen04b}
L.~\bgroup\sc Chen\egroup{}, J.-L. \bgroup\sc Gauvain\egroup{}, L.~\bgroup\sc
  Lamel\egroup{} \andname{} G.~\bgroup\sc Adda\egroup{}.
\newblock \og Dynamic Language Modeling for Broadcast News\fg.
\newblock \Inname{} {\em Proc. of the 8th International Conference on Spoken
  Language Processing (ICSLP)}, �le de Jeju, Cor�e du Sud, 2004.

\bibitem[Cha00]{Charniak00}
E.~\bgroup\sc Charniak\egroup{}.
\newblock \og A Maximum-Entropy-Inspired Parser\fg.
\newblock \Inname{} {\em Proc. of the 1st Conference of the North American
  Chapter of the Association for Computational Linguistics}, Seattle,
  Washington, �tats-Unis, 2000.

\bibitem[Cha01]{Charniak01}
E.~\bgroup\sc Charniak\egroup{}.
\newblock \og Immediate-Head Parsing for Language Models\fg.
\newblock \Inname{} {\em Proc. of the 39th Annual Meeting of the Association
  for Computational Linguistics (ACL)}, Toulouse, France, 2001.

\bibitem[CJ00]{Chelba00}
C.~\bgroup\sc Chelba\egroup{} \andname{} F.~\bgroup\sc Jelinek\egroup{}.
\newblock \og Structured Language Modeling\fg.
\newblock {\em Computer Speech and Language}, 14(4):283--332, 2000.

\bibitem[CR89]{Chow89b}
Y.-L. \bgroup\sc Chow\egroup{} \andname{} S.~\bgroup\sc Roukos\egroup{}.
\newblock \og Speech Understanding Using a Unification Grammar\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~2, Glasgow,
  Royaume-Uni, 1989.

\bibitem[CR97]{Clarkson97}
P.~R. \bgroup\sc Clarkson\egroup{} \andname{} A.~J. \bgroup\sc
  Robinson\egroup{}.
\newblock \og Language Model Adaptation Using Mixtures and an Exponentially
  Decaying Cache\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~2, Munich,
  Allemagne, 1997.

\bibitem[CR99]{Clarkson99}
P.~\bgroup\sc Clarkson\egroup{} \andname{} T.~\bgroup\sc Robinson\egroup{}.
\newblock \og Towards Improved Language Model Evaluation Measures\fg.
\newblock \Inname{} {\em Proc. of the 6th European Conference on Speech
  Communication and Technology (Eurospeech)}, \volumename{}~5, Budapest,
  Hongrie, 1999.

\bibitem[CRAR99]{Chappelier99}
J.-C. \bgroup\sc Chappelier\egroup{}, M.~\bgroup\sc Rajman\egroup{},
  R.~\bgroup\sc Arag��s\egroup{} \andname{} A.~\bgroup\sc Rozenknop\egroup{}.
\newblock \og Lattice Parsing for Speech Recognition\fg.
\newblock \Inname{} {\em Actes de la 6�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, Carg�se, France, 1999.

\bibitem[CS89]{Chow89}
Y.-L. \bgroup\sc Chow\egroup{} \andname{} R.~\bgroup\sc Schwartz\egroup{}.
\newblock \og The N-Best Algorithm: An efficient Procedure for Finding Top N
  Sentence Hypotheses\fg.
\newblock \Inname{} {\em Proc. of the DARPA Speech and Natural Language
  Workshop}, Philadelphie, Pennsylvanie, �tats-Unis, 1989.

\bibitem[CV02]{Campione02}
E.~\bgroup\sc Campione\egroup{} \andname{} J.~\bgroup\sc V�ronis\egroup{}.
\newblock \og �tude des relations entre pauses et ponctuations pour la synth�se
  de la parole � partir de texte\fg.
\newblock \Inname{} {\em Actes de la 9�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, Nancy, France, 2002.

\bibitem[CV04]{Campione04}
E.~\bgroup\sc Campione\egroup{} \andname{} J.~\bgroup\sc V�ronis\egroup{}.
\newblock \og Pauses et h�sitations en fran�ais spontan�\fg.
\newblock \Inname{} {\em Actes des 25�mes Journ�es d'�tudes sur la Parole
  (JEP)}, F�s, Maroc, 2004.

\bibitem[CVD05]{Campione05}
E.~\bgroup\sc Campione\egroup{}, J.~\bgroup\sc V�ronis\egroup{} \andname{}
  J.~\bgroup\sc Deulofeu\egroup{}.
\newblock \og {\em C-ORAL-ROM, Integrated Reference Corpora for Spoken Romance
  Languages}\fg, \chaptername{} 3. The French corpus, \pagesname{} 111--133.
\newblock Amsterdam: John Benjamins, 2005.

\bibitem[DAS97]{Demetriou97}
G.~\bgroup\sc Demetriou\egroup{}, E.~\bgroup\sc Atwell\egroup{} \andname{}
  C.~\bgroup\sc Souter\egroup{}.
\newblock \og Large-Scale Lexical Semantics for Speech Recognition Support\fg.
\newblock \Inname{} {\em Proc. of the 5th European Conference on Speech,
  Communication, Technology (Eurospeech)}, Rhodes, Gr�ce, 1997.

\bibitem[DB95]{Deligne95}
S.~\bgroup\sc Deligne\egroup{} \andname{} F.~\bgroup\sc Bimbot\egroup{}.
\newblock \og Language Modeling by Variable Length Sequences: Theoretical
  Formulation and Evaluation of Multigrams\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, Detroit, Michigan,
  �tats-Unis, 1995.

\bibitem[DGA{\etalchar{+}}93]{Dowding93}
J.~\bgroup\sc Dowding\egroup{}, J.~M. \bgroup\sc Gawron\egroup{}, D.~\bgroup\sc
  Appelt\egroup{}, J.~\bgroup\sc Bear\egroup{}, L.~\bgroup\sc Cherny\egroup{},
  R.~\bgroup\sc Moore\egroup{} \andname{} D.~\bgroup\sc Moran\egroup{}.
\newblock \og Gemini: A Natural Language System for Spoken Language
  Understanding\fg.
\newblock \Inname{} {\em Proc. of the 31st Annual Meeting of the Association
  for Computational Linguistics (ACL)}, Columbus, Ohio, �tats-Unis, 1993.

\bibitem[DGP99]{Deshmukh99}
N.~\bgroup\sc Deshmukh\egroup{}, A.~\bgroup\sc Ganapathiraju\egroup{}
  \andname{} J.~\bgroup\sc Picone\egroup{}.
\newblock \og Hierarchical Search for Large Vocabulary Conversational Speech
  Recognition\fg.
\newblock {\em IEEE Signal Processing Magazine}, 16(5):84--107, 1999.

\bibitem[DS98]{Deligne98}
S.~\bgroup\sc Deligne\egroup{} \andname{} Y.~\bgroup\sc Sakisaga\egroup{}.
\newblock \og Learning a Syntagmatic and Paradigmatic Structure from Language
  Data with a Bi-Multigram Model\fg.
\newblock \Inname{} {\em Proc. of the 36th Annual Meeting of the Association
  for Computational Linguistics and the 17th International Conference on
  Computational Linguistics (COLING-ACL)}, \volumename{}~1, Montr�al, Canada,
  1998.

\bibitem[EBD90]{Elbeze90}
M.~\bgroup\sc El-B�ze\egroup{} \andname{} A.-M. \bgroup\sc Derouault\egroup{}.
\newblock \og A Morphological Model for Large Vocabulary Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1,
  Albuquerque, Nouveau Mexique, �tats-Unis, 1990.

\bibitem[Fed96]{Federico96}
M.~\bgroup\sc Federico\egroup{}.
\newblock \og Bayesian Estimation Methods for {N}-Gram Language Model
  Adaptation\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~1, Philadelphie, Pennsylvanie,
  �tats-Unis, 1996.

\bibitem[Fed99]{Federico99}
M.~\bgroup\sc Federico\egroup{}.
\newblock \og Efficient Language Model Adaptation through MDI Estimation\fg.
\newblock \Inname{} {\em Proc. of the 6th European Conference on Speech,
  Communication, Technology (Eurospeech)}, \volumename{}~4, Budapest, Hongrie,
  1999.

\bibitem[FIO96]{Farhat96}
A.~\bgroup\sc Farhat\egroup{}, J.-F. \bgroup\sc Isabelle\egroup{} \andname{}
  D.~\bgroup\sc O'Shaughnessy\egroup{}.
\newblock \og Clustering Words for Statistical Language Models Based on
  Contextual Word Similarity\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Atlanta,
  G�orgie, �tats-Unis, 1996.

\bibitem[FRWP03]{Franz03}
M.~\bgroup\sc Franz\egroup{}, B.~\bgroup\sc Ramabhadran\egroup{}, T.~\bgroup\sc
  Ward\egroup{} \andname{} M.~\bgroup\sc Picheny\egroup{}.
\newblock \og Information Access in Large Spoken Archives\fg.
\newblock \Inname{} {\em Proc. of the ISCA Multilingual Spoken Document
  Retrieval Workshop}, Macao/Hong Kong, Chine, 2003.

\bibitem[FY99]{Florian99}
R.~\bgroup\sc Florian\egroup{} \andname{} D.~\bgroup\sc Yarowsky\egroup{}.
\newblock \og Dynamic Nonlocal Language Modeling via Hierarchical Topic-Based
  Adaptation\fg.
\newblock \Inname{} {\em Proc. of 37th Annual Meeting of the Association for
  Computational Linguistics (ACL)}, College Park, Maryland, �tats-Unis, 1999.

\bibitem[GAAD{\etalchar{+}}05]{Gauvain05}
J.-L. \bgroup\sc Gauvain\egroup{}, G.~\bgroup\sc Adda\egroup{}, M.~\bgroup\sc
  Adda-Decker\egroup{}, A.~\bgroup\sc Allauzen\egroup{}, V.~\bgroup\sc
  Gendner\egroup{}, L.~\bgroup\sc Lamel\egroup{} \andname{} H.~\bgroup\sc
  Schwenk\egroup{}.
\newblock \og Where are we in Transcribing {F}rench Broadcast News?\fg.
\newblock \Inname{} {\em Proc. of the 9th European Conference on Speech
  Communication and Technology (Eurospeech)}, Lisbonne, Portugal, 2005.

\bibitem[GAD02]{Gendner02}
V.~\bgroup\sc Gendner\egroup{} \andname{} M.~\bgroup\sc Adda-Decker\egroup{}.
\newblock \og Analyse comparative de corpus oraux et �crits fran�ais~: mots,
  lemmes et classes morpho-syntaxiques\fg.
\newblock \Inname{} {\em Actes des 24�mes Journ�es d'�tudes sur la Parole
  (JEP)}, Nancy, France, 2002.

\bibitem[GAL{\etalchar{+}}04]{Gauvain04}
J.-L. \bgroup\sc Gauvain\egroup{}, G.~\bgroup\sc Adda\egroup{}, L.~\bgroup\sc
  Lamel\egroup{}, F.~\bgroup\sc Lef�vre\egroup{} \andname{} H.~\bgroup\sc
  Schwenk\egroup{}.
\newblock \og Transcription de la parole conversationnelle\fg.
\newblock \Inname{} {\em Actes des 25�mes Journ�es d'�tudes sur la Parole
  (JEP)}, F�s, Maroc, 2004.

\bibitem[Gar95]{Garside95}
R.~\bgroup\sc Garside\egroup{}.
\newblock \og {\em Spoken English on Computer: Transcription, Mark-up and
  Application}\fg, \chaptername{} Grammatical Tagging of the Spoken Part of the
  British National Corpus: A Progress Report, \pagesname{} 161--167.
\newblock Harlow: Longma, 1995.

\bibitem[Geu96]{Geutner96}
P.~\bgroup\sc Geutner\egroup{}.
\newblock \og Introducing Linguistic Constraints into Statistical Language
  Modeling\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Spoken
  Language Processing (ICSLP)}, Philadelphie, Pennsylvanie, �tats-Unis, 1996.

\bibitem[GH99]{Gildea99}
D.~\bgroup\sc Gildea\egroup{} \andname{} T.~\bgroup\sc Hofmann\egroup{}.
\newblock \og Topic-Based Language Models Using EM\fg.
\newblock \Inname{} {\em Proc. of the 6th European Conference on Speech
  Communication and Technology (Eurospeech)}, Budapest, Hongrie, 1999.

\bibitem[GLL00]{Gao00}
J.~\bgroup\sc Gao\egroup{}, M.~\bgroup\sc Li\egroup{} \andname{} K.-F.
  \bgroup\sc Lee\egroup{}.
\newblock \og {N}-Gram Distribution Based Language Model Adaptation\fg.
\newblock \Inname{} {\em Proc. of the 6th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~1, P�kin, Chine, 2000.

\bibitem[Goo01]{Goodman01}
J.~T. \bgroup\sc Goodman\egroup{}.
\newblock \og A Bit of Progress in Language Modeling, Extended Version\fg.
\newblock \technicalreportname{}, Microsoft Research, Redmond, Washington,
  �tats-Unis, 2001.

\bibitem[GSTN96]{Gallwitz96}
F.~\bgroup\sc Gallwitz\egroup{}, E.~G. \bgroup\sc Schukat-Talamazzini\egroup{}
  \andname{} H.~\bgroup\sc Niemann\egroup{}.
\newblock \og Integrating Large Context Language Models into a Real Time Word
  Recognizer\fg.
\newblock \Inname{} {\em Proc. of the 3rd Slovenian-German and the 2nd SDRV
  Workshop}, Ljubljana, Slov�nie, 1996.

\bibitem[GT04]{Gardes04}
J.~\bgroup\sc Gardes~Tamine\egroup{}.
\newblock {\em Pour une grammaire de l'�crit}.
\newblock Paris~: Belin, 2004.

\bibitem[Gu�05]{Guenot05}
M.-L. \bgroup\sc Gu�not\egroup{}.
\newblock \og Parsing de l'oral~: traiter les disfluences\fg.
\newblock \Inname{} {\em Actes de la 12�me conf�rence sur le Traitement
  Automatique des Langues Naturelles (TALN)}, \volumename{}~1, Dourdan, France,
  2005.

\bibitem[GW98]{Gillett98}
J.~\bgroup\sc Gillett\egroup{} \andname{} W.~\bgroup\sc Ward\egroup{}.
\newblock \og A Language Model Combining Trigrams and Stochastic Context-Free
  Grammars\fg.
\newblock \Inname{} {\em Proc. of the 5th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~6, Sydney, Australie, 1998.

\bibitem[Hee99]{Heeman99}
P.~A. \bgroup\sc Heeman\egroup{}.
\newblock \og {POS} Tags and Decision Trees for Language Modeling\fg.
\newblock \Inname{} {\em Proc. of the Joint SIGDAT Conference on Empirical
  Methods in Natural Language Processing and Very Large Corpora}, College Park,
  Maryland, �tats-Unis, 1999.

\bibitem[Hen02a]{Henry02}
S.~\bgroup\sc Henry\egroup{}.
\newblock \og Quelles r�p�titions � l'oral~? Esquisse d'une typologie\fg.
\newblock \Inname{} {\em Actes des 2�mes Journ�es de Linguistique de Corpus},
  Lorient, France, 2002.

\bibitem[Hen02b]{Henry02a}
S.~\bgroup\sc Henry\egroup{}.
\newblock \og �tude des r�p�titions en fran�ais parl� spontan� pour les
  technologies de la parole\fg.
\newblock \Inname{} {\em Actes de la 6�me Rencontre des �tudiants Chercheurs en
  Informatique pour le Traitement Automatique des Langues (RECITAL)}, Nancy,
  France, 2002.

\bibitem[HH95]{Harper95}
M.~P. \bgroup\sc Harper\egroup{} \andname{} R.~A. \bgroup\sc
  Helzerman\egroup{}.
\newblock \og Extensions to Constraint Dependency Parsing for Spoken Language
  Processing\fg.
\newblock {\em Computer Speech and Language}, \pagesname{} 187--234, 1995.

\bibitem[HJ04]{Hall04}
K.~\bgroup\sc Hall\egroup{} \andname{} M.~\bgroup\sc Johnson\egroup{}.
\newblock \og Attention Shifting for Parsing Speech\fg.
\newblock \Inname{} {\em Proc. of the 42nd Meeting of the Association for
  Computational Linguistics (ACL)}, Barcelone, Espagne, 2004.

\bibitem[HJJ{\etalchar{+}}99]{Harper99}
M.~P. \bgroup\sc Harper\egroup{}, M.~T. \bgroup\sc Johnson\egroup{}, L.~H.
  \bgroup\sc Jamieson\egroup{}, S.~A. \bgroup\sc Hockema\egroup{} \andname{}
  C.~M. \bgroup\sc White\egroup{}.
\newblock \og Interfacing a CDG Parser with an HMM Word Recognizer Using Word
  Graphs\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~2, Phoenix,
  Arizona, �tats-Unis, 1999.

\bibitem[HJM{\etalchar{+}}94]{Harper94}
M.~P. \bgroup\sc Harper\egroup{}, L.~H. \bgroup\sc Jamieson\egroup{}, C.~D.
  \bgroup\sc Mitchell\egroup{}, G.~\bgroup\sc Ying\egroup{}, S.~\bgroup\sc
  Potisuk\egroup{}, P.~N. \bgroup\sc Srinivasan\egroup{}, R.~\bgroup\sc
  Chen\egroup{}, C.~B. \bgroup\sc Zoltowski\egroup{}, L.~L. \bgroup\sc
  McPheters\egroup{}, B.~\bgroup\sc Pellom\egroup{} \andname{} R.~A. \bgroup\sc
  Helzerman\egroup{}.
\newblock \og Integrating Language Models with Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the AAAI94 Workshop on the Integration of
  Natural Language and Speech Processing}, Seattle, Washington, �tats-Unis,
  1994.

\bibitem[HP03]{Henry03}
S.~\bgroup\sc Henry\egroup{} \andname{} B.~\bgroup\sc Pallaud\egroup{}.
\newblock \og Word Fragments and Repeats in Spontaneous Spoken French\fg.
\newblock \Inname{} {\em Proceedings of Disfluency in Spontaneous Speech
  Workshop (DISS)}, G�teborg, Su�de, 2003.

\bibitem[HW94]{Hauenstein94}
A.~\bgroup\sc Hauenstein\egroup{} \andname{} H.~\bgroup\sc Weber\egroup{}.
\newblock \og An Investigation of Tightly-Coupled Time-Synchronous Speech
  Language Understanding Using a Unification Grammar\fg.
\newblock \Inname{} {\em Proc. of the 12th National Conference on Artificial
  Intelligence Workshop on the Integration of Natural Language and Speech
  Processing}, Seattle, Washington, �tats-Unis, 1994.

\bibitem[IM94]{Isotani94}
R.~\bgroup\sc Isotani\egroup{} \andname{} S.~\bgroup\sc Matsunaga\egroup{}.
\newblock \og Speech Recognition Using a Stochastic Language Model Integrating
  Local and Global Constraints\fg.
\newblock \Inname{} {\em Proc. of the ARPA SLT Workshop}, 1994.

\bibitem[IO99]{Iyer99}
R.~\bgroup\sc Iyer\egroup{} \andname{} M.~\bgroup\sc Ostendorf\egroup{}.
\newblock \og Modeling Long Distance Dependence in Language: Topic Mixtures
  \textit{versus} Dynamic Cache Models\fg.
\newblock {\em IEEE Transactions on Speech and Audio Processing}, 7(1):30--39,
  1999.

\bibitem[Jar96]{Jardino96}
M.~\bgroup\sc Jardino\egroup{}.
\newblock \og Multilingual Stochastic {N}-Gram Class Language Models\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Atlanta,
  G�orgie, �tats-Unis, 1996.

\bibitem[JC04]{Johnson04b}
M.~\bgroup\sc Johnson\egroup{} \andname{} E.~\bgroup\sc Charniak\egroup{}.
\newblock \og A TAG-Based Noisy Channel Model of Speech Repairs\fg.
\newblock \Inname{} {\em Proc. of the 42nd Annual Meeting of the Association
  for Computational Linguistics (ACL)}, Barcelone, Espagne, 2004.

\bibitem[Jel97]{Jelinek97}
F.~\bgroup\sc Jelinek\egroup{}.
\newblock {\em Statistical Methods for Speech Recognition}.
\newblock The MIT Press, 1997.

\bibitem[JL91]{Jelinek91}
F.~\bgroup\sc Jelinek\egroup{} \andname{} J.~D. \bgroup\sc Lafferty\egroup{}.
\newblock \og Computation of the Probability of Initial Substring Generation by
  Stochastic Context-Free Grammars\fg.
\newblock {\em Computation Linguistics}, 17(3):315--323, 1991.

\bibitem[JM00]{Jurafsky00}
D.~\bgroup\sc Jurafsky\egroup{} \andname{} J.~H. \bgroup\sc Martin\egroup{}.
\newblock {\em Speech and Natural Language Processing: An Introduction to
  Natural Language Processing, Computational Linguistics, and Speech
  Recognition}.
\newblock Prentice-Hall, 2000.

\bibitem[Jou96]{Jouvet96}
D.~\bgroup\sc Jouvet\egroup{}.
\newblock \og Robustesse et flexibilit� en reconnaissance automatique de la
  parole\fg.
\newblock {\em L'�cho des recherches}, 165:25--38, 1996.

\bibitem[JWS{\etalchar{+}}95]{Jurafsky95}
D.~\bgroup\sc Jurafsky\egroup{}, C.~\bgroup\sc Wooters\egroup{}, J.~\bgroup\sc
  Segal\egroup{}, A.~\bgroup\sc Stolcke\egroup{}, E.~\bgroup\sc
  Fosler\egroup{}, G.~\bgroup\sc Tajchman\egroup{} \andname{} N.~\bgroup\sc
  Morgan\egroup{}.
\newblock \og Using a Stochastic Context-Free Grammar as a Language Model for
  Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Detroit,
  Michigan, �tats-Unis, 1995.

\bibitem[Kat87]{Katz87}
S.~M. \bgroup\sc Katz\egroup{}.
\newblock \og Estimation of Probabilities from Sparse Data for the Language
  Model Component of a Speech Recognizer\fg.
\newblock {\em IEEE Transactions on Acoustics, Speech, and Signal Processing},
  35(3):400--401, 1987.

\bibitem[KDM90]{Kuhn90}
R.~\bgroup\sc Kuhn\egroup{} \andname{} R.~\bgroup\sc De~Mori\egroup{}.
\newblock \og A Cache-Based Natural Language Model for Speech Recognition\fg.
\newblock {\em IEEE Transactions on Pattern Analysis and Machine Intelligence},
  12(6):570--583, 1990.

\bibitem[KKS89]{Kita89}
K.~\bgroup\sc Kita\egroup{}, T.~\bgroup\sc Kawabata\egroup{} \andname{}
  H.~\bgroup\sc Saito\egroup{}.
\newblock \og HMM Continuous Speech Recognition Using Predictive LR Parsing\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, Glasgow, Royaume-Uni,
  1989.

\bibitem[KN93]{Kneser93b}
R.~\bgroup\sc Kneser\egroup{} \andname{} H.~\bgroup\sc Ney\egroup{}.
\newblock \og Improved Clustering Techniques for Class-Based Statistical
  Language Modelling\fg.
\newblock \Inname{} {\em Proc. of the 3rd European Conference on Speech
  Communication and Technology (Eurospeech)}, \volumename{}~2, Berlin,
  Allemagne, 1993.

\bibitem[Kne96]{Kneser96}
R.~\bgroup\sc Kneser\egroup{}.
\newblock \og Statistical Language Modeling Using a Variable Context Length\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~1, Philadelphie, Pennsylvanie,
  �tats-Unis, 1996.

\bibitem[KNST94]{Kuhn94}
T.~\bgroup\sc Kuhn\egroup{}, H.~\bgroup\sc Niemann\egroup{} \andname{} E.~G.
  \bgroup\sc Schukat-Talamazzini\egroup{}.
\newblock \og Ergodic Hidden Markov Models and Polygrams for Language\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1,
  Ad�la�de, Australie, 1994.

\bibitem[KR99]{Kuo99}
H.-K.~J. \bgroup\sc Kuo\egroup{} \andname{} W.~\bgroup\sc Reichl\egroup{}.
\newblock \og Phrase-Based Language Models for Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the 6th European Conference on Speech
  Comunication and Technology (Eurospeech)}, Budapest, Hongrie, 1999.

\bibitem[KS93]{Kneser93}
R.~\bgroup\sc Kneser\egroup{} \andname{} V.~\bgroup\sc Steinbiss\egroup{}.
\newblock \og On the Dynamic Adaptation of Stochastic Language Models\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~2,
  Minneapolis, Minnesota, �tats-Unis, 1993.

\bibitem[KW98]{Kemp98}
T.~\bgroup\sc Kemp\egroup{} \andname{} A.~\bgroup\sc Waibel\egroup{}.
\newblock \og Reducing the OOV Rate in Broadcast News Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the 5th International Conference on Spoken
  Language Processing (ICSLP)}, Sydney, Australie, 1998.

\bibitem[KW99]{Khudanpur99}
S.~\bgroup\sc Khudanpur\egroup{} \andname{} J.~\bgroup\sc Wu\egroup{}.
\newblock \og A Maximum Entropy Language Model to Integrate {N}-Grams and Topic
  Dependencies for Conversational Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, Phoenix, Arizona,
  �tats-Unis, 1999.

\bibitem[LBS04]{Linares04}
D.~\bgroup\sc Linares\egroup{}, J.-M. \bgroup\sc Bened�\egroup{} \andname{}
  J.-A. \bgroup\sc S�nchez\egroup{}.
\newblock \og A Hybrid Language Model Based on a Combination of {N}-Grams and
  Stochastic Context-Free Grammars\fg.
\newblock {\em ACM Transactions on Asian Language Information Processing
  (TALIP)}, 3(2):113--127, 2004.

\bibitem[LBSH03]{Langlois03}
D.~\bgroup\sc Langlois\egroup{}, A.~\bgroup\sc Brun\egroup{}, K.~\bgroup\sc
  Sma�li\egroup{} \andname{} J.-P. \bgroup\sc Haton\egroup{}.
\newblock \og �v�nements impossibles en mod�lisation stochastique du
  langage\fg.
\newblock {\em Traitement Automatique des Langues (TAL)}, 44(1):33--61, 2003.

\bibitem[LKMN05]{Lane05}
I.~R. \bgroup\sc Lane\egroup{}, T.~\bgroup\sc Kawahara\egroup{}, T.~\bgroup\sc
  Matsui\egroup{} \andname{} S.~\bgroup\sc Nakamura\egroup{}.
\newblock \og Dialogue Speech Recognition by Combining Hierarchical Topic
  Classification and Language Model Switching\fg.
\newblock {\em IEICE Transactions on Information and Systems},
  E88-D(3):446--454, 2005.

\bibitem[LMW97]{Leech97}
G.~\bgroup\sc Leech\egroup{}, A.~\bgroup\sc McEnery\egroup{} \andname{}
  M.~\bgroup\sc Wynne\egroup{}.
\newblock \og {\em Corpus Annotation}\fg, \chaptername{} Further Levels of
  Annotation, \pagesname{} 85--101.
\newblock London: Longman, 1997.

\bibitem[LSHS04]{Liu04}
Y.~\bgroup\sc Liu\egroup{}, A.~\bgroup\sc Stolcke\egroup{}, M.~P. \bgroup\sc
  Harper\egroup{} \andname{} E.~\bgroup\sc Shriberg\egroup{}.
\newblock \og Comparing and Combining Generative and Posterior Probability
  Models: Some Advances in Sentence Boundary Detection in Speech\fg.
\newblock \Inname{} {\em Proc. of the Conference on Empirical Methods in
  Natural Language Processing (EMNLP)}, Barcelone, Espagne, 2004.

\bibitem[LST92]{Lafferty92}
J.~\bgroup\sc Lafferty\egroup{}, D.~\bgroup\sc Sleator\egroup{} \andname{}
  D.~\bgroup\sc Temperley\egroup{}.
\newblock \og Grammatical Trigrams: A Probabilistic Link Grammar\fg.
\newblock \Inname{} {\em Proc. of the AAAI Fall Symposium on Probabilistic
  Approaches to Natural Language}, Cambridge, Massachusetts, �tats-Unis, 1992.

\bibitem[MAB03]{Mendes03}
A.~\bgroup\sc Mendes\egroup{}, R.~\bgroup\sc Amaro\egroup{} \andname{} M.~F.
  \bgroup\sc {Bacelar do Nascimento}\egroup{}.
\newblock \og Reusing Available Resources for Tagging a Spoken Portuguese
  Corpus\fg.
\newblock \Inname{} {\em Proc. of the Workshop on Tagging and Shallow
  Processing of Portuguese (TASHA)}, Lisbonne, Portugal, 2003.

\bibitem[MBS00]{Mangu00}
L.~\bgroup\sc Mangu\egroup{}, E.~\bgroup\sc Brill\egroup{} \andname{}
  A.~\bgroup\sc Stolcke\egroup{}.
\newblock \og Finding Consensus in Speech Recognition: Word Error Minimization
  and Other Applications of Confusion Networks\fg.
\newblock {\em Computer Speech and Language}, 14(4):373--400, 2000.

\bibitem[Mel00]{Melis00}
L.~\bgroup\sc Melis\egroup{}.
\newblock \og Le fran�ais parl� et le fran�ais �crit, une opposition �
  g�om�trie variable\fg.
\newblock {\em Romaneske}, 25(3):56--66, 2000.

\bibitem[MG03]{Moreno03}
A.~\bgroup\sc Moreno\egroup{} \andname{} J.~M. \bgroup\sc Guirao\egroup{}.
\newblock \og Tagging a Spontaneous Speech Corpus of Spanish\fg.
\newblock \Inname{} {\em Proc. of Recent Advances in Natural Language
  Processing (RANLP)}, Borovets, Bulgarie, 2003.

\bibitem[MI96]{Meteer96}
M.~\bgroup\sc Meteer\egroup{} \andname{} R.~\bgroup\sc Iyer\egroup{}.
\newblock \og Modeling Conversational Speech for Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the Conference on Empirical Methods in
  Natural Language Processing (EMNLP)}, Philadelphie, Pennsylvanie, �tats-Unis,
  1996.

\bibitem[MLN97]{Martin97}
S.~C. \bgroup\sc Martin\egroup{}, J.~\bgroup\sc Liermann\egroup{} \andname{}
  H.~\bgroup\sc Ney\egroup{}.
\newblock \og Adaptive Topic Dependent Language Modelling Using Word-Based
  Varigrams\fg.
\newblock \Inname{} {\em Proc. of the 5th European Conference on Speech
  Communication and Technology (Eurospeech)}, Rhodes, Gr�ce, 1997.

\bibitem[MM92]{Maltese92}
G.~\bgroup\sc Maltese\egroup{} \andname{} F.~\bgroup\sc Mancini\egroup{}.
\newblock \og An Automatic Technique to Include Grammatical and Morphological
  Information in a Trigram-Based Statistical Language Model\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, San
  Francisco, Californie, �tats-Unis, 1992.

\bibitem[Moo99]{Moore99}
R.~C. \bgroup\sc Moore\egroup{}.
\newblock \og {\em Computational Models of Speech Pattern Processing}\fg,
  \chaptername{} Using Natural-Language Knowledge Sources in Speech
  Recognition, \pagesname{} 304--327.
\newblock Springer-Verlag, 1999.

\bibitem[MPM89]{Moore89}
R.~\bgroup\sc Moore\egroup{}, F.~\bgroup\sc Pereira\egroup{} \andname{}
  H.~\bgroup\sc Murveit\egroup{}.
\newblock \og Integrating Speech and Natural-Language Processing\fg.
\newblock \Inname{} {\em Proc. of the DARPA Speech and Natural Language
  Workshop}, Philadelphie, Pennsylvanie, �tats-Unis, 1989.

\bibitem[MSZ02]{Mou02}
X.~\bgroup\sc Mou\egroup{}, S.~\bgroup\sc Seneff\egroup{} \andname{}
  V.~\bgroup\sc Zue\egroup{}.
\newblock \og Integration of Supra-Lexical Linguistic Models with Speech
  Recognition Using Shallow Parsing and Finite State Transducers\fg.
\newblock \Inname{} {\em Proc. of the 7th International Conference on Spoken
  Language Processing (ICSLP)}, Denver, Colorado, �tats-Unis, 2002.

\bibitem[NEB{\etalchar{+}}99]{Nasr99}
A.~\bgroup\sc Nasr\egroup{}, Y.~\bgroup\sc Est�ve\egroup{}, F.~\bgroup\sc
  B�chet\egroup{}, T.~\bgroup\sc Spriet\egroup{} \andname{} R.~\bgroup\sc {de
  Mori}\egroup{}.
\newblock \og A Language Model Combining {N}-Grams and Stochastic Finite State
  Automata\fg.
\newblock \Inname{} {\em Proc. of the 6th European Conference on Speech
  Communication and Technology (Eurospeech)}, \volumename{}~5, Budapest,
  Hongrie, 1999.

\bibitem[NG01]{Nivre01}
J.~\bgroup\sc Nivre\egroup{} \andname{} L.~\bgroup\sc Gr�nqvist\egroup{}.
\newblock \og Tagging a Corpus of Spoken Swedish\fg.
\newblock {\em International Journal of Corpus Linguistics}, 6(1):47--78, 2001.

\bibitem[NW96a]{Niesler96}
T.~R. \bgroup\sc Niesler\egroup{} \andname{} P.~C. \bgroup\sc
  Woodland\egroup{}.
\newblock \og Combination of Word-Based and Category-Based Language Models\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~1, Philadelphie, Pennsylvanie,
  �tats-Unis, 1996.

\bibitem[NW96b]{Niesler96b}
T.~R. \bgroup\sc Niesler\egroup{} \andname{} P.~C. \bgroup\sc
  Woodland\egroup{}.
\newblock \og A Variable-Length Category-Based {N}-Gram Language Model\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Atlanta,
  G�orgie, �tats-Unis, 1996.

\bibitem[NWW98]{Niesler98}
T.~R. \bgroup\sc Niesler\egroup{}, E.~W.~D. \bgroup\sc Whittaker\egroup{}
  \andname{} P.~C. \bgroup\sc Woodland\egroup{}.
\newblock \og Comparison of Part-of-Speech and Automatically Derived
  Category-Based Language Models for Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, Seattle, Washington,
  �tats-Unis, 1998.

\bibitem[ONA97]{Ortmanns97}
S.~\bgroup\sc Ortmanns\egroup{}, H.~\bgroup\sc Ney\egroup{} \andname{}
  X.~\bgroup\sc Aubert\egroup{}.
\newblock \og A Word Graph Algorithm for Large Vocabulary Continuous Speech
  Recognition\fg.
\newblock {\em Computer, Speech and Language}, 11(1):43--72, 1997.

\bibitem[Pal03]{Pallett03}
D.~S. \bgroup\sc Pallett\egroup{}.
\newblock \og A Look at NIST's Benchmark ASR Tests: Past, Present, and
  Future\fg.
\newblock \Inname{} {\em Proc. of the IEEE Workshop Automatic Speech
  Recognition and Understanding}, St. Thomas, �les Vierges, �tats-Unis, 2003.

\bibitem[PH04]{Pallaud04}
B.~\bgroup\sc Pallaud\egroup{} \andname{} S.~\bgroup\sc Henry\egroup{}.
\newblock \og Amorces de mots et r�p�titions~: des h�sitations plus que des
  erreurs en fran�ais parl�\fg.
\newblock \Inname{} {\em Actes des 7�mes Journ�es internationales d'Analyse
  statistique des Donn�es Textuelles (JADT)}, Louvain-la-Neuve, Belgique, 2004.

\bibitem[PMVGL03]{Perraud2003}
F.~\bgroup\sc Perraud\egroup{}, E.~\bgroup\sc Morin\egroup{}, C.~\bgroup\sc
  Viard-Gaudin\egroup{} \andname{} P.-M. \bgroup\sc Lallican\egroup{}.
\newblock \og Mod�les {N}-grammes et {N}-classes pour la reconnaissance de
  l'�criture manuscrite en-ligne\fg.
\newblock {\em Traitement Automatique des Langues (TAL)}, 44(1):63--92, 2003.

\bibitem[Pol03]{Polguere03}
A.~\bgroup\sc Polgu�re\egroup{}.
\newblock {\em Lexicologie et s�mantique lexicale~: notions fondamentales}.
\newblock Les Presses de l'Universit� de Montr�al, 2003.

\bibitem[PPM04]{Panunzi04}
A.~\bgroup\sc Panunzi\egroup{}, E.~\bgroup\sc Picchi\egroup{} \andname{}
  M.~\bgroup\sc Moneglia\egroup{}.
\newblock \og Using PiTagger for Lemmatization and PoS Tagging of a Spontaneous
  Speech Corpus: C-Oral-Rom Italian\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Language
  Resources and Evaluation (LREC)}, \volumename{}~2, Lisbonne, Portugal, 2004.

\bibitem[PS01]{Peng01}
F.~\bgroup\sc Peng\egroup{} \andname{} D.~\bgroup\sc Schuurmans\egroup{}.
\newblock \og A Simple Closed-Class/Open-Class Factorization for Language
  Modeling\fg.
\newblock \Inname{} {\em Proc. of the 6th Natural Language Processing Pacific
  Rim Symposium (NLPRS)}, Tokyo, Japon, 2001.

\bibitem[Rab89]{Rabiner89}
L.~\bgroup\sc Rabiner\egroup{}.
\newblock \og A Tutorial on Hidden Markov Models and Selected Applications in
  Speech Recognition\fg.
\newblock {\em Proc. of the IEEE}, 77(2):257--285, 1989.

\bibitem[RBW96]{RIes96}
K.~\bgroup\sc Ries\egroup{}, F.~D. \bgroup\sc Bu�\egroup{} \andname{}
  A.~\bgroup\sc Waibel\egroup{}.
\newblock \og Class Phrase Models for Language Modeling\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~1, Philadelphie, Pennsylvanie,
  �tats-Unis, 1996.

\bibitem[Roa01]{Roark01}
B.~\bgroup\sc Roark\egroup{}.
\newblock \og Probabilistic Top-Down Parsing and Language Modelling\fg.
\newblock {\em Computational Linguistics}, 27(2):249--276, 2001.

\bibitem[Ros94]{Rosenfeld94}
R.~\bgroup\sc Rosenfeld\egroup{}.
\newblock \og A Hybrid Approach to Adaptive Statistical Language Modeling\fg.
\newblock \Inname{} {\em Proc. of the ARPA Workshop on Human Language
  Technology}, Plainsboro, New Jersey, �tats-Unis, 1994.

\bibitem[Ros96]{Rosenfeld96}
R.~\bgroup\sc Rosenfeld\egroup{}.
\newblock \og A Maximum Entropy Approach to Adaptive Statistical Language
  Modeling\fg.
\newblock {\em Computer, Speech and Language}, 10:187--228, 1996.

\bibitem[Ros00a]{Rosenfeld00b}
R.~\bgroup\sc Rosenfeld\egroup{}.
\newblock \og Incorporating Linguistic Structure into Statistical Language
  Models\fg.
\newblock {\em Philosophical Transactions: Mathematical, Physical and
  Engineering Sciences}, 358:1311--1324, 2000.

\bibitem[Ros00b]{Rosenfeld00}
R.~\bgroup\sc Rosenfeld\egroup{}.
\newblock \og Two Decades of Statistical Language Modeling: Where do we Go from
  Here?\fg.
\newblock {\em Proc. of the IEEE}, 88(8):1270--1278, 2000.

\bibitem[SA90]{Schwartz90}
R.~\bgroup\sc Schwartz\egroup{} \andname{} S.~\bgroup\sc Austin\egroup{}.
\newblock \og Efficient, High-Performance Algorithms for N-Best Search\fg.
\newblock \Inname{} {\em Proc. of the DARPA Speech and Natural Language
  Workshop}, Hidden Valley, Pennsylvanie, �tats-Unis, 1990.

\bibitem[Sch94]{Schmid94}
H.~\bgroup\sc Schmid\egroup{}.
\newblock \og Probabilistic Part-of-Speech Tagging Using Decision Trees\fg.
\newblock \Inname{} {\em Proc. of the International Conference on New Methods
  in Language Processing}, Manchester, Royaume-Uni, 1994.

\bibitem[Sch95]{Schmid95}
H.~\bgroup\sc Schmid\egroup{}.
\newblock \og Improvements in Part-of-Speech Tagging with an Application to
  German\fg.
\newblock \Inname{} {\em Proc. of the ACL SIGDAT Workshop}, Dublin, Irlande,
  1995.

\bibitem[SCL92]{Su92}
K.-Y. \bgroup\sc Su\egroup{}, T.-H. \bgroup\sc Chiang\egroup{} \andname{} Y.-C.
  \bgroup\sc Lin\egroup{}.
\newblock \og A Unified Framework to Incorporate Speech and Language
  Information in Spoken Language Processing\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, San
  Francisco, Californie, �tats-Unis, 1992.

\bibitem[Sen92]{Seneff92}
S.~\bgroup\sc Seneff\egroup{}.
\newblock \og TINA: a Natural Language System for Spoken Language
  Applications\fg.
\newblock {\em Computational Linguistics}, 18(1):61--86, 1992.

\bibitem[SG04]{Schwenk04}
H.~\bgroup\sc Schwenk\egroup{} \andname{} J.-L. \bgroup\sc Gauvain\egroup{}.
\newblock \og Neural Network Language Models for Conversational Speech
  Recognition\fg.
\newblock \Inname{} {\em Proc. of the 8th International Conference on Spoken
  Language Processing (ICSLP)}, �le de Jeju, Cor�e du Sud, 2004.

\bibitem[Shr94]{Shriberg94}
E.~\bgroup\sc Shriberg\egroup{}.
\newblock \og {\em Preliminaries to a Theory of Speech Disfluencies}\fg.
\newblock \thesename{}, University of California, Berkeley, Californie,
  �tats-Unis, 1994.

\bibitem[Shr01]{Shriberg01}
E.~\bgroup\sc Shriberg\egroup{}.
\newblock \og To ``Errrr'' is Human: Ecology and Acoustics of Speech
  Disfluencies\fg.
\newblock {\em Journal of the International Phonetic Association},
  31(1):153--169, 2001.

\bibitem[SMZ95]{Seneff95}
S.~\bgroup\sc Seneff\egroup{}, M.~\bgroup\sc McCandless\egroup{} \andname{}
  V.~\bgroup\sc Zue\egroup{}.
\newblock \og Integrating Natural Language into the Word Graph Search for
  Simultaneous Speech Recognition and Understanding\fg.
\newblock \Inname{} {\em Proc. of the 4th European Conference on Speech
  Communication and Technology (Eurospeech)}, Madrid, Espagne, 1995.

\bibitem[SO96]{Siu96}
M.-H. \bgroup\sc Siu\egroup{} \andname{} M.~\bgroup\sc Ostendorf\egroup{}.
\newblock \og Modeling Disfluencies in Conversational Speech\fg.
\newblock \Inname{} {\em Proc. of the 4th International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~1, Philadelphie, Pennsylvanie,
  �tats-Unis, 1996.

\bibitem[SO00]{Siu00}
M.-H. \bgroup\sc Siu\egroup{} \andname{} M.~\bgroup\sc Ostendorf\egroup{}.
\newblock \og Variable {N}-Grams and Extensions for Conversational Speech
  Language Modeling\fg.
\newblock {\em IEEE Transactions on Speech and Audio Processing}, 8(1):63--75,
  2000.

\bibitem[SR97]{Seymore97}
K.~\bgroup\sc Seymore\egroup{} \andname{} R.~\bgroup\sc Rosenfeld\egroup{}.
\newblock \og Using Story Topics for Language Model Adaptation\fg.
\newblock \Inname{} {\em Proc. of the 5th European Conference on Speech
  Communication and Technology (Eurospeech)}, Rhodes, Gr�ce, 1997.

\bibitem[SR99]{Samuelsson99}
C.~\bgroup\sc Samuelsson\egroup{} \andname{} W.~\bgroup\sc Reichl\egroup{}.
\newblock \og Class-Based Language Model for Large-Vocabulary Speech
  Recognition Extracted from Part-of-Speech Statistics\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Phoenix,
  Arizona, �tats-Unis, 1999.

\bibitem[SS94]{Stolcke94}
A.~\bgroup\sc Stolcke\egroup{} \andname{} J.~\bgroup\sc Segal\egroup{}.
\newblock \og Precise {N}-Gram Probabilities from Stochastic Context-Free
  Grammars\fg.
\newblock \Inname{} {\em Proc. of the 32nd Annual Meeting of the Association
  for Computational Linguistics (ACL)}, Las Cruces, Nouveau Mexique,
  �tats-Unis, 1994.

\bibitem[SS96]{Stolcke96b}
A.~\bgroup\sc Stolcke\egroup{} \andname{} E.~\bgroup\sc Shriberg\egroup{}.
\newblock \og Statistical Language Modeling for Speech Disfluencies\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Atlanta,
  G�orgie, �tats-Unis, 1996.

\bibitem[STHKN95]{Schukat95}
E.~G. \bgroup\sc Schukat-Talamazzini\egroup{}, R.~\bgroup\sc Hendrych\egroup{},
  R.~\bgroup\sc Kompe\egroup{} \andname{} H.~\bgroup\sc Niemann\egroup{}.
\newblock \og Permugram Language Models\fg.
\newblock \Inname{} {\em Proc. of the 4th European Conference on Speech
  Communication and Technology (Eurospeech)}, \volumename{}~3, Madrid, Espagne,
  1995.

\bibitem[Sto95]{Stolcke95}
A.~\bgroup\sc Stolcke\egroup{}.
\newblock \og An Efficient Probabilistic Context-Free Parsing Algorithm that
  Computes Prefix Probabilities\fg.
\newblock {\em Computational Linguistics}, 21(2):165--202, 1995.

\bibitem[Sto97]{Stolcke97}
A.~\bgroup\sc Stolcke\egroup{}.
\newblock \og Linguistic Knowledge and Empirical Methods in Speech Recognition
  - Natural Language Processing\fg.
\newblock {\em AI Magazine}, 18(4), 1997.

\bibitem[Str03]{Strassel03}
S.~\bgroup\sc Strassel\egroup{}.
\newblock \og {\em Simple Metadata Annotation Specification. Version 5.0}\fg.
\newblock Linguistic Data Consortium, 2003.

\bibitem[SW94]{Suhm94}
B.~\bgroup\sc Suhm\egroup{} \andname{} A.~\bgroup\sc Waibel\egroup{}.
\newblock \og Towards Better Language Models for Spontaneous Speech\fg.
\newblock \Inname{} {\em Proc. of the 3rd International Conference on Spoken
  Language Processing (ICSLP)}, \volumename{}~2, Yokohama, Japon, 1994.

\bibitem[SWH03]{Seneff03}
S.~\bgroup\sc Seneff\egroup{}, C.~\bgroup\sc Wang\egroup{} \andname{} T.~J.
  \bgroup\sc Hazen\egroup{}.
\newblock \og Automatic Induction of {N}-Gram Language Models from a Natural
  Language Grammar\fg.
\newblock \Inname{} {\em Proc. of the 8th European Conference on Speech
  Communication and Technology (Eurospeech)}, Gen�ve, Suisse, 2003.

\bibitem[TK95]{Tamoto95}
M.~\bgroup\sc Tamoto\egroup{} \andname{} T.~\bgroup\sc Kawabata\egroup{}.
\newblock \og Clustering Word Category Based on Binomial Posteriori
  Cooccurrence Distribution\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, Detroit, Michigan,
  �tats-Unis, 1995.

\bibitem[TN97]{Tillmann97}
C.~\bgroup\sc Tillmann\egroup{} \andname{} H.~\bgroup\sc Ney\egroup{}.
\newblock \og Word Triggers and the EM Algorithm\fg.
\newblock \Inname{} {\em Proc. of the Workshop Computational Natural Language
  Learning (CoNLL 97)}, Madrid, Espagne, 1997.

\bibitem[UNY{\etalchar{+}}02]{Uchimoto02}
K.~\bgroup\sc Uchimoto\egroup{}, C.~\bgroup\sc Nobata\egroup{}, A.~\bgroup\sc
  Yamada\egroup{}, S.~\bgroup\sc Sekine\egroup{} \andname{} H.~\bgroup\sc
  Isahara\egroup{}.
\newblock \og Morphological Analysis of the Spontaneous Speech Corpus\fg.
\newblock \Inname{} {\em Proc. of the 19th International Conference on
  Computational Linguistics (COLING)}, \volumename{}~2, Taipei, Taiwan, 2002.

\bibitem[VAR99]{Vaufreydaz99}
D.~\bgroup\sc Vaufreydaz\egroup{}, M.~\bgroup\sc Akbar\egroup{} \andname{}
  J.~\bgroup\sc Rouillard\egroup{}.
\newblock \og Internet Documents: a Rich Source for Spoken Language
  Modeling\fg.
\newblock \Inname{} {\em Proc. of the IEEE Workshop Automatic Speech
  Recognition and Understanding (ASRU)}, Keystone, Colorado, �tats-Unis, 1999.

\bibitem[VEZD00]{VanEynde00}
F.~\bgroup\sc Van~Eynde\egroup{}, J.~\bgroup\sc Zavrel\egroup{} \andname{}
  W.~\bgroup\sc Daelemans\egroup{}.
\newblock \og Part of Speech Tagging and Lemmatisation for the Spoken Dutch
  Corpus\fg.
\newblock \Inname{} {\em Proc. of the Conference on Language Resources and
  Evaluation (LREC)}, Ath�nes, Gr�ce, 2000.

\bibitem[VKDS04]{Vergyri04}
D.~\bgroup\sc Vergyri\egroup{}, K.~\bgroup\sc Kirchhoff\egroup{}, K.~\bgroup\sc
  Duh\egroup{} \andname{} A.~\bgroup\sc Stolcke\egroup{}.
\newblock \og Morphology-Based Language Modeling for Arabic Speech
  Recognition\fg.
\newblock \Inname{} {\em Proc. of the 8th International Conference on Spoken
  Language Processing (ICSLP)}, �le de Jeju, Cor�e du Sud, 2004.

\bibitem[VV99]{Valli99}
A.~\bgroup\sc Valli\egroup{} \andname{} J.~\bgroup\sc V�ronis\egroup{}.
\newblock \og �tiquetage grammatical de corpus oraux~: probl�mes et
  perspectives\fg.
\newblock {\em Revue fran�aise de linguistique appliqu�e}, 4(2):113--133, 1999.

\bibitem[V�r04]{Veronis04}
J.~\bgroup\sc V�ronis\egroup{}.
\newblock \og Le traitement automatique des corpus oraux\fg.
\newblock {\em TAL}, 45(2):7--14, 2004.

\bibitem[WH02]{Wang02b}
W.~\bgroup\sc Wang\egroup{} \andname{} M.~P. \bgroup\sc Harper\egroup{}.
\newblock \og The SuperARV Language Model: Investigating the Effectiveness of
  Tightly Integrating Multiple Knowledge Sources\fg.
\newblock \Inname{} {\em Proc. of the Empirical Methods in Natural Language
  Processing Conference (EMNLP)}, Philadelphie, Pennsylvanie, �tats-Unis, 2002.

\bibitem[WHS03]{Wang03}
W.~\bgroup\sc Wang\egroup{}, M.~P. \bgroup\sc Harper\egroup{} \andname{}
  A.~\bgroup\sc Stolcke\egroup{}.
\newblock \og The Robustness of an Almost-Parsing Language Model Given Errorful
  Training Data\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Hong
  Kong, Chine, 2003.

\bibitem[WK99]{Wu99}
J.~\bgroup\sc Wu\egroup{} \andname{} S.~\bgroup\sc Khudanpur\egroup{}.
\newblock \og Combining Nonlocal, Syntactic and {N}-Gram Dependencies in
  Language Modeling\fg.
\newblock \Inname{} {\em Proc. of the 5th European Conference on Speech
  Communication and Technology (Eurospeech)}, Budapest, Hongrie, 1999.

\bibitem[WLH02]{Wang02}
W.~\bgroup\sc Wang\egroup{}, Y.~\bgroup\sc Liu\egroup{} \andname{} M.~P.
  \bgroup\sc Harper\egroup{}.
\newblock \og Rescoring Effectiveness of Language Models Using Different Levels
  of Knowledge and their Integration\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Orlando,
  Florida, �tats-Unis, 2002.

\bibitem[WMH00]{Wang00}
Y.-Y. \bgroup\sc Wang\egroup{}, M.~\bgroup\sc Mahajan\egroup{} \andname{}
  X.~\bgroup\sc Huang\egroup{}.
\newblock \og A Unified Context-Free Grammar and {N}-Gram Model for Spoken
  Language Processing\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~3,
  Istanbul, Turquie, 2000.

\bibitem[WSH04]{Wang04}
W.~\bgroup\sc Wang\egroup{}, A.~\bgroup\sc Stolcke\egroup{} \andname{} M.~P.
  \bgroup\sc Harper\egroup{}.
\newblock \og The Use of a Linguistically Motivated Language Model in
  Conversational Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1,
  Montr�al, Canada, 2004.

\bibitem[WW01]{Whittaker01}
E.~W.~D. \bgroup\sc Whittaker\egroup{} \andname{} P.~C. \bgroup\sc
  Woodland\egroup{}.
\newblock \og Efficient Class-Based Language Modelling for Very Large
  Vocabularies\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Salt
  Lake City, Utah, �tats-Unis, 2001.

\bibitem[YS99]{Yamamoto99}
H.~\bgroup\sc Yamamoto\egroup{} \andname{} Y.~\bgroup\sc Sagisaka\egroup{}.
\newblock \og Multi-Class Composite {N}-Gram Based on Connection Direction\fg.
\newblock \Inname{} {\em Proc. of the IEEE International Conference on
  Acoustics, Speech, and Signal Processing (ICASSP)}, \volumename{}~1, Phoenix,
  Arizona, �tats-Unis, 1999.

\bibitem[ZW98]{Zechner98}
K.~\bgroup\sc Zechner\egroup{} \andname{} A.~\bgroup\sc Waibel\egroup{}.
\newblock \og Using Chunk Based Partial Parsing of Spontaneous Speech in
  Unrestricted Domains for Reducing Word Error Rate in Speech Recognition\fg.
\newblock \Inname{} {\em Proc. of the 36th Annual Meeting of the Association
  for Computational Linguistics and the 17th International Conference on
  Computational Linguistics (COLING-ACL)}, Montr�al, Canada, 1998.

\bibitem[�D04]{delic04}
�quipe \bgroup\sc {DELIC}\egroup{}.
\newblock \og Pr�sentation du corpus de r�f�rence du fran�ais parl�\fg.
\newblock {\em Recherches sur le fran�ais parl�}, 18, 2004.

\end{thebibliography}
