Cours TIC 1 [PDF]

Zitiervorschau

´ Theorie de l’information et du codage Mohamed BOULOUIRD ` Genie ´ ´ ´ ecommunications ´ Filiere Reseaux & Tel ´ Ecole Nationale des Sciences Appliquees Universite´ Cadi Ayyad Marrakech

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

1 / 27

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

2 / 27

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

2 / 27

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

2 / 27

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

2 / 27

Introduction

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

3 / 27

Introduction

´ Theorie des communications ´ ´ Une theorie qui s’interesse aux moyens de transmettre une information depuis une source jusqu’a` un utilisateur. ´ ´ ´ eral ´ d’un systeme ` La figure suivante presente le schema gen de ´ ´ communication defini comme un dispositif physique realisant ´ l’acheminement d’un message d’une source (Expediteur) a` un utilisateur (Destinataire).

´ ` Schema d’un systeme de communication

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

4 / 27

Introduction

´ Les blocs du schema La source ˆ ` variee. ´ La nature de la source peut-etre tres Il peut s’agir par exemple:

d’une voix ´ ´ d’un signal electromagn etique ´ d’une sequence de symboles binaires (bits)

Le canal ˆ Le canal peut-etre: ´ ephonique ´ ˆ une ligne tel (cable) une liaison radio (voie Hertzienne) un support optique (fibre optique) ´ ´ Dans notre cas, le canal n’est pas examine´ du point de vue de sa realisation materielle ´ On s’interesse a` la quantite´ d’information qu’il peut transmettre (le canal) et aux ´ perturbations aleatoires (bruit) qu’il subit. ´ Le bruit dependra de l’environnement et de la nature du canal: ´ Perturbations electriques, rayures, ... TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

5 / 27

Introduction

´ Les blocs du schema La source ˆ ` variee. ´ La nature de la source peut-etre tres Il peut s’agir par exemple:

d’une voix ´ ´ d’un signal electromagn etique ´ d’une sequence de symboles binaires (bits)

Le canal ˆ Le canal peut-etre: ´ ephonique ´ ˆ une ligne tel (cable) une liaison radio (voie Hertzienne) un support optique (fibre optique) ´ ´ Dans notre cas, le canal n’est pas examine´ du point de vue de sa realisation materielle ´ On s’interesse a` la quantite´ d’information qu’il peut transmettre (le canal) et aux ´ perturbations aleatoires (bruit) qu’il subit. ´ Le bruit dependra de l’environnement et de la nature du canal: ´ Perturbations electriques, rayures, ... TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

5 / 27

Introduction

´ Les blocs du schema Le codeur ´ ´ ´ sur la sortie de la source avant la Ce bloc represente l’ensemble des operations effectuees transmission ´ ˆ Ces operations peuvent etre: la modulation, la compression, l’ajout d’une redondance pour combattre les effets du bruit, ... Elles ont pour but de rendre la sortie de la source compatible avec le canal ´ Le decodeur ´ ˆ Le decodeur devra etre capable, a` partir de la sortie du canal, de restituer de fac¸on acceptable l’information fournie par la source ´ ´ par ce bloc: la demodulation, ´ ´ Parmis les operations effectuees le decodage, ... L’utilisateur ´ ement ´ L’utilisateur est le dernier el de la chaˆıne qui va reconstituer et exploiter le message ˆ ´ e´ que de maniere ` probabiliste: Un message Le message rec¸u ne peut etre caracteris ` ´ a` connu du destinataire, n’a en effet pas besoin d’etre ˆ certain, c’est-a-dire dej transmis.

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

6 / 27

Introduction

´ Les blocs du schema Le codeur ´ ´ ´ sur la sortie de la source avant la Ce bloc represente l’ensemble des operations effectuees transmission ´ ˆ Ces operations peuvent etre: la modulation, la compression, l’ajout d’une redondance pour combattre les effets du bruit, ... Elles ont pour but de rendre la sortie de la source compatible avec le canal ´ Le decodeur ´ ˆ Le decodeur devra etre capable, a` partir de la sortie du canal, de restituer de fac¸on acceptable l’information fournie par la source ´ ´ par ce bloc: la demodulation, ´ ´ Parmis les operations effectuees le decodage, ... L’utilisateur ´ ement ´ L’utilisateur est le dernier el de la chaˆıne qui va reconstituer et exploiter le message ˆ ´ e´ que de maniere ` probabiliste: Un message Le message rec¸u ne peut etre caracteris ` ´ a` connu du destinataire, n’a en effet pas besoin d’etre ˆ certain, c’est-a-dire dej transmis.

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

6 / 27

Introduction

´ Les blocs du schema Le codeur ´ ´ ´ sur la sortie de la source avant la Ce bloc represente l’ensemble des operations effectuees transmission ´ ˆ Ces operations peuvent etre: la modulation, la compression, l’ajout d’une redondance pour combattre les effets du bruit, ... Elles ont pour but de rendre la sortie de la source compatible avec le canal ´ Le decodeur ´ ˆ Le decodeur devra etre capable, a` partir de la sortie du canal, de restituer de fac¸on acceptable l’information fournie par la source ´ ´ par ce bloc: la demodulation, ´ ´ Parmis les operations effectuees le decodage, ... L’utilisateur ´ ement ´ L’utilisateur est le dernier el de la chaˆıne qui va reconstituer et exploiter le message ˆ ´ e´ que de maniere ` probabiliste: Un message Le message rec¸u ne peut etre caracteris ` ´ a` connu du destinataire, n’a en effet pas besoin d’etre ˆ certain, c’est-a-dire dej transmis.

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

6 / 27

Histoire du TIC

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

7 / 27

Histoire du TIC

Shannon 1948 ´ ´ ´ C’est une theorie mathematique qui decrit les aspects les plus ` fondamentaux des systemes de communication ´ e´ developp ´ ´ par C. E. Shannon dans un article intitule: ´ Elle a et ee “A Mathematical theory of communication” publie´ en 1948 ´ ´ ´ ` Cette theorie s’interesse a` la construction et a` l’etude de modeles ´ ´ mathematiques, a` l’aide essentiellement de la theorie des ´ qui permettent la mesure quantitative de cette probabilites, notion abstraite d’information ´ Cette theorie est devenue aujourd’hui incontournable dans la ` conception de tout systeme de communication ´ ` ´ Dans le but de simplifier l’etude des systemes de communication, nous etudierons ´ ´ ` ` ´ separ ement les modeles de sources et les modeles de canaux =⇒ Cette separation ´ nous permettra de traiter independamment la source et le canal et n’implique aucune ` limitation sur les performances du systeme. TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

8 / 27

Sources

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

9 / 27

Sources

´ Definition

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

10 / 27

Sources

´ Definition

´ ` Definition et modeles ´ Definition ´ enement ´ Une source d’information est un objet qui produit un ev ´ ´ ´ ´ dont le resultat aleatoire depend d’une loi de repartition probabiliste ` En pratique, la source d’information d’un systeme de ` discret ou communication produit des messages de caractere analogique ` Modeles de sources ` ˆ ´ Plusieurs modeles de sources peuvent etre envisages: ` ´ Sources discretes sans memoire ` ´ Sources discretes avec memoire Sources analogiques TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

11 / 27

Sources

´ Definition

´ ` Definition et modeles ´ Definition ´ enement ´ Une source d’information est un objet qui produit un ev ´ ´ ´ ´ dont le resultat aleatoire depend d’une loi de repartition probabiliste ` En pratique, la source d’information d’un systeme de ` discret ou communication produit des messages de caractere analogique ` Modeles de sources ` ˆ ´ Plusieurs modeles de sources peuvent etre envisages: ` ´ Sources discretes sans memoire ` ´ Sources discretes avec memoire Sources analogiques TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

11 / 27

Sources

SDSM

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

12 / 27

Sources

SDSM

Structure de la SDSM ` sans memoire ´ ´ La sortie d’une source discrete est une sequence ´ dans un alphabet fini {a1 , · · · , aK }. de lettres tirees ´ ´ Chaque lettre de la sequence est statistiquement independante ` une loi de probabilite´ fixe P(a1 ), des autres et obtenue d’apres · · · , P(aK ). Pour toute lettre ak , 1 ≤ k ≤ K , de la source, P(ak ) est la probabilit e´ pour que cette lettre soit produite, nous avons donc PK P(a k) = 1 k=1 ´ ´ Il peut sembler etonnant de modeliser une source d’information a` ´ l’aide d’un processus aleatoire. L’exemple suivant nous montre toutefois que l’utilisation des ´ est indispensable pour coder une information de probabilites fac¸on compacte. TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

13 / 27

Sources

SDSM

Exemple Soit une source qui fournit comme information l’une des quatres lettres a1 , a2 , a3 et a4 . Supposons que le codage transforme cette information en symboles binaires. Dans le tableau suivant, nous ´ ` donnons deux codages differents de cette source. Dans la premiere ´ ´ er ´ es ´ pour chaque lettre methode, deux symboles binaires sont gen ´ emise, alors que dans la seconde le nombre de symboles est variable.

a1 a2 a3 a4

TIC (S7)

´ Methode 1 00 01 10 11

´ Methode 2 0 10 110 111

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

14 / 27

Sources

SDSM

Exemple(suite) ´ ` Si les quatre lettres sont equiprobables, alors la premiere ´ methode est la meilleure: Deux symboles par lettre en moyenne au lieu de 2.25 Si l’on a: P(a1 ) =

1 , 2

P(a2 ) =

1 , 4

P(a3 ) = P(a4 ) =

1 8

´ ´ alors la methode 1 necessite toujours 2 symboles binaires par ´ ´ lettre en moyenne alors que la methode 2 ne necessite que 1, 75. ´ Elle est dans ce cas la plus economique. Conclusion Il est donc important pour coder une source de connaˆıtre son comportement statistique. TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

15 / 27

Sources

SDS

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

16 / 27

Sources

SDS

´ Definition

Une source est stationnaire si et seulement si toutes les variables ´ ˆ aleatoires a` valeurs dans {a1 , · · · , aK } = A ont la meme loi de ´ probabilite. Une source stationnaire est une source dont le fonctionnement est ´ ´ independant de l’origine du temps, autrement dit les probabilites ´ d’apparition de chaque symbole est independant du temps: P(akt ) = P(akt+τ ),

TIC (S7)

M. Boulouird - ENSAM - UCAM

∀τ

Mardi 06 octobre 2009

17 / 27

Sources

SC

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

18 / 27

Sources

SC

` Les sources continues, ou les sources non discretes, ont une grande importance pour les applications. La sortie de cette source sera une fonction continue du temps, par ´ exemple, une tension, qu’il faut coder en une sequence binaire. ˆ ´ ` La fonction continue devra etre decrite le plus fidelement possible ´ ´ er ´ ee ´ par le codeur de source. par la sequence binaire gen

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

19 / 27

Canaux de communication

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

20 / 27

Canaux de communication

Canaux discrets

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

21 / 27

Canaux de communication

Canaux discrets

´ Canal discret et canal discret sans memoire

´ Pour modeliser correctement un canal de transmission, il est ´ ´ ´ et l’ensemble des necessaire de specifier l’ensemble des entrees sorties possibles. ´ Le cas le plus simple est celui d’un canal discret sans memoire: ´ est une lettre d’un alphabet fini {a1 , · · · , aK }. L’entree ´ La sortie est une lettre d’un autre alphabet fini, eventuellement identique, {b1 , · · · , bJ }. ´ ´ Les lettres sont emises en sequence, et pour que le canal soit sans ´ ´ memoire, il faut que chaque lettre de la sequence rec¸ue ne ´ ´ ˆ depende statistiquement que de la lettre emise de meme position. ´ ` ´ Un canal discret sans memoire est entierement decrit par la ´ des probabilites ´ conditionnelles P(bj /ak ), pour tout ak dans donnee ´ et tout bj dans l’alphabet de sortie. l’alphabet d’entree

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

22 / 27

Canaux de communication

Canaux discrets

Exemple ´ ´ Le canal binaire symetrique est un canal discret sans memoire, ´ et l’alphabet de sortie sont egaux ´ dont l’alphabet d’entree tous les deux a` {0, 1}.

´ Canal binaire symetrique

La probabilite´ pour qu’un symbole soit inchange´ est 1 − p, et la probabilite´ pour qu’il soit transforme´ en son oppose´ est p. TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

23 / 27

Canaux de communication

´ Canaux discrets a` memoire

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

24 / 27

Canaux de communication

´ Canaux discrets a` memoire

´ ´ Dans ce cas, chaque lettre de la sequence de sortie peut dependre de ´ ´ plusieurs lettres de la sequence d’entree.

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

25 / 27

Canaux de communication

Canaux continus

` Chapitre 1: Systemes de communication 1

Introduction

2

´ Histoire de la theorie de l’information et du codage

3

Sources de l’information ´ Definition ` ´ Sources discretes sans memoire ` Sources discretes stationnaires Sources continues

4

Canaux de communication Canaux discrets ´ Canaux discrets a` memoire Canaux continus

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

26 / 27

Canaux de communication

Canaux continus

Ils sont plus proches des canaux physiques. ´ et la sortie de ce type de canaux sont des fonctions L’entree continues du temps. ´ Pour les canaux de cette classe, il est possible de separer le ´ codeur et le decodeur en deux parties: Codeur de canal discret. ´ digitales (MDD). Modulateur de donnees

TIC (S7)

M. Boulouird - ENSAM - UCAM

Mardi 06 octobre 2009

27 / 27