Décimaux-3

Calculez l'entropie binaire de la distribution de 3 probabilités suivantes :

{ $val12 , $val13 , $val14 }

Décimaux-4

Calculez l'entropie binaire de la distribution de 4 probabilités suivantes :

{ $val13 , $val14 , $val15 , $val16 }

Décimaux-5

Calculez l'entropie binaire de la distribution de 5 probabilités suivantes :

{ $val14 , $val15 , $val16 , $val17 , $val18 }

Entropie donnée - 2

Trouvez une distribution de probabilités sur un système à deux éléments {A,B}, pour que l'entropie binaire du système soit égale à $val6.

Les deux probabilités P(A), P(B) doivent être positives, et leur somme doit être égale à 1.


Entropie donnée - 3

Trouvez une distribution de probabilités sur un système à trois éléments {A,B,C}, pour que l'entropie binaire du système soit égale à $val6.

Les trois probabilités P(A), P(B), P(C) doivent être positives, et leur somme doit être égale à 1.


Entropie donnée - 4

Trouvez une distribution de probabilités sur un système à quatre éléments {A,B,C,D}, pour que l'entropie binaire du système soit égale à $val6.

Les quatre probabilités P(A), P(B), P(C), P(D) doivent être positives, et leur somme doit être égale à 1.


Existence d'entropie - 3

Est-ce qu'il existe un système à 3 éléments dont l'entropie binaire est égale à $val12 ?

Existence d'entropie

Est-ce qu'il existe un système à $val6 éléments dont l'entropie binaire est égale à $val13 ?

Fichier informatique

Un fichier informatique pèse $val6 octets. Le contenu du fichier fait apparaître seulement 4 valeurs d'octets, comme le montre le tableau suivant.

Valeur décimale $val17 $val18 $val19 $val20
Valeur binaire $val21 $val22 $val23 $val24
Nombre d'octets $val12 $val13 $val14 $val15

Calculez l'entropie binaire du fichier, selon les nombres de bits et selon ceux d'octets.


Fichier informatique II

Un fichier informatique pèse $val6 octets. Le contenu du fichier fait apparaitre seulement 6 valeurs d'octet, comme montre le tableau suivant.

Valeur d'Octet $val21 $val22 $val23 $val24 $val25 $val26
Nombre $val14 $val15 $val16 $val17 $val18 $val19

L'entropie binaire du fichier est selon les nombres d'octets.

En recodant les octets du fichier par un code binaire optimal de longueur variable, on peut réduire la taille du fichier à octets (sans compter les éventuels en-têtes).


Image couleur

Une image couleur de $val6×$val7 pixels est composée de 5 couleurs : noir, blanc, rouge, vert, bleu. Voici le nombre de pixels de chaque couleur dans l'image.

Couleur Noir Blanc Rouge Vert Bleu
Pixels $val15 $val16 $val17 $val18 $val19

Calculez l'entropie binaire de l'image calculée selon les nombres des pixels.


Max d'entropie - 3

Nous avons un système de distribution de probabilités sur 3 éléments {A,B,C}. Sachant que la probabilité P(A) = $val6, quel est le maximum et le minimum de l'entropie binaire du système ?

Max d'entropie II - 3

Nous avons un système de distribution de probabilités sur 3 éléments {A,B,C}. Sachant que la probabilité P($val8) = $val7 et que

P(A) $m_ge P(B) $m_ge P(C) ,

quel est le maximum et le minimum de l'entropie binaire du système ?


Rationnels-3

Calculez l'entropie binaire de la distribution de 3 probabilités suivantes :

{ $val16 }

Rationnels-4

Calculez l'entropie binaire de la distribution de 4 probabilités suivantes :

{ $val20 }

Rationnels-5

Calculez l'entropie binaire de la distribution de 5 probabilités suivantes :

{ $val20 }

Rationnels-6

Calculez l'entropie binaire de la distribution de 6 probabilités suivantes :

{ $val22 }

Existence conditionnelle - 3

Est-ce qu'il existe un système à 3 éléments {A,B,C}, tel que P(A) = $val8, et que l'entropie binaire du système est égale à $val14 ?

Existence conditionnelle - 4

Est-ce qu'il existe un système à 4 éléments {A,B,C,D}, tel que

P(A) = $val11, P(B) = $val12,

et que l'entropie binaire du système est égale à $val18 ?


Texte

Nous avons un texte avec $val6 mots. Le tableau suivant montre les mots qui apparaissent dans le texte, ainsi que leurs fréquences respectives.

Mot $val26 $val27 $val28 $val29 $val30
Fréquence $val13 $val14 $val15 $val16 $val17

Calculez l'entropie binaire du texte, selon les nombres de lettres alphabétiques (sans les accents) et selon ceux de mots.

Attention. En calculant l'entropie selon les nombres de lettres, il ne faut pas oublier les espaces qui séparent les mots !


Texte II

Nous avons un texte avec $val6 mots. Le tableau suivant montre les mots qui apparaissent dans le texte, ainsi que leurs fréquences respectives.

Mot $val24 $val25 $val26 $val27 $val28 $val29 $val30
Fréquence $val15 $val16 $val17 $val18 $val19 $val20 $val21

L'entropie binaire du texte est selon les nombres de mots.

En codant les mots du texte par un code binaire optimal de longueur variable, on peut compresser le texte en octets (sans compter les éventuels en-têtes).