1er - Diapo2-3 – Teoria Info

8/16/2019 1er - Diapo2-3 – Teoria Info

1/68

LA INFORMACIÓN

Términos Básicos - Unidad II


2/68

Diagrama general de bloques decomunicación

Fuente

• Analógicas• Señal

• Digitales• Binarios

Transmisor

• Generador deSeñal• Modem

• Modulación

• Demodulación

Sistema deTransmisión Receptor Destino

Sistema de origen Sistema destino


3/68

Transmisor = Modulación

Tipo de señal:portadora ymoduladora

• analógica o digital.

Parámetro de laportadora que semodifica:

• amplitud, frecuencia yfase.


4/68

Transmisor = Modulación (PCM)


5/68

Ejemplo: Modem

MODulación yDEModulación

Para comunicarsenecesitan emplear lamisma técnica demodulación. “Full-dúplex”,lo cual significa quepueden transferir datos

en ambas direcciones. Bajo coste – (telefonía)

Limitaciones del medio


6/68


7/68

Múltiplos del byte

Originalmente el byte fueelegido para ser de cinco a

doce bits.

La popularidad IBM S/360 en1960 y la explosión de las

microcomputadoras de 8 bitsen los años 1980 ha hecho

obsoleta la utilización de otracantidad que no sean 8 bits.

Los bytes de 8 bits se integranfirmemente en estándares

comunes como Ethernet y HTML.


8/68

Múltiplos del byte

Los prefijos utilizados para los múltiplos del bytenormalmente son los mismos que los prefijos del SI,

Esto se debe a que los prefijos del SI se basan

en base 10 (sistema decimal), y los prefijosbinarios se basan en base 2 (sistema binario), porejemplo:

kibibyte = 1024 = 210 bytes. kilobyte = 1000 = 103 bytes.


9/68

Sistemas Informáticos

¿Por qué múltiplos de 1.024 y no de 1.000? Puespor razones estrictamente relacionadas con elsistema binario y la construcción de los

ordenadores.

Los DVD,utilizan múltiplos

de 1.000.

Así pues, unoesperaría

poder guardar

5.046.586.572bytes en un DVDde 4,7 GB

Cuandorealmente

caben4.700.000.000

bytes.


10/68

Múltiplos del byte

Conversión de Bytes

Unidades


11/68

Unidad Múltiplos

Unidad

B 1KB 1MB 1GB 1TB

Byte KiloByte Megabyte Gigabyte Terabyte

Nro Bytes 1 1024 o 1000 1´000.000 1.000’000.000 1.000.000’000.000

8 bits 1000 kB 1000 MB 1000 GB

MÚLTIPLOS Y SUBMÚLTIPLOS DE LAUNIDAD BYTE


12/68

Conversiones


13/68

MÚLTIPLOS Y SUBMÚLTIPLOS DE LAUNIDAD BYTE

1 bit1 Byte = 8 bits

1 KiloByte (KB) = 1,024 Bytes1 MegaByte (MB) = 1,024 KB1 GigaByte (GB) = 1,024 MB1 TeraByte (TB) = 1,024 GB1 PetaByte (PB) = 1,024 TB1 ExaByte (EB) = 1,024 PB

1 ZettaByte (ZB) = 1,024 EB1 YottaByte (YB) = 1,024 ZB

1 bit1 Nibble = 4 bits1 Byte = 2 Nibles = 8 bits

1 Word = 2 Bytes = 16 bits1 Long Word = 4 Bytes = 32 bits


14/68

Teorema de Codificación e Información


15/68

Teoría de la Información

• La Teoría de la Información es una teoríamatemática creada por Claude Shannon en el año1948 y que forma la piedra angular sobre la quese ha desarrollado toda la teoría actual de lacomunicación y la codificación.


16/68

Teoría de la Información

• Esta teoría establece los límites de cuánto se puedecomprimir la información y de cuál es la máximavelocidad a la que se puede transmitirinformación. La Teoría de la Información es, portanto una teoría de límites alcanzables: máxima

compresión de datos y máxima tasa detransmisión de información transmitida sin errores.


17/68

RUIDO: Expresión genérica utilizada para referirse a las distorsiones

originadas en forma externa al proceso de comunicación

Teoría de Claude E. Shannon

Fuente Transmisor Canal Receptor Destino

• Modelo científico del proceso de comunicación• Formulación de leyes matemáticas de Hartley (genésis de la TI)


18/68

Modelo de Comunicación presentado porShannon y Weaver


19/68

Terminologia - Claude E. Shannon

Para Shannon no es información sino mensajes losque un emisor comunica a un receptor. El clasifica lossistemas de comunicación, es decir de trasmisión de

mensajes, en tres categorías: Discretos (la telegrafía),

Contínuos (radio y televisión)

Mixtos.


20/68

Terminología

Fuente: proceso por elcual, entre todos losmensajes posibles,

es escogido de unamanera imprevisible(inesperado) unmensaje particular,

destinado a sertransmitido a unreceptor u observador

Mensaje: Señal quecorresponde a unarealización particular

del conjunto deseñales dadas


21/68

Terminología

Canal: Totalidad de los medios destinados a latransmisión de la señal.

Modulación: Transformación de un mensaje en una

señal, al efecto de facilitar y aumentar la eficaciade la transmisión y reducir los errores de la misma.

Demulación: Operación inversa de la modulación.


22/68

Terminología

Codificación: Transformación de un mensaje enuna señal discreta, cuya principal objetivo esaumentar la eficacia de la transmisión

Decodificación: Operación inversa de lacodificación

Perturbación: Señal que modifica una señal

aleatoria útil, disminuyendo la cantidad deinformación que circula por ella.


23/68

1. Teoría de la Información2. Cantidad de Información3. Medida de Información4. Representación de la información5. Capacidad de información6. Tasa de Información7. Capacidad del Canal8. Ruido y distorsión

Teoría de la información


24/68

1. Teoría de la información

A través del número medio de bits necesariopara codificar

Mide la cantidad de información que contieneun mensaje

Cantidad Información (mensaje) =Numero de BITS > codificar todos los posibles mensajes

Compresión y Velocidad


25/68

3. Medida de la información

Si examinamos con detalle el contenido deinformación de un mensaje, podemos ahorraresfuerzo en su transmisión desde un punto a

otro. Ejemplo Si deseamos enviar un telegrama de felicitaciones por un

hecho determinado (casamiento, nacimiento, etc), la

compañía de telégrafos enviará un texto estándar típico. Un sentido intuitivo podemos ver que algunos mensajes

largos no contienen gran información.


26/68

3. Medida de la información

“Cuanto más probable es un mensaje > es lainformación a transmitir”Ej. - Telegrama

- Sueldo

- Premio

La medida de la información está relacionada conla incertidumbre.

La medida de la información comprendeprobabilidades


27/68

5. Capacidad de información

Hay un límite

Tasa de informaciónque puede ser

transmitida por un

sistema.

Viene determinadapor las limitaciones

físicas fundamentalesen la transmisión de

información.


28/68

6. Tasa de Información

La tasa de información es una medida de lavelocidad con el que la información se transfiere.

= {}

• H {X} es la entropía de la fuente• T es el intervalo de tiempo por el cual

la fuente transmite el evento o la seriede eventos.

• X = i , del cual se tiene una medida desu cantidad de información

Esta tasa de información suele ser utilizada en aplicacionesde video: 32 kbps (calidad videoteléfono),2 Mbps (calidad VHS), 8 Mbps (calidad DVD) o55 Mbps (calidad HDTV), por ejemplo.


29/68

7. Capacidad del Canal

Es la CANTIDAD MÁXIMADE INFORMACIÓN

Que puede transportar dicho canal deforma fiable

Es decir, con una probabilidad de errortan pequeña como se quiera.Normalmente se expresa en bits/s (bps).


30/68

7. Capacidad del Canal

Tipos:

Guiados Directos

No Guiados Indirectos


31/68

7. Capacidad del Canal- Directos

Ancho de banda:

Las categorías 1 y 2 transfierenhasta 4 megabits/seg.

La categorías 3 hasta 16 Mbps

La categoría 4 hasta 20 Mbps

la categoría 5 hasta

100Mbps.


32/68

7. Capacidad del Canal - Ejemplo


33/68

7. Capacidad del Canal - Ejemplo


34/68

7. Capacidad del Canal - Indirectos

WIFI Satelital

Microondas Terrestres Microondas Satelitales


35/68

8. Ruido y distorsión

Fuente de Ruido:conjunto de distorsioneso adiciones no deseadaspor la fuente de

información que afectana la señal. Puedenconsistir en distorsionesdel sonido (radio,teléfono), distorsiones de

la imagen (T.V.), erroresde transmisión(telégrafo), etc.


36/68


Tipos: Distorsión: Alteración de la onda generada por el

emisor y que llega de diferente forma al receptor.

Distorsión por atenuación: Modificación de laamplitud de algunas componentes frecuenciales de laseñal emitida.

Distorsión por retardo: La señal llega retardada alemisor.

Distorsión por intermodulación: Aparición de nuevascomponentes frecuenciales que no estaban en la señaloriginal


37/68


Atenuación: Perdida de la energía de la señalconforme a la distancia. Se arregla medianteamplificadores para señales analógicas y

repetidores para señales digitales. Ruido: Señal aleatoria que se suma a la señal de

información y modifica la forma de onda de lamisma.

Ruido térmico: Generado por cambios detemperatura, normalmente por temperaturas altas.


38/68


Ruido impulso: Ruido aleatorio, corto y muyintenso. Se debe al arranque de maquinariapesada cerca del medio de transmisión.

Ruido interferencias: Medios cercanos y sinaislamiento pueden interferir en el medio.

Diafonía: Cuando hay 2 cables metálicos

paralelos, la señal que circula por un cable setransfiere electromagnéticamente al otro cable


39/68

Función Matemática de Shannon


40/68

Fuente de información

Vamos a considerar señal tanto alfenómeno físico que transporta lainformación como a la funciónmatemática que representa a ese

fenómeno. Cualquiera de las dos formassirve como soporte a la información.


41/68

INFORMACIÓN

La información más elemental que puede recibirsees la que indica la verificación entre dossucesos igualmente probables. 1/0

En este caso se dice que se ha recibido un bit deinformación.


42/68

Probabilidad

Se encarga de evaluar todas aquellas actividades endonde se tiene “INCERTIDUMBRE”, acerca de losresultados que se puede esperar.

La probabilidad es una escala entre 0 y 1

Al suceso imposible le corresponde el valor “0” Al suceso seguro le corresponde el valor “1”

El resto de los sucesos estarán comprendidos entre la escalade 0 y 1

NUNCA PUEDE SER UN VALOR NEGATIVO


43/68

Incertidumbre

Se refiere a lo desconocido

No se sabe si sucederá

A lo inesperado

A lo imprevisible

La información disminuye la incertidumbre porqueaporta mayor conocimiento sobre un tema.

P b bilid d


44/68

Probabilidad

“ a MENOR probabilidad o certeza de ocurrenciaMAYOR será el significado informativo”

“ a MAYOR probabilidad de certeza de ocurrenciaMENOR será el significado informativo”

“La Probabilidad de ocurrencia de un evento esinversamente proporcional al significado

informativo”


45/68

Incertidumbre

Ejemplo: servicio metereológico Antártida La fuente de información emite los siguientes mensajes:

• Mensaje 1: día muy frío y nublado

• Mensaje 2: día muy frío y soleado• Mensaje 3: día frío y nublado• Mensaje 4: día templado y soleado

¿Cuál es el mensaje que aporta MAYOR CANTIDAD DE

INFORMACION?

¿Por qué?


46/68

Respuesta

A MENOR probabilidad de ocurrencia MAYOR elsignificado informativo

Ej. Mensaje 3 y 4

A MAYOR probabilidad de ocurrencia es MENOR elsignificado informativo

Ej. Mensaje 1 y 2

Relación inversa » la probabilidad de ocurrencia desuceso o evento es inversamente proporcional alsignificado informativo


47/68

Combinación 1 Combinación 5


Combinación 3 Combinación 7Combinación 4 Combinación 8

Grado de indeterminación

Grado de indeterminación previo

Grado de indeterminación posteriorci =

En una bolsa hay dos papeles con círculos, dos concuadrados y dos con triángulos: negros o verdes.

Sacamos a ciegas tres papeles cualesquieradiferentes...

¿Qué cantidad de información tiene cada uno de los estados?

Si hay equiprobabilidadentonces p(xi) = 1/8


48/68





La incertidumbre del ejemplo del mago

Como p(xi) = 1/8 entoncesIncertidumbre inicial Ii = 8Daremos algunas pistas : Las figuras no son del mismo color:

Ii baja de 8 a 6 al descartarse las combinaciones 1 y 8.

El círculo es negro: Ii baja de 6 a 3 (descartamos 5, 6 y 7). Hay dos figuras negras:

Ii baja de 3 a 2 (descartamos 4).

El cuadrado es verde: Ii baja de 2 a 1 (descartamos 2.)

Veamos esto ahoramatemáticamente ...

Se acaba la incertidumbre pues la solución es la combinación 3.


49/68

Base del logaritmo

Sean Ii la indeterminación inicialIf la indeterminación final

ci = log (Ii / If) = log Ii - log IfLa cantidad de información tiene como unidad de medida la

de un fenómeno de sólo dos estados, un fenómeno binario.Luego:

ci = logb (2/1) = logb 2 - logb 1 Si logb 2 debe ser igual a 1 entonces la base b = 2.

Precisamente a esta unidad se le llama bit (binary digit)Cálculo de logaritmos es la operación inversa a la exponenciación de la base del

logaritmo. Logaritmo es solo otra forma de expresar la potenciación, como en esteejemplo:


50/68

Solución matemática al ejemplo del mago

Ejemplo anterior:. Es decir, pasamos de laincertidumbre total a la certeza con sólo 3preguntas.

ci = log 8 - log 1 = log2 8

ci = log2 8 = 3


51/68

Con sólo tres preguntas “más o menos inteligentes” podemos pasar de la

incertidumbre total a la certeza:

Pregunta 1: ¿Está entre la opción 1 y la 4? Sí

Pregunta 2: ¿Está entre la opción 1 y la 2? No

Pregunta 3: ¿Es la opción 4? No¡Se acaba la indeterminación!

Con sólo tres preguntas inteligentes...






52/68

Calculo Manual

log2 (8)

= log_2 (2^3)

= 3 * log_2(2)= 3 * 1

= 3


53/68

Calculo Calculadora

x = log(x)/log(2)

X = log(8)/log(2)

X= 0,90/0,30X=3


54/68

Continuación Ejemplo del Mago / Tensión

“ Dada una Fuente de información y un canal de comunicación, existe una técnicade codificación tal que la información puede ser transmitida sobre el canal y conuna frecuencia de errores abitrariamente pequeña a pesar de la presencia de ruido”

Ejemplos

A 0 0 0

B 0 0 1

C 0 1 0

D 0 1 1

E 1 0 0

F 1 0 1

G 1 1 0

H 1 1 1

Letra Código Binario

2n Estados posibles codificados

n = 3 “Numero de Elementos a codificar”

23 = 8

PILATENSION ELECTRICA

1

0


55/68

Generalización de la Teoría


56/68

Generalización

De acuerdo a la teoría de la información, puededefinirse la cantidad de información de unmensaje "I", como: "el número mínimo "n" deelementos codificados en binarios necesarios

para identificar el mensaje entre un total de "N"mensajes posibles".

O sea:

Formalización de la cantidad de InformaciónN = Mensajes posibles

n = Elementos codificado en binariosI = n = Log2 N


57/68

Información

N = 1/PI = log2 NI = Log2 N

E

I = Log2

1/P

I = Log2 P-1

I = -1 Log2 P

Para eventos igualmente probables la probabilidad:

P = NE Cantidad de elementos

Cantidad de variables

UNIDAD = bit


58/68

Información

N = 1/PI = log2 N

I = Log2 NE

I = Log2 1/PI = Log2 P

-1

I = -1 Log2 P

Lo cual significa que la información de un evento x esmás grande si la probabilidad de ese evento es máspequeña.

En otras palabras, un evento tiene más información si esmás difícil de adivinar

UNIDAD = bit

1

ci

pi

0

0


59/68

Ejemplo

I = Log2 NE [ bit ] Ejemplo:

Moneda:

E = 1 (moneda) Cantidad de elementos N = 2 (cara/seca) Cantidad de variables

I = Log2 21

= 1 [ bit ]

N:Cantidad de VariablesE: Cantidad de Elementos


60/68

Ejercicio# 1

Género: 1 bit La población humana es casi exactamente pareja entre

hombres y mujeres.

p masculino = p femenino = 12 ,así que saber elgénero es:

I x = log 2 12 = 1 bit.

Aunque parezca poco, el género es comúnmente

independiente de otros tipos de información, así quepuedes añadir fácilmente y seguramente 1 bit deinformación preguntando por el sexo.


61/68

Ejercicio#2

Determinar la parte entera del número x = log2 11 Para determinar la parte entera se buscan las

potencias de 2 entre las que se encuentra el número 11

2x

< 11 < 2x

Elegir la parte entera


62/68

Respuesta# 2

Para determinar la parte entera se buscan laspotencias de 2 entre las que se encuentra el número11, estas son 23 y 24 , es decir, se verifica 23< 11 < 24 .

Tomando logaritmos en base 2 se mantiene ladesigualdad, ya que la base es mayor que 1, así log223< log2 11 < log2 2

4 , es decir,

3 < log2 11 < 4,

de donde se deduce que la parte entera de

log2 11 es igual a 3,4.


63/68

Ejercicio# 3

Calculemos la cantidad de información obtenidacada vez que se realiza una lectura de la hora deun reloj, suponiendo que esta se hace en horas y

minutos (hh:mm)


64/68

Respuesta

El numero de posibles lecturas será: 24 horas * 60 minutos=1440, por lo que la probabilidad de encontrarnos en undeterminado instante de tiempo será:

I=Log2 1/PI=Log2 1/0,000694444I=10.5 bits de información


65/68

Ejercicio# 4

Se tiene un libro de 256 páginas, que se abre poruna al azar. El conocimiento de esa página nosproporciona la siguiente cantidad de información:


66/68

Respuesta


67/68

Ejercicios

1. 128 KBytes ¿Cuántos bytes son?

2 64 Gbits ¿Cuántos bits son?

signos de puntuación), ¿Cuántaspáginas se podrían almacenar en un


68/68

2. 64 Gbits ¿Cuántos bits son?

3. 256 Mbits ¿Cuántos bits son?

4. 16 MBytes ¿Cuántos Kbits son?

5. 64 GBytes ¿Cuántos Kbits son?

6. Memoria de 256 MBytes ¿Cuántaspalabras de memoria tiene si eltamaño de palabra es de 16 bits?

7. ¿Qué capacidad de Memoria Principalse puede ser accedida si el tamañodel Registro de direcciones es de 25

bits y el tamaño de palabra es de 64bits ?

8. Cuantos GB tiene un disco duro durode 62915133940 bytes.?

9. Podemos guardar un archivo de50000 Kb en una memoria usb de

128MB, explique porque.?10. Cuantos Megabytes equivale un disco

de 2 Terabytes

11. Suponiendo que una página de textoconvencional tiene aproximadamente1500 letras (contando espacios y

páginas se podrían almacenar en unDVD de 4,7 GB?

12. Suponiendo que tenemos 15 archivosque ocupan 1210 Bytes cada uno y,además, otros 12 archivos que ocupan

23420 KB cada uno, contesta a losiguiente:A. ¿Cuánto espacio libre (en MB) quedará en un

pendrive en el que guardo todos estosarchivos si dicho pendrive tiene unacapacidad de 512 MB?

B. ¿Cuántos archivos de tamaño 20200 Bits

cabrían en dicho espacio libre?13. Supongamos que una imagen de

televisión esta formada por unconjunto de puntos, dispuestos en 576las y 720 columnas, y que ademáscada punto puede tomar 256 colorescon igual probabilidad. Calcular lacantidad de información (en bits)deuna imagen

14. Que cantidad de información teproporciona elegir una carta decorazón rojo de un mazo de cartas

1er - Diapo2-3 – Teoria Info

Documents

Transcript of 1er - Diapo2-3 – Teoria Info