Capítulo 1 Introducción
1. Requisitos básicos
- Dominar los conceptos básicos de noticias, señales e información.
- Aclarar el objeto de investigación, el propósito de investigación y el contenido de investigación de la teoría de la información.
- Domina el modelo del sistema de comunicación
- ¿Qué es la información? ¿Qué son noticias y señales?
Definición de información de Shannon: La información se refiere a la forma en que varias cosas se mueven y cambian su estado.
El concepto básico del sistema de información es su incertidumbre: todo lo que se haya determinado no contiene información.
Mensaje: se refiere al idioma, texto, imágenes, etc. que contienen información.
Señal: el sistema físico del mensaje.
- Shannon es el fundador de la teoría de la información.
Fuente del modelo del sistema de comunicación ——> Canal ——> Sumidero- Tres indicadores de rendimiento del sistema de comunicación.
Efectividad
Confiabilidad
Seguridad
- Tres tipos de codificación
Codificación de fuente, codificación de
canal,
codificación de cifrado
- Ejercicios de tarea
El concepto básico de información radica en su incertidumbre .
El propósito de la investigación de la teoría de la información es encontrar la ley común de transmisión de información, mejorar la confiabilidad, efectividad, confidencialidad y autenticación de la transmisión de información, y optimizar el sistema de transmisión de información.
Los índices de rendimiento del sistema de comunicación son principalmente económicos, efectivos, confiables y seguros.
Codificación de origen-efectividad
Codificación de canal-confiabilidad
Codificación de cifrado-seguridad
Capítulo 2 Fuentes y fuente de entropía 1
- Según si el conjunto de parámetros y el rango de valores son intervalos discretos o continuos, el espectáculo de Venus se clasifica:
- Fuente de información discreta en tiempo espacio discreto: T discreto, Ex discreto. (Fuentes discretas) como texto, números, datos, letras, etc.
- Fuente continua de tiempo espacio discreto: T discreto, Ex continuo. (Fuentes continuas) como lenguaje, imágenes, video, etc.
- Fuentes discretas de espacio continuo en el tiempo: T continuo, Exl discreto.
- Tiempo continuo espacio fuente continua: T continuo, Ex continuo. (Fuente de forma de onda)
- Clasificación según las características de memoria de la secuencia.
- Hay fuentes de memoria: relacionadas
- Sin fuente de memoria: independientes entre sí
- Señal estacionaria típica: ruido blanco. Señal típica no estacionaria: señal de radar.
- Los procesos aleatorios pueden dividirse en procesos aleatorios estacionarios y procesos aleatorios no estacionarios. Los procesos aleatorios estacionarios más comunes son los procesos transversales.
- En teoría, el espectro de frecuencia de cualquier función de tiempo limitado es infinito. Por el contrario, el tiempo es ilimitado.
- Fuente de Markov
Cuando la longitud de la memoria de la fuente es m + 1, la fuente de memoria se llama fuente de Markov de orden m. Es decir, los símbolos enviados por la fuente cada vez están relacionados con los primeros m símbolos, y no están relacionados con los símbolos anteriores.
- Autoinformación e incertidumbre
Autoinformación: la cantidad de información proporcionada al destinatario después de que aparece el símbolo.
Incertidumbre: la incertidumbre contenida antes de que aparezca el símbolo.
