summaryrefslogtreecommitdiff
path: root/sem5/information-theory
diff options
context:
space:
mode:
authorQQQiwi <ulitin.ivan3004@mail.ru>2021-10-23 19:16:26 +0400
committerQQQiwi <ulitin.ivan3004@mail.ru>2021-10-23 19:16:26 +0400
commit4252aa939398ec327cb4b2c7bafe6664af158aab (patch)
treee2744ba5dbffe2f45ef8602e445ebad3815cd207 /sem5/information-theory
parent5e0dc9f133999a8133eeee4132f30dd4feb9dad4 (diff)
Fix some mistakes in first lecture
Diffstat (limited to 'sem5/information-theory')
-rw-r--r--sem5/information-theory/lectures/lecture1.tex56
1 files changed, 29 insertions, 27 deletions
diff --git a/sem5/information-theory/lectures/lecture1.tex b/sem5/information-theory/lectures/lecture1.tex
index 4a0c03d..3fc34d0 100644
--- a/sem5/information-theory/lectures/lecture1.tex
+++ b/sem5/information-theory/lectures/lecture1.tex
@@ -42,8 +42,8 @@
зрения изменения сигнала с течением времени различают \emph{статические}
и \emph{динамические}.
-Статические --- это сигналы, которые изменяют устойчивое изменение
-состояния объекта. Динаические --- это сигналы, отображающие
+Статические --- это сигналы, которые отображают устойчивое изменение
+состояния объекта. Динамические --- это сигналы, отображающие
непрерывные изменения некоторого объекта, либо процесса при переходе от
одного устойчивого состояния к другому. К динамическим относятся все
виды электромагнитных колебаний, а также распространения звука в воде и
@@ -53,14 +53,14 @@
\emph{дискретные}. Сигналы могут быть непрерывными и дискретными как по
времени, так и по множеству значений. Возможен один из четырёх видов
сигналов: - полностью непрерывный сигнал (по времени \& множеству
-значений) - непрерывный по множеству значений и дискретным по времени -
-дискретный по множеству значений и непрерывным по времени - полностью
+значений) - непрерывный по множеству значений и дискретный по времени -
+дискретный по множеству значений и непрерывный по времени - полностью
дискретный
Носителем сигнала всегда является объект или процесс. Однако если
абстрагироваться от его физической природы, то существенными с точки
зрения теории информации будут только его вероятностные характеристики и
-другие важные черты с точки зрения данного изучаемого процесса.
+другие важные черты с точки зрения данного изучаемого процесса/сигнала.
\textbf{В теории информации математическая модель сигнала может
противоречить реальной физической структуре.} Допустим, в теории инф мы
@@ -70,51 +70,53 @@
сигналов}
Чтобы изучать непрерывные сигналы для начала изучаются детерминированные
-сигналы, при этом они рассматриваются как некоторый ансамбль \ldots{} .
+сигналы, при этом они рассматриваются как некоторый ансамбль реализации \ldots{}.
Мы будем использовать некоторую функцию
\begin{equation}
- u(t) = \sum_{k = 1}^{}n C_k \phi_k(t) \quad (1)
+ u(t) = \sum_{k = 1}^{n} C_k \phi_k(t) \quad (1)
\end{equation}
Искусственно ограничиваем $t$ некоторым \emph{промежутком времени}
-(?). Данная модель называется \textbf{линейной моделью сигнала}. Здесь
+$[t_1; t_2]$. Данная модель называется \textbf{линейной моделью сигнала}. Здесь
$\phi_k(t)$ --- базисные функции, а $C_k$ --- безразмерный
коэффициент. Если заданы все базисные функции, то функция $u(t)$ будет
определяться только коэффициентами $C_k$. Эти коэффициенты будут
-называться дискретным спектром сигнала. За пределами интервала
+называться \textbf{дискретным спектром сигнала}. За пределами интервала
$t \in [t_1; t_2]$ времени сигнал считается \emph{всегда}
\textbf{условно продолжающимся}.
В некоторых задачах такое представление является неприемлемым, поэтому
-для сигналов конечной длительности существуе другое представление:
+для сигналов конечной длительности существует другое представление:
\begin{equation*}
- u(t) = \int_{-\infty}^{}\infty S(\alpha) \phi(\alpha, t) ; d\alpha \quad (2)
+ u(t) = \int_{-\infty}^{\infty} S(\alpha) \phi(\alpha, t) ; d\alpha \quad (2)
\end{equation*}
-Здесь $s(\alpha)$ называется \emph{спектральной плотностью}, а
-$\phi(\alpha, t)$. Это модель \emph{непрерывного} сигнала.
+Здесь $S(\alpha)$ называется \emph{спектральной плотностью}, а
+$\phi(\alpha, t)$ \emph{базисной функцией}. Это модель \emph{непрерывного} сигнала.
Раздел теории информации, который изучает сигналы в данных
представлениях, называется \textbf{спектральной теорией сигналов}.
+Чем сложнее базисная функция, тем реальнее и сложнее модель.
+
В связи с этим обычно используют набор ортогональных базисных функций,
которые удовлетворяют следующему условию:
\begin{equation*}
- \int_{t_1}^{}{t_2} \phi_k(t) \phi_l(t) d t =
+ \int_{t_1}^{t_2} \phi_k(t) \phi_l(t) d t =
\begin{cases} 0, &k \neq l \\ 1, &k = l \end{cases}
\quad (3)
\end{equation*}
-То есть если умножить все $\phi_l$ на данном интервале на коэффициент
+То есть если умножить все $\phi_l (t)$ на данном интервале на коэффициент
$\frac{1}{\sqrt{\mu}}$, то мы получим ортонормированную функцию, то
есть
\begin{equation*}
- \int_{t_1}^{}{t_2} \phi_k(t) \phi_l(t) dt = 1, \quad k = l
+ \int_{t_1}^{t_2} \phi_k(t) \phi_l(t) dt = 1, \quad k = l
\end{equation*}
Пусть имеется модель, удовлетворяющая условию ортонормированности.
@@ -123,13 +125,13 @@ $\frac{1}{\sqrt{\mu}}$, то мы получим ортонормированн
\begin{equation*}
\int_{t_1}^{t_2} u(t) \phi_l(t) dt =
- \int_{t_1}^{t_2} \sum_{k = 1}^n C_k \phi_k(t) \phi_l(t) dt =
- \sum_{k = 1}^n C_k \int_{t_1}^{t_2} \phi_k(t) \phi_l(t) dt
+ \int_{t_1}^{t_2} \sum_{k = 1}^{n} C_k \phi_k(t) \phi_l(t) dt =
+ \sum_{k = 1}^{n} C_k \int_{t_1}^{t_2} \phi_k(t) \phi_l(t) dt
\end{equation*}
Получаем
\begin{equation*}
- C_k = \int_{t_1}^{t_2} \phi(t) \phi_k(t) dt
+ C_k = \int_{t_1}^{t_2} u(t) \phi_k(t) dt
\end{equation*}
Исходя из этого получаем:
@@ -137,7 +139,7 @@ $\frac{1}{\sqrt{\mu}}$, то мы получим ортонормированн
\item Каждый коэффициент $C_k$ может вычисляться независимо друг от друга
\item
Сложность их вычисления будет зависеть только от сложности вычисления
- базисной функции, поэтому для изучения сигналов применяются системы
+ базисных функций, поэтому для изучения сигналов применяются системы
ортогональных функций, в частности применяются
\begin{enumerate}
\item Системы тригонометрических функций
@@ -153,13 +155,13 @@ $\frac{1}{\sqrt{\mu}}$, то мы получим ортонормированн
Возьмём произвольную непрерывную функцию $u(t)$. Будем считать, что
непрерывная функция представляет собой набор функций примыкающих друг к
-другу импульсов бесконечно малых длительности с амплитудой равной
-значению сигнала в конретный момент времени. То есть получим новую
+другу импульсов бесконечно малой длительности с амплитудой равной
+значению сигнала в конкретный момент времени, то есть получим новую
модель, которая записывается через некоторую дельта-функцию.
\begin{equation*}
- u(t) = \int_{-\infty}^{}\infty u(\tau) \delta(\tau - t) d\tau \quad (4)
+ u(t) = \int_{-\infty}^{\infty} u(\tau) \delta(\tau - t) d\tau \quad (4)
\end{equation*}
\begin{equation*}
@@ -168,16 +170,16 @@ $\frac{1}{\sqrt{\mu}}$, то мы получим ортонормированн
Ортонормируем дельта-функцию:
\begin{equation*}
- \int_{-\infty}^{}\infty \delta(\tau - t) d \tau = 1
+ \int_{-\infty}^{\infty} \delta(\tau - t) d \tau = 1
\end{equation*}
-Как видно, модель (4) является обобщённым случаем модели (2), базисной
-функцией которого является дельта-функция. Таким же образом мы можем с
+Как видно, модель (4) является обобщённым спектральным представлением модели (2),
+базисной функцией которого является дельта-функция. Таким же образом с
помощью этой модели мы можем построить дискретную модель, которая будет
называться \textbf{решётчатой} функцией:
\begin{equation*}
- u_l(t) = \sum_{k = -\infty}^{}\infty u(t) \delta(\tau - t), \quad \tau = \Delta t k
+ u_l(t) = \sum_{k = -\infty}^{\infty} u(t) \delta(\tau - t), \quad \tau = \Delta t k
\end{equation*}
$\Delta t$ --- период импульса.