From b782fe9a251cf07e30525aac7fdc8c780a232dee Mon Sep 17 00:00:00 2001
From: Andrew Guschin <guschin.drew@gmail.com>
Date: Sat, 2 Apr 2022 08:18:10 +0400
Subject: =?UTF-8?q?=D0=9F=D0=B5=D1=80=D0=B5=D0=BC=D0=B5=D1=81=D1=82=D0=B8?=
 =?UTF-8?q?=D0=BB=20=D0=B2=D1=81=D0=B5=20=D0=BB=D0=B5=D0=BA=D1=86=D0=B8?=
 =?UTF-8?q?=D0=B8=20=D0=BF=D1=8F=D1=82=D0=BE=D0=B3=D0=BE=20=D1=81=D0=B5?=
 =?UTF-8?q?=D0=BC=D0=B5=D1=81=D1=82=D1=80=D0=B0=20=D0=B2=20=D0=BA=D0=BE?=
 =?UTF-8?q?=D1=80=D0=B5=D0=BD=D1=8C=20=D0=BF=D1=80=D0=BE=D0=B5=D0=BA=D1=82?=
 =?UTF-8?q?=D0=B0?=
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8
Content-Transfer-Encoding: 8bit

---
 information-theory/lectures/lecture2.tex | 180 +++++++++++++++++++++++++++++++
 1 file changed, 180 insertions(+)
 create mode 100644 information-theory/lectures/lecture2.tex

(limited to 'information-theory/lectures/lecture2.tex')

diff --git a/information-theory/lectures/lecture2.tex b/information-theory/lectures/lecture2.tex
new file mode 100644
index 0000000..5c4e598
--- /dev/null
+++ b/information-theory/lectures/lecture2.tex
@@ -0,0 +1,180 @@
+\subsection{Лекция 2 (09.09.21)}
+
+\subsubsection{Частотное представление периодических сигналов}
+
+\textbf{ЗАМЕНИТЬ $l$ на $e$ !!!}
+
+Рассмотрим детерминированный сигнал. В качестве базисной функции примем
+$\phi(t) = e^{Pt}, \quad P = \pm j \omega$. Такое представление
+функции базисных сигналов будет называться преобразованием Фурье.
+Удобно: - применяя формулу Эйлера данное представление даёт возможность
+представить в виде суммы гармоник. Формула Эйлера:
+\[\cos \omega t = \frac{ e^{j \omega t} + e^{-j \omega t} }{ 2 }\]
+
+Предположим, что функция $u(t)$, которой описывается детерминируемый
+сигнал реализуется на интервале $[t_1; t_2]$ и удовлетворяет условию
+Дирихле. \emph{Условие Дирихле} означает, что функция непрерывна или
+имеет конечное число точек разрыва первого рода, а также имеет конечное
+число экстремумов. Определим период повторения функции как $T = t_2 - t_1$, при
+этом предполагая, что функция продолжается на всём интервале времени.
+Тогда формула сигнала $u(t)$ будет иметь следующий вид: \[
+\begin{cases}
+    u(t) = \frac{1}{2} \sum_{k = -\infty}^{\infty} A(j k \omega) e^{j k \omega_1 t} \\
+    A(j k \omega_1) = \frac{2}{T} \int_{t_1}^{t_2} u(t) e^{-j k \omega_1 t} dt
+\end{cases}
+\], а период вычисляется как \[T = t_2 - t_1 = \frac{2 \pi}{\omega_1}\]. 
+A\_j\_k называют комплексным спектром периодического сигнала $u(t)$, а
+значение этой функции для каждого конкретного $k$ будут называться
+\emph{комплексной амплитудой}.
+
+Пусть $k \omega_1 = \omega$ то есть для данного комплексного спектра мы
+попробуем построить огибающую. Тогда
+\[ A(j \omega) = \frac{2}{T} \int_{t_1}^{t_2} u(t) e^{-j \omega t} dt \]
+
+Показательная форма:
+\[ A(j k \omega_1) = A(k \omega_1) e^{j \phi(k \omega_1)} \] Функция
+$A(k \omega_1)$ --- спектр амплитуд, $e^{j \phi(k \omega_1)}$ ---
+спектр фаз. \textbf{Оба они дискретны}. Вторая форма:
+\[ A(j k \omega_1) = A_k - j B_k \]
+\[ A_k = \frac{2}{T} \int_{t_1}^{t_2} u(t) \cos(k \omega_1 t) dt \]
+\[ B_k = \frac{2}{T} \int_{t_1}^{t_2} u(t) \sin(k \omega_1 t) dt \]
+Отсюда видно, что \[ A(j \omega_1) = \sqrt{A_k^2 + B_k^2} \]
+\[ \phi(k \omega_1) = \arctan \left( \frac{B_k}{A_k} \right) \] Если в
+данных формулах положить $k = 0$, то получится равенство для
+постоянной (огибающей) составляющей сигнала:
+\[ \frac{A_0}{2} = \frac{1}{T} \int_{t_1}^{t_2} u(t) dt \]
+
+Отсюда:
+\[ u(t) = \frac{A_0}{2} + \frac{1}{2} \sum_{k = 1}^{\infty} (A(j k \omega_1) e^{j k \omega_1 t} + A(-j k \omega_1) e^{-j k \omega_1 t}) = \frac{A_0}{2} + \sum_{k = 1}^{\infty} A(k \omega_1) \cos (k \omega_1 t - \phi(k \omega_1))\]
+
+Спектр амплитуд $A (k \omega_1)$ и спектр фаз $\phi (k \omega_1)$ согласно данному представлению могут быть
+представлены в виде совокупности линий, каждая из которых соответствует
+определённой частоте. Поэтому эти спектры называют \emph{линейчатыми}.
+Сигналы, линейчатые спектры которых включают гармоники некоторых частот,
+которые не кратны, называют \emph{почти периодическими}.
+
+Согласно этому представлению построим распределение энергии в спектре
+периодического сигнала.
+
+\subsubsection{Распределение энергии в спектре периодических сигналов}
+
+Пусть имеется период $T$, сигнал периодический. Тогда распределение энергии в спектре
+периодических сигналов будет определятся интегралом:
+\[\int_{0}^{T} |u(t)|^2 dt = \int_{0}^{T} \left| \frac{A_0}{2} + \frac{1}{2} \sum_{k = 1}^{\infty} (A(j k \omega_1) e^{j k \omega_1 t} + A(-j k \omega_1) e^{-j k \omega_1 t}) \right|^2 dt = \]
+\[
+= \frac{A_0^2}{4} \int_{0}^{T} dt + 
+\left( 
+\frac{A_0}{2} \sum_{k=1}^{\infty} A(jk\omega_1) \int_0^T e^{jk\omega_1 t} dt + \frac{A_0}{2} \sum_{k = 1}^\infty A(-j k \omega_1) \int_0^T e^{-j k\omega_1 t} dt +
+\right) \]
+\[ + \frac{1}{2} \sum_k \sum_l A(j k \omega_1) A(-j l \omega_1) \int_0^T e^{j k \omega_1 t} e^{-j k \omega_1 t} dt\]
+
+\[ \int_0^T e^{jk\omega_1 t} dt = \int_0^T e^{-j k \omega_1 t} dt = 0 \]
+Эти два интеграла будут равны 0, если $k$
+
+\[ \int_0^T e^{j \omega_1 t (k - l)} dt = \begin{cases}
+    T, k = l \\
+    0, k \neq l
+\end{cases}\]
+
+В результате этого у нас останется
+\[ \int_0^T |u(t)|^2 dt = \frac{A_0^2}{2} * \frac{T}{2} + \frac{T}{2} \sum_{k = 1}^{\infty} | A(j k \omega_1) |^2 \]
+
+Вывод: согласно данному представлению получаем, что средняя за период
+энергия будет равна сумме средних энергий, выделяемых каждой гармоникой.
+
+\subsubsection{Частотное представление непериодических сигналов}
+
+Предположим, что соответствующая реальному непериодическому сигналу
+$u(t)$ удовлетворяет условию Дирихле и абсолютно интегрируема. Тогда
+спектральное представление непериодического сигнала $u(t)$ можно строить
+путём увеличения периода периодического сигнала до бесконечности.
+
+С учётом того, что использовался период $\frac{2\pi}{\omega_1}$ будет
+иметь представление:
+\[ u(t) = \frac{1}{2} \sum_{k = -\infty}^{\infty} \left( \frac{\omega_1}{\pi} \int_{t_1}^{t_2} u(t) e^{-j k \omega_1 t} dt \right) e^{jk \omega_1 t} \]
+
+Осуществим предельный переход, при этом $T \to \infty$. При этом сумма
+перейдёт в интеграл, $\omega_1 = \Delta \omega \to d \omega$,
+$k\omega_1 \to \omega$. В результате этих преобразований $u(t)$
+Будет иметь вид:
+\[ u(t) = \frac{1}{2\pi} \int_{-\infty}^{\infty} ( \int_{-\infty}^\infty u(t) * e^{-j \omega t} dt) e^{j \omega t} d\omega \]
+
+Обозначим за $S(j\omega)$ выражение $\int_{-\infty}^\infty u(t) * e^{-j \omega t} dt$, получим:
+\[ u(t) = \frac{1}{2\pi} \int_{-\infty}^\infty S(j\omega) e^{j\omega t} d\omega \]
+\[ S(j\omega) = \int_{-\infty}^\infty u(t) e^{-j\omega t} dt \]
+
+Эта пара называется парой преобразования Фурье для непериодического
+сигнала.
+
+Функция $S (j\omega)$ называется комплексной спектральной плотностью или
+спектральной характеристикой непериодического сигнала. По аналогии с
+период сигналом, спектральная характеристика имеет следующие два представления: Показательная
+форма: \[ S(j \omega) = S(\omega) e^{-j\phi(\omega)} \] 
+
+$S(\omega)$ -- спектральная плотность амплитуд, Спектр фаз --- $e^{-j\phi(\omega)}$.
+
+Построим алгебраическую форму:
+
+\[ e^{-j\omega t} = \cos(\omega t) - j \sin(\omega t)\]
+\[ S(j \omega) = A(\omega) - j B(\omega) \], где
+\[ A(\omega) = \int_{-\infty}^{\infty} u(t) \cos(\omega t) dt \]
+\[ B(\omega) = \int_{-\infty}^{\infty} u(t) \sin(\omega t) dt \]
+
+При этом $S(j \omega)$ будет представлена через \[ S(\omega) = \sqrt{|A(\omega)|^2 + |B(\omega)|^2} \]
+\[ \phi(\omega) = \arctan \frac{B(\omega)}{A(\omega)} \]
+
+\ldots{}
+
+\[ S(\omega) = |S(j \omega)| \]
+
+\ldots{}
+
+\[ u(t) = \frac{1}{2\pi} \int_{-\infty}^{\infty} S(\omega) e^{j(\omega t - \phi(\omega))} d\omega =
+\frac{1}{2 \pi} \int_{-\infty}^\infty S(\omega) \cos(\omega t) - \phi(\omega)) d\omega + j \int_{-\infty}^\infty S(\omega) * \sin(\omega t * \phi(\omega) d \omega) \]
+
+Второй интеграл будет = 0 в силу четности, а первый в силу \ldots{} можно записать только ???. Таким образом мы получим
+тригонометрическую форму ряда фурье.
+\[ u(t) = \frac{1}{\pi} \int_0^\infty S(\omega) \cos(\omega t - \phi(\omega)) d\omega \]
+
+Если ограничить функцию $u(t)$ интервалом времени от $t1$ до $t2$, то можно записать функцию
+
+\[ S(j \omega) = \int_{t_1}^{t_2} u(t) e^{-j\omega t} dt \]
+
+Обращаясь к предыдущим вычислениям, получим \[ A(j \omega) = \frac{2}{T} S(j \omega) \]
+
+Если у непериодического сигнала взять единичный импульс, можно построить
+линейчатый спектр его периодической последовательности.
+
+\subsubsection{Распределение энергии в спектре непериодического сигнала}
+
+Выражение для величины, характеризующей энергию для \ldots{} запишем след образом:
+\[ \int_{-\infty}^{\infty} |u(t)|^2 dt = \int_{-\infty}^{\infty} u(t) (\frac{1}{2\pi} \int_{-\infty}^{\infty} S(j\omega) e^{-j\omega t} d\omega ) dt = \]
+\[ = \frac{1}{2\pi} \int_{-\infty}^{\infty} S(j\omega) (\int_{-\infty}^\infty u(t) e^{j \omega t} dt) d\omega = \]
+\[ = \frac{1}{2\pi} \int_{-\infty}^{\infty} S(j\omega) S(-j\omega) d\omega = \frac{1}{2\pi} \int_{-\infty}^\infty |S(j\omega)|^2 d\omega \]
+
+Согласно равенству Персиваля
+\[ = \frac{1}{\pi} \int_0^\infty |S(j \omega)|^2 d\omega \] В соответствии с
+этим равенством энергия выделяемая непериодическим сигналом за всё время
+его существования можно определить, интегрируя квадрат модуля
+спектральной характеристики в интервале частот.
+
+Определим соотношение между длительностью сигнала и шириной его спектра.
+Предположим, что сигнал $u(t)$ имеет определённую продолжительность и
+имеет спектральную характеристику $S(j\omega)$. Увеличим длительность
+сигнала в некоторую $\lambda$ раз и найдём соответствущую
+спектральную характеристику
+\[ S_\lambda (j\omega) = \int_{-\infty}^\infty u(\lambda t) e^{-j \omega t} dt = \]
+Пусть есть некоторое $\tau = \lambda t$. Тогда
+\[ = \frac{1}{\lambda} \int_{-\infty}^\infty u(\tau) e^{-j \omega \tau / \lambda} d\tau = \frac{1}{\lambda} S(j \frac{\omega}{\lambda}) \]
+
+Из данного равенства видно, что спектр удлиннённого или укороченного в
+$\lambda$ раз будет в $\lambda$ уже или шире, при этом коэффициент в
+$\frac{1}{\lambda}$ изменяет только амплитуды гармоник и не влияет на
+ширину спектра. Это связано с тем, что переменные $t$ и $\omega$
+находятся в показателе степени экспоненциальной функции как прямого преобразования
+Фурье, так и обратного. Из этого следует, что длительность сигнала и
+ширина его спектра не могут быть одновременно ограничены конечными
+интервалами. В частности, имеет место соотношение
+$\Delta t : \Delta f = const$, где $\Delta t$ --- длительность
+импульса, а $\Delta f$ --- ширина.
+
-- 
cgit v1.2.3

