8. многомерное распознавание

8. многомерное распознавание

Распознавание многомерных образов, различающихся векторами средних. Пусть на вход распознающей системы поступают

многомерные (векторные) наблюденияv i f1, принадлежащие одному из двух классов s1 и s2, различающихся только своими неизвестными

векторами средних СІ1 и СІ2 (и, следовательно, имеющие общую ковариационную матрицу М). Оценки неизвестных векторов средних a1 и a2 определяются в результате обучения из (5.30):

2 „

= 1 ^ x(1) д 1 »

m,=1 (8.1)

Оценка логарифма отношения правдоподобия lnLfa'---'x") будет иметь следующий вид:

lnL{xj,...,xH) = 1 Z {(x, ajУ M-1 (x, t2)(x, tC2У M(x, a2)]}=

-(Щ aj) M 1 2 2 „ _ ^ ^

— Z x, a2 a1

і=1

—у M z,

2 (8.2)

где обозначены случайные величины y и z

n

z = (2Jn )Z xj сГ2 аа

In/ I Y* Y* I

Решающее правило получается подстановкой значения v 1>---' п)

у =й2 -аі; i=1 (8.3)

ее

из (8.2) в (6.56):

п

У 2

> <

Уі , (8.4)

где порог ln С в связи с предпочтением алгоритму максимального правдоподобия, сохраняющему свои оптимальные свойства при подстановке в него оценок логарифма правдоподобия (см. разд. 6), выбираем, как правило, равным: ln С = 0 (т. к. в этом случае С = 1).

Вероятность ошибок распознавания многомерных образов с разными векторами средних. Нахождение вероятности ошибок распознавания 1-го и 2-го рода а и Р осуществляется [1, 2] по той же методологии, что и нахождение вероятностей ошибок распознавания одномерных образов в разделе 7 (см. формулы (7.2) (7.21)), предусматривающей вычисление плотности вероятности оценок логарифма отношения правдоподобия (8.2), которое выражается по формуле (7.6) через введенные в (8.3) случайные величины y и z как распределение произведения этих случайных величин. В результате выполненного в работах [1, 2] достаточно трудоемкого и сложного процесса интегрирования общее выражение для вероятности ошибок многомерного распознавания первого и второго рода аир удается свести к следующему двойному интегралу (при С = 1)

tp-1 X

а = р = [®(p )exp {d 72а2 }/лІ2к(р 3) |][J t

0 -7t/2

х cos

p-2

Фexp{(1/2)[r2 2doltsin(p]}>

х F [d sin ер/а 2 ]dtdф,

где

(8.5)

1

, если p = 2k +1

0(p ) =

— , ecnup = 2k,

(8.6)

22 а1 и а2

F(x) - табулированный интеграл Лапласа (7.13), выражаются через объемы контрольных n и обучающих m выборок по формулам (7.8):

а;2 = 2/m . а:; = 2/m + 4/n

а d скалярная величина расстояние Махаланобиса [17]:

d 2 = (р2 a1 Jm-1 (р2 a1) . (87)

Как видно из приведенных па рисунке 11 данных с уменьшением значения объемов обучающих m=M и контрольной n=N выборок требуемое значение размерности признакового пространства P, обеспечивающее заданный уровень достоверности распознавания 1 а = 1 р, увеличивается. Аналогичный характер носит взаимосвязь выбранной размерности признакового пространства Р с требуемыми объемами обучающих m=M и контрольной n=N выборок: сокращение размерности Р должно компенсироваться увеличением объемов m=M и n=N.

Таким образом, в тех случаях, когда по условиям функционирования систем распознавания увеличение с целью обеспечения требуемой достоверности значения какого-либо из ее параметров (к примеру, объемов обучающих m = M и (или) контрольной n = N выборок) оказывается невозможным, заданный уровень может быть достигнут увеличением другого параметра (к примеру, размерности признакового пространства P).

Возвращаясь к общему выражению (8.5) вероятности ошибок многомерного распознавания а и в, следует заметить, что аналитически выразить а = в удается при р = 2k +1, k = l, 2, однако лишь в трехмерном случае (k=1) получается сравнительно компактное выражение через табулированный интеграл Лапласа (7.13):

а 3 =в3 = F (d/ а1 )f(d/ а2) + F(d/ а1 )F(d/a 2) +

+

р1°^V2nd(2 а2)]{а2exp{d72а2 }f(dlа2) -F(dl° 2)] ct1 exp{d V2c 2}p(d/ct1) F(dlст1 )]} (8.8) Распознавание многомерных ансамблей с неизвестными векторами средних и неизвестными разными ковариационными матрицами. В наиболее общем случае априори неизвестными оказываются как

векторы средних а, ^2, так и ковариационные матрицы м, М2 распознаваемых ансамблей. В ходе обучения вычисляются оценки С и СІ2 неизвестных векторов средних по формулам (5.30)

і m і m

m г=1 m ,=i .

И оценки м и м неизвестных ковариационных матриц по формулам (5.33):

М = ^ Е (Хг(1)-Сі Сі);

m °~ (8.9) Решающее правило будет иметь следующий вид:

2 г=і 2 detM2 <

2Уі (8.10)

где как и ранее в связи с предпочтением, отдаваемым алгоритму максимального правдоподобия (см. раздел 6), порог ln С = 0, т. к. в этом случае С = 1.

Автор выражает глубокую благодарность студенту 3-го курса МЭСИ Я. Я. Фомину за активное участие в написании этого пособия.