模式识别习题解答第三章Word文档下载推荐.docx

模式识别习题解答第三章Word文档下载推荐.docx

《模式识别习题解答第三章Word文档下载推荐.docx》由会员分享，可在线阅读，更多相关《模式识别习题解答第三章Word文档下载推荐.docx（16页珍藏版）》请在冰豆网上搜索。

题3：

两类模式，每类包括5个3维不同的模式，且良好分布。

如果它们是线性可分的，问权向量至少需要几个系数分量？

假如要建立二次的多项式判别函数，又至少需要几个系数分量？

（设模式的良好分布不因模式变化而改变。

）答：

（1）若是线性可分的，则权向量至少需要Nn14个系数分量；

5!

（2）若要建立二次的多项式判别函数，则至少需要N10个系数分量。

2!

3!

题4：

用感知器算法求下列模式分类的解向量w:

ω1:

{（000）T,（100）T,（101）T,（110）T}

ω2:

{（001）T,（011）T,（010）T,（111）T}解：

将属于w2的训练样本乘以

（1），并写成增广向量的形式x1=[0001]'

x2=[1001]'

x3=[1011]'

x4=[1101]'

;

x5=[00-1-1]'

x6=[0-1-1-1]'

x7=[0-10-1]'

x8=[-1-1-1-1]'

迭代选取C1，w

（1）（0,0,0,0），则迭代过程中权向量w变化如下：

w

（2）（0001）；

w（3）（00-10）；

w（4）（0-1-1-1）；

w（5）（0-1-10）；

w（6）（1-1-11）；

w（7）（1-1-20）；

w（8）（1-1-21）；

w（9）（2-1-12）；

w（10）（2-1-21）；

w（11）（2-2-20）；

w（12）（2-2-21）；

收敛所以最终得到解向量w（2-2-21），相应的判别函数为d（x）2x12x22x31。

题5：

用多类感知器算法求下列模式的判别函数：

ω1:

（-1-1）T，ω2:

（00）T，ω3:

（11）T

1

x11

x2

x3

取初始值

w1

w2

w3

0，取C1，则有

解：

采用一般化的感知器算法，将模式样本写成增广形式，即

第一次迭代：

以x1为训练样本，d1

（1）d2

（1）d3

（1）0，故

111

w1

（2）1,w2

（2）1,w3

（2）1

第二次迭代：

以x2为训练样本，d1

（2）1,d2

（2）1,d3

（2）

w1（3）1,w2（3）1,w3（3）1

002

第三次迭代：

以x3为训练样本，d1（3）2,d2（3）2,d3（3）

102

w1（4）1,w2（4）0,w3（4）2

011

第四次迭代：

以x1为训练样本，d1（4）2,d2（4）1,d3（4）

w1（5）w1（4）,w2（5）w2（4）,w3（5）w3（4）

第五次迭代：

以x2为训练样本，d1（5）0,d2（5）1,d3（5）

102

w1（6）1,w2（6）0,w3（6）2

第六次迭代：

以x3为训练样本，d1（6）3,d2（6）0,d3（6）

w1（7）w1（6）,w2（7）w2（6）,w3（7）w3（6）

第七次迭代：

以x1为训练样本，d1（7）1,d2（7）0,d3（7）

1，故

0，故

5，故

2，故

6，故

w1（8）w1（7）,w2（8）w2（7）,w3（8）w3（7）

第八次迭代：

以x2为训练样本，d1（8）1,d2（8）0,d3（8）2，故

w1（9）w1（8）,w2（9）w2（8）,w3（9）w3（8）

由于第六、

七、八次迭代中对

x3,x1,x2均以正确分类，故权向量的解为：

0,w3

2

2，可得三个判别函数为：

d1

d2

d3

x1

2x1

x2

2x2

题6：

采用梯度法和准则函数J（w,x,b）

8x

12（wtxb）

t

wx

，式中实数b〉

0，试导出两类模式的分类算法。

J12[（wtxb）|wtxb|]*[xx*sgn（wtxb）]w4||x||2

其中：

sgn（wtxb）

1,wtxb0

得迭代式：

w（k1）w（k）

C

4||x||2

[（w（k）tx

b）|w（k）txb|]*[xx*sgn（w（k）txb）]

wtxb0

wtxb0

w（k1）w（k）C（bwtx）

x2x

题7：

用LMSE算法求下列模式的解向量：

{（001）T,（011）T,（010）T,（111）T}

写出模式的增广矩阵X：

0001

1001

1011

1101

X

0011

0111

0101

1111

#t1t0

X#（XtX）1Xt（

111

21

121

=（2

）

11

222

4

取b

（1）=

（11

11）t和C=1

11）1

#tw

（1）=X#b

（1）=（1-1-10.5）t

e

（1）=Xw

（1）-b

（1）=（-0.50.5-0.5-0.5

0.50.5

0.5

0.5）t

w

（2）=w

（1）+CX#e

（1）=（1.5-1.5-1.50.75）t

b

（2）=b

（1）+C[e

（1）+e

（1）]=（12111211）t

e

（2）=Xw

（2）-b

（2）=（-0.250.25-0.25-0.25-0.250.25-0.25-0.25）t

w（3）=w

（2）+CX#e

（2）=（1.75-1.75-1.750.875）t

b（3）=b

（2）+C[e

（2）+e

（2）]=（12.51112.511）t

e（3）=Xw（3）-b（3）=（-0.1250.125-0.125-0.125-0.1250.125-0.125-0.125）t

w（4）=w（3）+CX#e（3）=（1.875-1.875-1.8750.9375）t

b（4）=b（3）+C[e（3）+e（3）]=（12.751112.7511）t第四次迭代：

e（4）=Xw（4）-b（4）=（-0.06250.0625-0.0625-0.0625-0.06250.0625-0.0625-0.0625）t

w（5）=w（4）+CX#e（4）=（1.9375-1.9375-1.93750.9688）t

b（5）=b（4）+C[e（4）+e（4）]=（12.8751112.87511）t第五次迭代：

e（5）=Xw（5）-b（5）=（-0.03130.0313-0.0313-0.0313-0.03130.0313-0.0313-0.0313）t

w（6）=w（5）+CX#e（5）=（1.9688-1.9688-1.96880.9844）t

b（6）=b（5）+C[e（5）+e（5）]=（12.93751112.937511）t第六次迭代：

e（6）=Xw（6）-

b（6）=（-

0.01560.0156-

0.0156-

0.01560.0156

0.0156

-0.0156）t

w（7）=w（6）

+CX#

e（6）=（1.9844

-1.9844

-1.9