paper指出deepwalk是一种学习网络中节点的表示的新的方法，是把language modeling的方法用在了social network里面，从而可以用deep learning的方法，不仅能表示节点，还能表示出节点之间的拓扑关系，也就是表现出社会网络的社会关系。说白了就是用一个低维向量去表示网络中的每个节点。

如下图示，输入的是一个网络，其中颜色相同的结点表示拓扑关系上更为相近的结点。输出的是每个节点的二维向量，每个节点对应的向量关系如图所示。我们可以从这个图看出，越是拓扑结构相近的点，其对应的二维向量在二维空间上距离与近。

2. deepwalk优势

2.1 online学习

deepwalk是可扩展的（scalable），它是一个online的学习算法，仅需要local的信息，可以在后续有添加的新的信息的时候，无需从头学习，只需要学习新的结点的信息就可以了（因为使用了random walk）。

2.2 并行

使用random walk，它可以同时从不同的结点处开始random walk从而开始学习的过程。

2.3 信息缺失

deepwalk相比于其他方法有更好的效果，特别是在信息缺失，labeled data稀疏，以及training data较少的时候。

2.4 graph embedding

便于将一些机器学习的算法应用到网络中。网络数据不同于传统的数据，它不仅包含了节点的信息，还包含了节点间的关系，对于传统的机器学习算法，很难将其应用于网络中。例如网络中的社团发现算法，大多数情况下我们都针对网络做大量的游走，不断改变网络的社团结构，以使网络获得最优的模块度，但是如果我们能将拓扑信息嵌入到低维向量中，那么每个节点我们都可以看做是一个样本，每个维度都可以看做一个feature，那么只需要跑个聚类算法，就可以得到很好的结果。除了聚类，还有链路预测、推荐等一系列网络中的问题，都可以直接扔到机器学习的相关算法中跑出来。

3. deepwalk算法和流程实现

用random walk（随机游走）生成多个网络，然后送到word2vec去训练。
主要步骤：Network/graph->random walk（见下图）->得到节点序列（representation mapping）->放到skip-gram模型中（word2vec模型，见下图）->output：representation。

图1 random walk算法流程

图2 word2Vec算法流程

二、deepwalk在推荐应用

以最经典的电影推荐场景为例，数据集在data中，包括用户对电影评分、电影与对应实体（导演、演员、类型）关系。开发环境为python2.7。graph中节点是用户、电影、演员、流派、导演和评分。graph中边表示实体关系。如下图所示。

1. 目标

预测用户对某些项目的偏好，他们尚未使用基于图形的协同过滤技术，DeepWalk对用户电影评级数据集进行评级。
首先，使用电影评论数据集，创建了具有节点作为用户，电影及其相关实体（演员，导演）的异构图形网络。
DeepWalk用于在此图表上生成随机游走。
使用Word2Vec将这些随机游走嵌入低维空间。
通过找到与用户节点具有最高相似性的电影评级节点来完成对用户 - 电影对的评级的预测。

2. 代码说明

2.1 数据格式

2.1.1 user-item对应的rating（click）

加载每个用户对物品评分数据，数据格式如下：

userId-itemId-rating(click)

产出用户对一系列电影评分对字典，key为userId，value为dict，包含（itemId, rating），如下：

ratings[75] = [(3,1), (32,4.5), ...]

2.1.2 item

加载item数据产出字典，key为itemId，value为item object（包含item相关entity），同时产出entity对应set

2.1.3 graph中node数据

构建graph不同实体对应的节点字典，key为nodeId，value为node object

例如，节点u75的id为12，nodedict['u75'].id=12

更新node中user和item rating邻近边连接、movie-entity邻近边连接

例如，itemTag_node.neighbors.append(item_node)

itemKs_node.neighbors.append(item_node)

记录graph

a. node.id node.name node.type

b. node.id与邻近node.id列表

2.2 代码说明

random walk（随机游走）生成多个网络

walk = graph.build_deepwalk_corpus(G, args.number_walks, args.walk_length, alpha=0,rand=random.Random(0))

word2vec训练

model = Word2Vec(walk, size=args.representation_size, window=args.window_size, min_count=0, workers=args.workers)

测试集预测输出（rating,probability）

pr = [predict_rating(model, nodedict, "u"+g[0], "m"+g[1]) for g in groundtruth]

测试评估

cm = confusion_matrix(tr, [x for x,y in pr], labels=range(1,6))

考虑到召回排序概率输出，修改主函数predict_rating方法如下

def predict_rating(model, nodedict, user, movie):
    user_id = nodedict[user].id
    max_sim = -5
    rating = 1
    for i in range(1,6):
        mv_rating_id = nodedict[movie+ '_'+str(i)].id
        print(user_id + ' ' + mv_rating_id)
        sim = model.similarity(user_id,mv_rating_id)
        if sim > max_sim:
            max_sim = sim
            rating = i
    # print max_sim
    return rating,max_sim

3. 实验输出

在根目录下运行如下命令

python -m rec2vec --walk-length 2 --number-walks 2 --workers 4

输出结果

('pr:', [(5, 0.21816131), (4, 0.20109792), (5, 0.034278974), (1, 0.0817812), (1, 0.1895898), (4, 0.14069618), (4, 0.12413461), (1, 0.20211244), (4, 0.16178176), (1, 0.09314764), (5, 0.2
3614138), (4, 0.02361415), (4, -0.016169287), (1, 0.12822491), (5, 0.16889313), (1, 0.23871139), (1, 0.09779738), (5, 0.17009582), (2, 0.21155474), (2, 0.18502049), (5, 0.27953783), (5,
0.100041725), (3, 0.07343325), (1, 0.08252329), (3, 0.26863274), (3, 0.34024507), (2, 0.103544936), (2, 0.11577217), (4, 0.15979269), (3, 0.30636942), (1, 0.25730887), (4, 0.061695002)
, (2, 0.20840712), (2, 0.13220808), (3, 0.23808427), (2, 0.14603713), (1, 0.11540766), (1, 0.13575834), (5, 0.059446838), (1, 0.07711147), (4, 0.14923696), (4, 0.2722487), (2, 0.2346659
9), (3, 0.19906865), (1, 0.14096469), (5, 0.14809427), (1, 0.27588558), (2, 0.049835917), (3, 0.22439061), (4, 0.26521543), (5, 0.084800266), (5, 0.22411942), (3, 0.08701491), (1, 0.276
06452), (3, 0.14768085), (4, 0.18523756), (5, 0.21913356), (4, 0.14610341), (2, -0.00232796), (1, 0.18832827), (4, 0.24060583), (1, 0.13566783), (2, 0.10522525), (2, -0.022895731), (2,
0.1528495), (2, 0.22059903), (1, 0.18788002), (3, 0.12985392), (5, 0.20362195), (2, 0.15624195), (5, 0.015708663), (4, 0.09150217), (1, 0.10535277), (5, 0.29844967), (4, 0.032513976), (
3, 0.04269788), (4, 0.21425033), (5, 0.2109319), (1, 0.04806234), (1, 0.03421749), (4, 0.09020723), (1, 0.1988868), (5, 0.084368914), (5, 0.13037832), (3, 0.2060321), (1, 0.18835515), (
3, 0.088122), (4, 0.10270446), (1, 0.00046277046), (4, 0.10155096), (2, 0.19855878), (4, 0.08657752), (3, 0.19608632), (3, 0.1202642), (1, 0.11801123), (2, 0.10863748), (3, 0.20957142),
(1, 0.29679668), (1, 0.31492934), (5, 0.16466765), (4, 0.06138492), (2, 0.11375506), (2, -0.007489592), (2, 0.03196878), (3, 0.084200725), (4, 0.017001187), (1, 0.08951633), (3, 0.0839
5792), (3, 0.13884424), (3, 0.15994956), (4, 0.342631), (1, 0.18296947), (2, 0.14880049), (5, 0.2684232), (5, 0.051952906), (5, 0.18990274), (3, 0.12617008), (5, 0.18614042), (3, 0.0455
6681), (5, 0.27489257), (2, 0.2231451), (5, 0.26258737), (1, 0.19376503), (4, 0.08457033), (5, 0.123674154), (3, -0.0063731894), (3, 0.17616285), (2, 0.23088284), (1, -0.01068541), (3,
0.16207498), (5, 0.053388447), (5, 0.050843887), (1, 0.17820688), (5, 0.20822495), (5, 0.17167237), (2, 0.24977536), (4, 0.123614445), (1, 0.3075183), (3, 0.080922134), (1, 0.013895277)
, (3, 0.017329933), (1, -0.021159858), (3, 0.29671937), (5, 0.074710086), (3, 0.20030534), (2, 0.15873557), (1, 0.21483278), (3, 0.2165505), (3, 0.19273187), (5, 0.17925854), (2, 0.1507
6035), (3, 0.19059706), (1, 0.14070553), (5, 0.1775071), (1, 0.13031097), (5, 0.085311405), (4, 0.12753496), (1, 0.08845517), (2, 0.1353336), (4, 0.1441082), (5, 0.073139444), (3, 0.214
94135), (2, 0.02128306), (4, 0.1538286), (5, 0.23735538), (3, 0.19050908), (1, 0.08713859), (4, 0.13740018), (1, 0.12787805), (4, 0.17423905), (1, 0.19951484), (2, 0.13757001), (4, 0.03
1362798), (5, 0.12463115), (5, 0.2578966), (5, 0.21448083), (1, 0.18083008), (1, 0.28816417), (1, 0.24632607), (2, 0.30158502), (1, 0.31293115), (1, 0.094477326), (3, 0.115177415), (5,
0.14438748), (1, 0.27524439), (1, 0.1842051), (3, 0.19450381), (4, 0.35496825), (5, 0.09325806), (5, 0.19271731), (3, 0.08929752), (3, 0.0045700073), (4, 0.15969041), (4, -0.014291994),
(3, 0.15290177), (2, 0.16745171), (1, 0.1293597), (2, 0.07012263), (4, 0.27942258), (1, 0.079426385), (2, 0.11384687), (2, 0.09437539), (5, 0.16971792), (1, 0.2036725), (4, 0.105627805
), (3, 0.2639934), (3, 0.20161262), (1, 0.21982545), (3, 0.22584116), (2, 0.31147254), (4, 0.19017792), (4, 0.09382077), (2, 0.19933856), (1, 0.26786482), (3, 0.25363925), (1, 0.1552078
), (3, 0.07694785), (1, 0.11198787), (3, 0.12250619), (4, 0.26072007), (1, 0.20808263), (4, 0.18883303), (2, 0.11193773), (3, 0.07373013), (1, 0.07577308), (3, 0.11675087), (3, 0.302308
9), (4, 0.054347187), (3, 0.22047992), (3, 0.14740135), (4, 0.1622066), (4, 0.04669784), (1, 0.15336086), (1, 0.24133927), (4, -0.0021706335), (4, 0.081205234), (1, 0.24734727), (1, 0.2
0000756), (4, 0.063037425), (1, 0.11106023), (1, 0.1734642), (4, 0.31718957), (3, 0.11896736), (3, 0.14219648), (2, 0.11649312), (2, 0.091636285), (5, 0.19646621), (3, 0.100293726), (2,
0.37355578), (4, 0.30815482), (1, 0.03521269), (3, 0.31610578), (4, 0.071553566), (5, 0.06822196), (4, 0.030617476), (3, 0.11699201), (5, 0.18080503), (4, 0.21890192), (1, 0.07576093),
(1, 0.20664755), (4, 0.11371016), (2, 0.23809673), (3, 0.16400945), (2, 0.26033786), (1, 0.14217708), (5, -0.00067877397), (1, 0.15977417), (2, 0.319161), (4, 0.2369632), (3, 0.0247773
45), (3, 0.22936185), (2, 0.04639913), (3, 0.22453552), (1, 0.18700382), (5, 0.07391004), (2, 0.16498145), (2, 0.1169599), (4, 0.30541867), (2, 0.19140558), (1, 0.16878137), (1, 0.18917
711), (2, 0.12884183), (1, 0.11587468), (5, 0.12812695), (4, 0.11499435), (5, 0.28076252), (4, 0.15078825), (4, 0.21074799), (3, 0.03541722), (5, 0.20991008), (4, 0.045722425), (2, 0.35
532284), (5, 0.057033926), (1, 0.18294954), (3, 0.21958742), (4, 0.100919805), (4, 0.06933588), (4, 0.016932681), (1, 0.09636212), (3, 0.15291478), (2, 0.1203253), (5, 0.102916986), (5,
0.096363604), (4, 0.18717396), (1, 0.12784661), (5, 0.13674304), (1, 0.082834356), (2, 0.25134432), (3, 0.28607863), (5, 0.102933414), (2, 0.15709956), (3, 0.1754892), (1, 0.061570693)
, (2, 0.18702352), (5, 0.1885113), (1, 0.25197443), (1, -0.06756012), (4, 0.14790666), (4, 0.08924671), (2, 0.072606966), (1, 0.14800742), (1, 0.120617226), (4, 0.13691652), (3, 0.13947
365), (5, 0.1876937), (5, 0.14674154), (5, 0.032142762), (5, 0.006960973), (5, 0.1605773), (1, 0.21655774), (4, 0.19649123), (5, 0.16793214), (2, 0.29418632), (5, 0.17750135), (3, 0.112
22335), (1, 0.21497172), (5, 0.061423052), (2, 0.14069626), (3, 0.21288031), (5, 0.21811429), (2, 0.17711769), (5, 0.17799331), (3, 0.019438269), (4, 0.15911222), (5, 0.17638193), (5, 0
.22661248), (4, 0.0126395915), (3, 0.07078837), (5, 0.18787509), (2, 0.05199638), (2, 0.25011823), (3, 0.1890558), (1, 0.25685415), (3, 0.17848898), (1, -0.009719856), (4, -0.039005123)
, (5, 0.14849833), (3, 0.19349098), (5, 0.37085313), (2, 0.29527593), (1, 0.16922833), (2, 0.2932027), (1, 0.30389866), (2, 0.11634572), (3, 0.19545603), (4, 0.18068293), (1, 0.06132693
6), (3, 0.097818166), (1, 0.1206724), (3, 0.19063818), (2, 0.18082207), (3, 0.09661825), (5, 0.1800197), (3, 0.25451225), (4, 0.13649338), (4, 0.054450236), (1, 0.17042688), (4, 0.14862
82), (2, 0.058739893), (3, 0.15602693), (3, 0.097326234), (1, 0.07460761), (4, 0.14200494), (1, 0.14670196), (5, 0.10726295), (4, 0.07173052), (1, 0.14724214), (4, 0.048008144), (1, 0.1
807193), (2, 0.17268635), (4, 0.14584693), (2, 0.1275903), (5, 0.102712095), (1, 0.07129334), (2, 0.14147732), (4, 0.14394106), (5, 0.111515224), (2, 0.19245665), (3, 0.19533549), (4, 0
.1579197), (3, 0.15098171), (2, 0.13326493), (4, 0.19158895), (3, 0.03437779), (2, 0.13867405), (2, 0.11331645), (3, 0.12698722), (1, 0.03733074), (1, 0.097034216), (2, 0.18252902), (1,
0.22841588), (1, 0.15631078), (3, 0.20651267), (5, 0.0695567), (3, 0.16345459), (2, 0.124408886), (2, 0.13388517), (2, 0.1424464), (1, 0.11532164), (5, 0.14926729), (2, 0.09753678), (2
, 0.07735514), (1, -0.041438695), (2, 0.13634747), (3, 0.09889061), (3, 0.21301061), (1, 0.25176686), (4, 0.008460121), (2, 0.10999752), (2, 0.11675982), (4, 0.018968707), (5, 0.1430986
), (5, 0.05575361), (5, -0.0052082017), (2, 0.1611993), (1, 0.18056107), (5, 0.119257554), (1, 0.11375291), (5, 0.12525466), (3, 0.0809456), (4, 0.07455471), (4, 0.25821656), (3, 0.2579
6527), (2, 0.1463536), (5, 0.1099333), (1, 0.14906903), (4, 0.11252696), (2, 0.0067453235), (3, 0.14177734), (5, 0.18845876), (5, 0.22354114), (5, 0.07709133), (3, 0.051935345), (4, 0.0
6109525), (4, 0.14686196), (1, 0.0640319), (4, 0.2518434), (2, 0.21182023), (3, 0.089264035), (5, 0.11324333), (3, 0.12506121), (5, 0.17711715), (5, 0.006076865), (2, 0.12242938), (4, 0
.07770117), (3, 0.20457771), (4, 0.08699021), (2, 0.2164577), (3, 0.105829604), (5, 0.060142342), (2, 0.10044432), (2, 0.07593567), (3, 0.203795), (1, 0.14981823), (2, 0.0767544), (5, 0
.14422897), (5, 0.09010744), (1, 0.15796687), (2, 0.030947387), (3, 0.12287019), (2, 0.104032904), (3, 0.1672854), (5, 0.044725325), (5, 0.15153967), (3, 0.11143564), (2, -0.095833436),
(2, 0.06915021), (1, 0.313274), (4, 0.12510344), (5, 0.03319484), (3, 0.19324894), (5, -0.12448349), (5, 0.24207821), (1, 0.11015023), (4, 0.055411197), (3, 0.050641082), (1, 0.0657534
45), (1, 0.13163531), (1, 0.35598174), (1, 0.17307048), (5, 0.05728905), (5, 0.15256743), (2, 0.24028367), (3, 0.16901061), (2, 0.119202614), (2, 0.15047908), (3, 0.121857524), (5, 0.28
258538), (5, 0.12717947), (5, 0.15666166), (4, 0.18157263), (2, 0.11752444), (3, -0.12893867), (2, 0.14782679), (4, 0.2710132), (5, 0.07475789), (5, 0.15503684), (3, 0.21236882), (3, 0.
2285816), (5, 0.15899074), (3, 0.17930806), (5, 0.05748733), (5, 0.08455777), (2, 0.18876159), (2, 0.113560244), (5, 0.13441384), (3, 0.21320292), (5, 0.10615743), (5, 0.05991133), (1,
0.07553083), (2, 0.08952987), (4, 0.18125078), (4, 0.26526135), (1, 0.052370638), (5, 0.14682706), (5, 0.10558613), (4, 0.436755), (4, 0.23253432), (4, 0.059923217), (5, 0.14364381), (4
, 0.13304818), (3, 0.2792371), (4, 0.11398822), (1, 0.0027283374), (4, 0.07193121), (1, 0.1808818), (4, 0.049680114), (5, 0.19352789), (1, 0.09445676), (2, 0.045803107), (4, 0.0812491),
(5, 0.044616953), (4, 0.20646554), (5, 0.15315384), (5, 0.11321557), (4, 0.15085855), (2, 0.066294976), (1, 0.17071514), (5, 0.10340521), (4, 0.101762734), (3, 0.111566365), (1, 0.3434
9093), (1, 0.17052014), (3, 0.105207846), (5, 0.18159007), (3, 0.18138061), (4, 0.057889596), (5, 0.2578139), (2, 0.023944482), (4, 0.0074856356), (5, 0.104918), (4, 0.3194982), (5, 0.2
2877651), (5, 0.053996988), (2, 0.18125774), (1, 0.118075214), (1, 0.13062117), (4, 0.12553525), (2, 0.039375566), (1, 0.090436175), (1, 0.103749014), (1, 0.051823214), (3, 0.06587759),
(1, 0.22331354), (5, 0.09660363), (5, 0.07784081), (2, 0.11956377), (2, 0.1989904), (1, 0.13442518), (1, 0.25298834), (4, 0.08652968), (5, 0.03328624), (3, 0.16566142), (2, 0.15494113)
, (5, 0.2314096), (3, -0.0016691498), (2, 0.18187484), (2, 0.1551536), (3, 0.16754133), (5, 0.12389716), (4, -0.0193413), (4, 0.06419954), (2, 0.34322718), (3, 0.08649354), (2, 0.085514
51), (3, 0.19795784), (2, 0.13961516), (1, -6.246567e-05), (1, 0.22123852), (1, 0.05991626), (5, 0.25454617), (4, 0.2627213), (3, 0.25272122), (1, 0.23446661), (3, 0.12837774), (5, 0.12
509543), (1, 0.11492131), (1, 0.10460806), (2, -0.032336127), (5, 0.08164783), (4, 0.10789485), (3, 0.34308392), (3, 0.07487746), (1, 0.24572855), (2, 0.01855481), (3, 0.20625617), (5,
0.15533194), (4, -0.0027513802), (2, 0.09578468), (1, 0.11245113), (5, 0.12827215), (1, 0.3383854), (3, 0.0947983), (2, 0.08974339), (4, 0.15413098), (5, 0.28738454), (3, 0.1976165), (3
, 0.14459768), (1, 0.16415496), (3, 0.006493412), (3, 0.16446877), (4, 0.16152537), (4, 0.11341628), (1, 0.09779508), (2, 0.043013617), (1, 0.13965543), (2, 0.2265504), (2, -0.04922881)
, (3, 0.12429341), (5, 0.39905363), (3, 0.17065749), (2, 0.22624338), (3, 0.0695349), (5, 0.113958), (1, 0.27387333), (1, 0.1739932), (5, 0.13961138), (2, 0.029010288), (5, 0.12817231),
(5, 0.09210054), (2, 0.14309181), (4, 0.0743984), (2, 0.1723716), (5, 0.15179282), (3, -0.0060843974), (3, 0.20345941), (1, 0.2654695), (3, 0.068751365), (4, 0.12793235), (4, 0.3146927
4), (5, 0.0861329), (5, 0.10623141), (4, 0.2877973), (5, 0.23571223), (2, 0.09697114), (2, 0.104443945), (2, 0.23917234), (2, 0.12633903), (2, 0.13321275), (2, 0.09391786), (4, 0.077377
35), (2, 0.075202376), (3, 0.05085279), (5, 0.08237587), (4, 0.08401398), (4, 0.18482375), (3, 0.1084384), (2, 0.108730815), (1, 0.19696066), (1, 0.03853216), (5, 0.1204455), (4, 0.1440
2586), (3, 0.10808208), (5, 0.2077719), (4, 0.13977401), (2, 0.24000598), (5, 0.12770563), (3, 0.17959732), (2, -0.015797958), (2, 0.21574944), (2, 0.04120606), (5, 0.20060825), (2, 0.0
5181527), (5, 0.12572594), (4, 0.1457076), (5, 0.23594429), (2, 0.19924097), (3, 0.22131689), (2, 0.06781016), (5, 0.0728882), (1, 0.2743342), (3, 0.327725), (5, 0.26241794), (5, 0.0929
3746), (1, 0.099945374), (5, 0.21663651), (4, 0.0010820553), (2, 0.10013774), (2, 0.14807904), (5, 0.01908806), (4, 0.19622293), (4, 0.18764102), (5, 0.1352438), (4, 0.015163317), (1, 0
.04345812), (2, 0.26539654), (3, 0.12682827), (5, 0.19988573), (2, 0.1227909), (3, 0.06895025), (5, 0.055395298), (5, 0.034197822), (3, 0.07114875), (5, 0.113323316), (2, 0.04375164), (
2, 0.13420644), (1, 0.11167153), (3, 0.12998104), (1, 0.19049409), (2, 0.07852906), (1, -0.020163395), (3, 0.10000369), (4, 0.23963374), (5, 0.029045127), (5, 0.2791002), (3, 0.19099182
), (4, 0.15396503), (3, 0.07847809), (3, 0.12811807), (4, 0.24272789), (1, 0.07055864), (5, 0.110551775), (2, 0.024080142), (4, 0.11631779), (1, 0.15951729), (2, 0.08298406), (3, 0.0527
42142), (5, 0.1922698), (1, 0.24001175), (4, 0.122754544), (1, 0.04046601), (4, 0.067693815), (4, 0.08886192), (2, 0.094204), (3, 0.2622779), (5, 0.13195685), (5, 0.112128116), (5, 0.23
344284), (1, 0.08422374), (1, 0.098976955), (1, 0.12915465), (3, 0.20014022), (2, 0.15162179), (3, 0.14853849), (2, 0.1613465), (2, 0.21542767), (5, 0.16992527), (5, 0.10140214), (4, 0.
10272836), (4, 0.18342108), (2, 0.08408554), (1, 0.20563407), (2, 0.13417605), (1, 0.107600525), (3, -0.012937576), (5, 0.14545831), (1, 0.14877093), (3, 0.15306875), (1, 0.08009188), (
5, 0.25879085), (3, 0.1930242), (4, 0.09779415), (5, 0.15513712), (3, 0.122762054), (5, 0.13898216), (2, 0.1231606), (1, 0.27521238), (4, 0.090109825), (1, 0.044761308), (1, 0.090590686
), (4, 0.012622148), (5, 0.1848656), (2, 0.18613426), (4, 0.06478113), (2, 0.30589893), (3, 0.07642689), (4, 0.1610907), (1, 0.22014768), (1, 0.12929447), (1, 0.07659802), (3, 0.1320208
3), (1, 0.15030253), (4, 0.26991358), (1, 0.25571746), (1, 0.2306928), (2, 0.16356678), (5, 0.15511099), (1, 0.10024691), (5, 0.18996009), (5, 0.15336898), (3, 0.063900106), (3, 0.05161
076), (5, 0.12362455), (4, 0.14349785), (2, 0.29415482), (5, -0.0070621707), (4, 0.0860431), (3, 0.04288929), (3, 0.18069243), (1, 0.265643), (3, 0.15393724), (1, 0.0075522885), (4, 0.2
5530675), (5, 0.1240942), (1, 0.17445038), (4, 0.07237303), (4, 0.24799836), (1, 0.18315437), (4, 0.17778847), (5, 0.117372155), (2, 0.15345854), (4, 0.2054658), (1, 0.06618585), (3, 0.
1715607), (5, 0.17025599), (5, 0.1595045), (4, 0.12006809), (4, 0.24124643), (1, 0.1427453), (2, 0.11503786), (5, 0.0487523), (2, 0.14652187), (4, 0.2252657), (1, 0.20099986), (5, 0.046
680827), (2, 0.14714055), (5, 0.1539109), (4, 0.12768804), (1, 0.11251433), (5, 0.033178747), (3, 0.14713132), (2, 0.042278446), (3, 0.08812003), (1, 0.039310224), (2, 0.031013194), (5,
0.17718038), (4, 0.29755443), (1, 0.08322765), (3, 0.07892923), (3, 0.16796982), (2, 0.11792885), (4, 0.116056696), (2, 0.40670633), (2, 0.27048406), (3, 0.10031089), (3, 0.11465276),
(3, 0.07380904), (4, 0.13254686), (4, 0.2430579), (2, 0.110566735), (4, 0.04813756), (2, 0.29551733), (3, 0.26488847), (5, 0.20395921), (4, 0.21600206), (1, 0.12160916), (4, 0.052120045
), (2, 0.33898315), (1, -0.0032448098), (3, 0.23905142), (1, 0.07618111), (5, 0.03267646), (2, 0.06874159), (2, 0.29063818), (5, 0.16543098), (3, 0.12022896), (4, 0.209055), (2, 0.00146
59539), (2, 0.072825395), (5, 0.27890214), (3, 0.1220867), (1, 0.124684356), (2, 0.24095194), (4, 0.18473646), (1, 0.093583286), (1, 0.092360005), (1, 0.09005294), (2, 0.16628239), (3,
0.29856807), (4, 0.16826607), (2, 0.14787601), (3, 0.2472959), (1, 0.17855254), (4, 0.14217025), (3, 0.15582782), (4, 0.22187346), (2, 0.14980505), (3, 0.23822162), (3, 0.15156877), (2,
0.1174627), (5, -0.0032343194), (3, 0.16754167), (2, 0.16212492), (1, 0.12489031), (1, 0.1967138), (5, 0.12983924), (2, 0.10037573), (3, 0.12491302), (5, 0.16547704), (2, 0.240613), (1
, 0.16573094), (1, 0.21509463), (3, 0.040487), (2, 0.18687136), (4, 0.046292502), (1, 0.1513547), (2, 0.30464783), (2, 0.2986117), (2, 0.27058536), (1, 0.14640157), (1, 0.25155795), (4,
0.106762074), (4, 0.13508227), (1, 0.18353473), (4, 0.065017425), (1, 0.14370903), (1, 0.0038962737), (2, 0.18587212), (3, 0.026213203), (1, 0.18107156), (3, 0.16156611), (5, 0.1505110
3), (3, 0.22207579), (1, 0.112803526), (1, 0.1040376), (2, 0.114229575), (3, 0.16902901), (3, -0.057462692), (2, 0.39256313), (5, 0.14972827), (5, 0.29906476), (3, 0.068322904), (5, 0.1
3216779), (3, 0.22715554), (5, 0.0815461), (1, 0.22736375), (5, 0.27771103), (5, 0.034957897), (2, 0.14871803), (1, 0.11691217), (2, 0.13393404), (4, -0.028936455), (3, 0.30860788), (4,
0.10357475), (3, 0.20798174), (1, -0.0474452), (3, 0.12271738), (1, 0.2723724), (1, 0.11151165), (5, 0.09096633), (3, 0.20159909), (3, 0.2000283), (1, 0.052937567), (3, 0.20235854), (5
, 0.108900875), (2, 0.37959832), (4, 0.03115445), (2, 0.15924211), (3, 0.09316775), (5, 0.087941945), (2, 0.2708606), (1, 0.1171788), (3, 0.097612195), (5, 0.26325476), (5, 0.15090244),
(3, 0.21449164), (5, 0.18697836), (4, 0.18024513), (2, 0.08718211), (5, 0.186903), (4, 0.14059955), (2, 0.08843114), (5, 0.09739367), (5, 0.05075112), (4, 0.14817089), (3, 0.12001087),
(1, 0.16025767), (1, -0.0016036965), (2, 0.20644133), (1, 0.20639752), (5, 0.043516584)])
MSE = 3.651830
accuracy = 0.197824
[[ 6 3 6 1 5]
[ 13 16 12 10 13]
[ 44 41 51 51 52]
[104 90 88 76 92]
[ 49 49 43 45 51]]