文献质量评价.docx
- 文档编号:5143477
- 上传时间:2022-12-13
- 格式:DOCX
- 页数:30
- 大小:170.76KB
文献质量评价.docx
《文献质量评价.docx》由会员分享,可在线阅读,更多相关《文献质量评价.docx(30页珍藏版)》请在冰豆网上搜索。
文献质量评价
文献质量的评价
一、文献质量评价的基本要素
在进行文献质量评价时,应依据科学、规范的评价标准,而不是靠评价者的主观感觉、临床或研究经验来判断。
通常,文献质量评价的基本要素包括文献内部真实性、临床重要性和适用性3个方面。
(一)内部真实性
内部真实性是指某个研究结果接近真值的程度,即研究结果受各种偏倚的影响程度。
偏倚主要来源于4个方面。
1.选择偏倚
选择偏倚主要发生在选择和分配研究对象时。
如果在分配研究对象时,所采取的随机方法不完善,可能会造成各组的基线资料不具有可比性,从而亏大或缩小护理干预措施的效果。
另外,如果用于分组的随机序列公开化,使得研究者和研究对象能够预计到下一个研究对象会将会入选到哪一组,可能会掺杂研究者或患者的主观因素,从而带来偏倚。
因此,为了降低选择偏倚,在分配研究对象时,应采用严格的随机法,并对随机分配方案做到分配隐藏。
分配隐藏的措施包括下列几种:
由不直接参与研究的药房人员或中心办公室人员控制随机分配方案;采用相同外观的、按顺序编号的药物容器;使用按顺序编号不透明密闭信封等。
分配方案的隐藏应至少维持到实际分配研究对象时,确定某研究对象被分配到哪一组后,不要随意改变分组情况。
2.实施偏倚
实施偏倚主要发生在干预措施的实施过程中。
指除了要验证的措施外,向实验组和对照组提供的其他措施也不相同,从而出现系统偏差,降低实施偏倚的措施是将干预方案进行标准化,并尽可能对研究对象和干预提供者实施盲法。
如果干预提供者知道研究对象接受的时哪一种干预,会有意无意的对干预组的研究对象提供格外的关注;如果研究对象知道自己接受的是哪一种措施,会倾向于提供更多症状。
另外,在研究过程中,如果对照组的研究对象由于各种原因有意或无意地应用了实验组的措施,也会导致实施偏倚。
3.失访偏倚
失访偏倚是指在研究的随访过程中,实验组和对照组因退出、失访、违背干预方案的人数或失访者的特征不同而造成的系统差异。
失访的原因往往是发生副反应、疗效差、出现并发症、搬迁或死亡等,如果失访率较高或各组间失访情况不一样,会使研究结果失真。
因此,在研究过程中,应采取措施减少失访的发生,尽量将失访率控制在20%以内。
同时,应尽量获取失访者的信息,采取意向性分析,将失访对象的资料也纳入最终分析中,减少由于失访带来的影响。
4.测量偏倚
测量偏倚是指在测评结局指标时,由于测评方法不可信或各组采用的测评方法不一致所造成的系统差异,尤其当结局指标是由测评者进行主观判断时。
因此,为了降低测量偏倚,在测评各组的结局指标时,应采用统一、标化、可信度高的测评方法和结果判定标准,并对测评者实施盲法。
(二)重要性
重要性是指研究是否具有临床应用价值,在循证医学中,通常使用量化指标来评价研究结果的临床意义,不同的研究问题评价指标不同。
评价证据的临床重要性应重点关注证据所涉及的临床问题是否明确、具体,所选择的评价指标是否正确等问题。
1.用于病因或危险因素研究的指标当研究问题是探讨病因及危险因素时,如果采用的是随机对照试验或队列研究,常用相对危险度来评价研究结果的重要性;如果采用的是病例对照研究,则用比值来评价研究结果的重要性。
(1)相对危险度(RR):
指病因暴露组的发病率与非暴露组发病率的比值。
如表1-1所示,病因暴露组的发病率为a÷(a+b)非暴露组的发病率为c÷(c+d)相对危险度(RR)=[a÷(a+b)]÷[c÷(c+d)]。
若RR=1,表示两组无差异;若RR>1,表示暴露因素或干预措施增加结局的风险性;若RR<1,表示暴露因素或干预措施降低结局的风险性。
表1-1暴露因素与发病结局
结局
合计
发病未发病
暴露组
a
b
a+b
非暴露组
c
d
c+d
(2)比值比(OR):
表示病例组中暴露于该因素者与非暴露者之间的比值为对照组中该比值的倍数。
如表1-2所示,比值比(OR)=ad/bc。
表1-2病例组与对照组中的病因暴露情况
病例组
对照组
暴露(+)
a
b
非暴露(—)
c
d
2.用于防治措施效果研究的指标如果研究问题是探讨某防治措施的效果,除了用某特定临床结局的发生率(如治愈率、有效率、病死率、不良反应发生率)或某观测指标的均数和标准差来评价防治措施的临床效果外,通常还使用绝对危险降低率、相对危险降低、绝对危险降低率、获得一例最佳效果需治疗的病例数等指标来评价临床效果的差异度。
(1)绝对危险降低率(ARR):
指对照组临床结局的发生率(CER)与实验组某结局发生率(EER)的差值,即ARR=CER-EER。
(2)相对危险率降低(RRR):
指对照组临床结局的发生率(CER)和实验组临床结局发生率(EER)的差值与对照组临床结局发生率(CER)的比值,即RRR=(CER-EER)÷CER。
(3)获得一例最佳效果需治疗的病例数(NNT):
其计算公式为:
NNT=1÷ARR。
3.用于诊断性试验的指标对于诊断性试验来说,常用来评价研究结果重要性的指标包括敏感度、特异度、准确度、患病率、阳性预测值、阳性似然比等。
其中敏感度和特异度是评价诊断性试验的两个稳定而可靠的指标。
(1)敏感度(sensitivity,SEN):
指诊断性试验检验为阳性的人数,在用金标准确定为“有病”的病例中所占的比例,即真阳性率。
如表1-3所示,敏感度(SEN)=a÷(a+c)敏感度越高,则假阴性的病例(漏诊率)越少,有助于筛查相应的疾病。
表1-3诊断性试验与金标准的检测结果
金标准
+
-
诊断性检验
+
a
b
-
c
d
(2)特异度(specificity,SPE):
指诊断性试验检测为阴性的人数,在用金标准确定为“无病”的人数中所占的比例,即真阴性率。
如表1-3所示,特异度(SPE)=d÷(b+d)。
特异度越高,则假阳性的病例(误诊率)越少,有助于确定诊断。
(3)准确度(accuracy,ACC):
指诊断性试验检测为真阳性和真阴性的总人数在全部受试者中所占的病例。
如表1-3所示,准确度(ACC)=(a+d)÷(a+b+c+d)。
(4)患病率(prevalence,PREV):
指由金标准诊断为“有病”的病例数在接受诊断性试验的全部受试者中所占的比例。
如表1-3所示,患病率(PREV)=(a+c)÷(a+b+c+d)。
(5)阳性预测值(positivepredictivevalue,+PV):
指诊断性试验检测为阳性病例中,用金标准诊断为“有病”的病例所占的比例。
如表1-3所示,阳性预测值(+PV)=a÷(a+b)
(6)阳性似然比(positivelikelihoodratio,+LR):
指诊断性试验的真阳性率与假阳性率的比值。
如表1-3所示,真阳性率=a÷(a+c);假阳性率=b÷(b+d),因此,阳性似然比(+LR)=[a÷(a+c)]÷[b÷(b+d)]。
由此可见,似然比综合了敏感度与特异度的临床意义。
(三)适用性
适用性即研究的外部真实性,指研究结果能否推广应用到研究对象以外的人群。
在循证护理中,最佳证据的应用与推广必须结合患者的病情和接受程度、经济水平、医疗条件、社会环境等因素。
外部真实性主要与研究对象的特征、干预措施的实施方法、研究背景、结局评估标准的呢过密切相关。
研究人群与其它人群的特征差异、社会环境、经济因素等影响证据的适用性。
评价证据的适用性时,应从以下几个方面来考虑:
1.是否与自己所护理的患者情况相符在评价其适用性时,应重点考虑证据中研究对象的纳入标准是否与自己所护理的患者相符,尤其在人口社会学特征(如年龄、性别、文化程度、种族、经济情况)及临床特征(如疾病严重程度、病程、合并症)上是否存在很大差异。
2.该证据在服务对象所处的医疗环境下是否可行对拟采用的有效防护措施,需考虑拟应用对象所处的医疗环境是否具备应用该证据所需的人力、技术力量、设施和设备条件、社会经济因素等。
3.该证据对服务对象可能产生的利弊权衡任何临床决策必须权衡利弊和费用,只能利大于弊且费用合理时才有价值应用于服务对象。
4.服务对象自身对使用该措施的意愿循证时间强调任何临床决策的制订应结合个人的专业知识和经验、当前最佳的研究证据和患者的选择进行综合考虑,应以“患者为中心”,而不是单纯治病。
二、随机对照试验研究论文的评价方法
随机对照试验是将研究对象随机分组,对不同组实施不同的干预措施,以比较效果的不同。
接下来结合张俊娥等人的一篇随机对照试验进行阐述及评价。
(一)Cochrane循证医学中心对RCT的评价原则
表2-1Cochrane协作网对随机对照试验的真实性评价
评价项目及偏倚类型
评价结果
选择偏倚
1.随机顺序的产生
偏倚风险低
偏倚风险高
不清楚
2.对随机方案的分配隐藏、实施偏倚
偏倚风险低
偏倚风险高
不清楚
3.对研究对象及干预实施者采取盲法、检出/测量偏倚
偏倚风险低
偏倚风险高
不清楚
4.对结果测评者采取盲法、失访偏倚
偏倚风险低
偏倚风险高
不清楚
5.结局指标数据的完整性(失访情况)、报告偏倚
偏倚风险低
偏倚风险高
不清楚
6.选择性报告研究结果的可能性、其他偏倚
偏倚风险低
偏倚风险高
不清楚
7.其他方面的偏倚来源
偏倚风险低
偏倚风险高
不清楚
如果研究完全满足上述标准,发生各种偏倚可能小,质量等级为A级;
如果研究部分满足上述质量标准,发生偏倚可能性中度,质量等级为B级;
如果研究完全不满足上述质量标准,发生偏倚可能性高,质量等级为C级。
1.随机顺序的产生评价结果:
偏倚风险低
在RCT论文中,应详细描述随机序列的产生方法,让评价者能判断出用这种方法分配的各组之间是否能够具有可比性。
如果随机分配方法不合理,会增加选择偏倚的可能性。
在进行质量评价时,可依据以下原则做出判断。
①偏倚风险低:
作者提及了下列随机方法,例如采用随机数字表、采用计算机产生的随机数字、抛硬币、掷骰子、抽签等方法;
②偏倚风险高:
作者提及下列准随机/半随机方法,例如按出生年月日期的单双号顺序进行分组、按住院日期的某种规律进行分组、按住院号的某种规律进行分组;或明显的非随机分组法,例如根据医生的判断进行分组、根据患者意愿进行分组、根据实验室检查结果进行分组、根据干预的可得性进行分组等;
③不清楚:
作者未明确提及关于随机顺序产生过程的信息,只是简单化地提及将研究对象随机分为实验组和对照组。
单凭这样的描述,评价者无法判断随机顺序的产生过程。
在大多数该类描述的研究中,往往并未进行真正的随机分组。
该随机对照试验将符合入选标准的住院造口患者根据出院时间的先后顺序排序,根据电脑产生的随机数字表生成的30组随机数字作为分组依据,每组产生不同顺序的两个数字(1-对照组,2-干预组),根据这两个数字顺序的不同,将患者分配至干预组(61例)和对照组(60例)。
2.对随机方案的分配隐藏评价结果:
不清楚
在随机对照试验中,应对随机分配方案进行分配隐藏,使得研究者和研究对象在人选分组的过程中,无法预见到分配的顺序。
如果未采用分配隐藏,会增加选择偏倚的可能性。
因此,论文中应详细描述随机分配方案隐藏的方法,让评估者能判断出该研究是否真正做到了分配隐藏。
在进行质量评估时,可依据以下原则作出判断:
①偏倚风险低:
作者提及下列方法,例如通过电话、网络或药房控制的随机分配、采用相同外观的按顺序编号的药物容器、使用按顺序编号的不透明密闭信封等;
②偏倚风险高:
作者提到下列内容,使得研究者或研究对象能预见到分配顺序,例如使用公开的随机分配表、用于分组的信封未密闭或透明、轮流或交替分组的方式、按出生日期或病历号的某种特征进行分组等;
③不清楚:
关于分配隐藏的信息不充分,让评价者无法进行判断。
例如论文中未提及分配方案的隐藏;或提及及使用信封进行分组,但是未明确描述信封是密闭、不透明。
该随机对照试验未提及分配方案的隐藏,评价者无法进行判断。
3.对研究对象及干预实施者采取盲法评价结果:
不清楚
在RCT论文中,应描述是否对研究对象和干预实施者采用了盲法。
在研究过程中,如果研究对象或干预实施者知晓分组情况及该组采用的干预措施,则会增加实施偏倚或测量偏倚的可能性。
在进行质量评价时,可依据以下原则作出判断。
①偏倚风险低:
作者提及对研究对象及研究人员采用盲法,且不容易被识破;或虽然未采用盲法,但不会对结果产生影响;
②偏倚风险高:
研究中未采用盲法,且会对结果产生影响;或虽试图对研究对象和研究人员实施盲法,但很容易被识破,且结果会因此受到影响;
③不清楚:
文中关于盲法的信息描述不充分,使得评价者无法判断是否真正对研究对象和研究人员实施了盲法。
研究对象:
该随机对照试验中未说明对研究对象是否实施了盲法。
研究人员:
该随机对照试验中两组患者基线资料由研究者本人在患者出院前的1-2d去病房收集,出院后1个月和3个月的资料由不知道分组情况的1名研究助手(护理学院在读研究生)进行收集,研究助手会在临近出院后1个月和3个月的时间打电话给患者预约收集资料的时间和地点,一般为患者手术医院的病房或门诊。
若是外地患者或出院后不回本院复查的,则给患者带两个贴好邮票、写明回邮地址的信封,请其在出院后1个月和3个月时填好邮回。
4.对结果测评者采取盲法评价结果:
不清楚
应详细描述研究中的每个测评指标是否对结果测评者采用了盲法。
如果结果测评者知晓研究对象被分配到了哪一组以及采用的是什么干预措施,则会增加检出/测量偏倚的可能性。
注意应对研究中的每个主要结局指标均进行该方面的评价。
在进行质量评价时,可依据以下原则作出判断:
①偏倚风险低:
作者提及对结果测评者采用了盲法,且不容易被识破;或未对结果测评者采用盲法,但不会对结果测评产生影响;
②偏倚风险高:
未对结果测评者采用盲法,且结果测评会因此受到影响;
③不清楚:
文中关于盲法的信息描述不充分,或方法中未提及该结果指标,使得评价者无法判断出该研究是否真正对结果测评者实施了盲法。
该随机对照试验中未说明是否对结果测评者实施了盲法,评价者无法进行判断。
5.结局指标数据的完整性评价结果:
偏倚风险低
应详细描述每项指标中不完整的结局数据,报告各个组的失访和退出人数及其原因。
进行系统测评的作者应对失访对象的结果数据重新纳入到资料分析中。
不完整结局资料的数量、特征及处理方式不当会增加失访偏倚的可能性。
在进行质量评价时,可依据以下原则作出判断:
①偏倚风险低:
研究中无失访;失访的原因与结局指标关联不大;干预组和对照组失访的人数及原因相似;失访的比例或效应值不足以对干预效果产生临床意义上的影响;采用恰当方法将失访的数据纳入了结果分析中。
②偏倚风险高:
干预组和对照组失访的人数或原因不均衡,并很可能与结局有关;失访的比例或效应值足以对干预效果产生临床意义上的影响;丢弃干预组大量失访数据进行结果分析。
③不清楚:
对失访和退出的信息描述不充分,例如未描述随机分组时的人数、失访的人数及原因,或方法部分未提及该结果的指标。
对象选取
研究者共接触符合纳入标准的病例123例,有2例患者因为当时情绪不佳拒绝参加研究,共获得病例121例。
将患者分配至干预组(61例)和对照组(60例)。
进入干预组的1例因住院时间超过4个月,1例因不肯留联系电话而无法干预,因此实际完成干预的患者为59例。
资料收集:
干预组和对照组失访的人数及原因相似
在出院后1个月和3个月的后续资料收集过程中,两组均死亡2例;干预组有1例鼻咽癌,对照组有1例卒中、1例身体极度虚弱无法填表;其余还有患者因各种原因无法及时填表。
最后收到3次资料均完整的干预组为52例,对照组为51例。
未失访者和失访者的均衡性检验:
失访不足以对干预效果产生临床意义上的影响;
采用两独立样本t检验和χ2检验对两组未失访者和失访者的一般资料进行均衡性检验,结果显示,两组在手术类型、手术后住院时间、年龄、性别、居住地、文化程度、婚姻状况等方面的差异均无统计学意义(P>0.05)。
6.选择性报告研究结果的可能性评价结果:
偏倚风险低
进行系统评价的作者应阐述如何对选择性报告结果的可能性进行判断,以及是否出现了选择性报告结果的情况。
选择性报告研究者所期望的结果会导致报告偏倚。
在进行质量评价时,可依据以下原则作出判断:
①偏倚风险低:
结果中报告了系统评价中所关注的所有结局指标;或未报告出系统评价中所关注的所有结局指标,但该研究报告了所有在方法中列出的结局指标,且其他未报告的指标是由于在该研究方案中无法获得。
偏倚风险高:
结果中没有报告事先列出的所有结局指标;结果中报告了一个或多个方法中未事先列出的测评工具和测评方法的结局指标;系统评价中所关注的一些指标在该研究中报告不全,无法纳入meta分析中。
③不清楚:
信息不充分,令评价者无法判断,但这种情况较少见。
评价指标
由研究者自行设计,包括2个部分,分别是一般资料和造口自我护理情况。
①一般资料:
包括患者性别、年龄、居住地、受教育程度、婚姻状况、手术类型、手术时间、出院时间、有无造口并发症等。
②造口自我护理情况:
分别用1个条目的患者自评造口自理状态(包括4个选项:
完全自理、大部分时间自理、基本依靠他人和完全需要他人照顾)和造口自我护理量表-早期版进行评测。
结果中报告了系统评价中所关注的所有结局指标
出院前一般情况:
两组性别、年龄、术后住院时间等一般情况比较,差异均无统计学意义(P>0.05)。
造口自我护理总分:
分别采用两独立样本t检验和两配对样本t检验,结果显示,出院前两组自我护理总分的差异无统计学意义(P>0.05);出院后1个月和3个月干预组明显高于对照组,差异有统计学意义(P<0.05或P<0.01)。
自评造口自理状态:
出院前两组自评造口自理状态差异无统计学意义(χ2=0.478,P>0.05),出院后1个月两组差异亦无统计学意义(χ2=2.568,P>0.05);但出院后3个月干预组明显好于对照组,差异有统计学意义(χ2=6.300,P<0.05)。
两组出院后1个月和3个月的自评造口自理状态均好于出院前,差异有统计学意义(χ2=10.788-40.928,P<0.01)。
干预组出院后3个月自评造口自理状态好于出院后1个月,差异有统计学意义(χ2=9.247,P<0.01),对照组出院后1个月和3个月之间的差异则无统计学意义(χ2=4.005,P>0.05)。
7.其他方面的偏倚来源应阐述研究实施过程中导致偏倚的其他因素
研究实施过程中无导致偏倚的其他因素。
综上所述,该随机对照试验研究部分满足上述质量标准,发生偏倚可能性中度,质量等级为B级。
(二)澳大利亚JBI循证卫生保健中心对随机对照试验的评价原则
表2-2澳大利亚JBI循证卫生保健中心对随机对照试验的真实性评价
评价项目
评价结果
1.是否真正采用了随机分组的方法?
是否不清楚
2.是否对研究对象实施了盲法?
是否不清楚
3.是否对分组者采用了分配隐藏?
是否不清楚
4.是否描述了失访对象的结局,并将其纳入分析?
是否不清楚
5.是否对结果测评者实施了盲法?
是否不清楚
6.试验组与对照组在基线是否具有可比性?
是否不清楚
7.除了要验证的干预措施外,各组接受的其他措施是否相同?
是否不清楚
8.是否采用相同的方式对各组研究对象的结局指标进行测评?
是否不清楚
9.结果测评方法是否可信?
是否不清楚
10.资料分析方法是否可信?
是否不清楚
1.是否真正采用了随机分组方法评价结果:
是
随机化是是判断RCT质量的重要指标之一。
通常有3类随机方法,即完全随机化、分层随机化、准随机化或伴随机化。
真正的随机化是指每个研究对象真正由同等的机会被分到每组,常用方法是采用计算机产生的随机数字表确定分组序列。
真正的随机化能最大程度的降低选择偏倚,使得每个组的研究对象在基线资料上具有同质性。
采用了完全随机化:
该随机对照试验将符合入选标准的住院造口患者根据出院时间的先后顺序排序,根据电脑产生的随机数字表生成的30组随机数字作为分组依据,每组产生不同顺序的两个数字(1-对照组,2-干预组),根据这两个数字顺序的不同,将患者分配至干预组(61例)和对照组(60例)。
2.是否对研究对象实施了盲法评价结果:
不清楚
如果不对研究对象实施盲法,则研究对象知道自己被分配到了哪一组,可能会因为被分到对照组而感到焦虑,或者知道分配到试验组而感到过度乐观,努力去迎合研究者的期望。
这意味着研究对象会在报告结果指标时出现低估或高估的倾向,从而对研究结果产生影响。
此外,不对研究对象实施盲法还会增加失访的可能性,尤其是对照组的研究对象。
该随机对照试验中未说明对研究对象是否实施了盲法。
3.是否对分组者采用了分配隐藏评价结果:
不清楚
在进行分组过程中,负责入选和和分组的人不应该预知下一个研究对象将会被分配到哪一组。
可采用中心控制的电话或传真进行分组,或将随机分配方案放进按顺序编码的不透明密封信封中。
该随机对照试验未说明是否用了分配隐藏。
4.是否描述了失访对象的结局,并将其纳入分析评价结果:
否
通常采用意向性分析将失访对象纳入到最终的分析中。
对于失访对象,不管实际上他们接受了多少干预,或知否收集到了完整的结局指标,均应被纳入到其被速记分配的组中进行分析。
意向性分析可降低由于对照组或试验组失访或死忘过多造成各组对象的特征不同带来的偏倚。
该随机对照试验中提及两组中均有死亡,以及鼻咽癌、脑卒中和极度虚弱无法填表,其余患者未有详细说明,最后的分析也是干预组为52例,对照组为51例为准。
未将失访对象纳入分析。
5.是否对结果测评者实施了盲法评价结果:
不清楚
在RCT中,如果结果测评者知道研究对象是哪个组的,就会倾向于作出有利于结果的判断,从而造成结果发热偏差。
该随机对照试验中未说明是否对结果测评者实施了盲法。
6.试验组与对照组在基线时是否具有可比性评价结果:
是
基线的同质性或可比性与分组方法有关。
如果采用的是真正的随机分组,各组的基线资料更由可能均匀分布在各个组,从而更有可能具有可比性。
两组性别、年龄、术后住院时间等一般情况比较,差异均无统计学意义(P>0.05)。
7.除了要验证的干预措施外,各组接受的其他措施是否相同评价结果:
是
在对研究进行评价时,应仔细阅读干预措施部分,以判断除了要验证的干预措施外,各种研究对象在其他措施方面是否存在差异。
干预组接受出院后常规健康教育的同时,接受由造口护士主导的个体化的教育和支持性的电话干预项目,对照组只接受出院后常规健康教育。
其他措施研究中没有说明。
8.是否采用相同的方式对各组研究对象的结局指标进行测评评价结果:
是
在RCT中,对结局指标的界定、所用的量表或问卷、评分方法、施测方式等在各组之间应保持一致。
该随机对照试验评价指标由研究者自行设计,包括一般资料和造口自我护理情况。
9.结果测评方法是否可信评价结果:
是
应判断论文中度测评工具的描述是否重复,在以前的研究或本研究的预实验中是否对其效度进行过验证。
该随机对照试验中详细描述了研究中的两个测评工具。
首先一般资料包括患者性别、年龄、居住地、受教育程度、婚姻状况、手术类型、手术时间、出院时间、有无造口并发症等。
再者造口自我护理情况:
分别用1个条目的患者自评造口自理状态(包括4个选项:
完全自理、大部分时间自理、基本依靠他人和完全需要他人照顾)和造口自我护理量表-早期版进行评测。
对于造口自我护理量表-早期版则是细致地描述了其所含内容,并明确说明了其的内部一致性系数C
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 文献 质量 评价
![提示](https://static.bdocx.com/images/bang_tan.gif)