Human Information Interaction
تعامل انسان و اطلاعات
Human Information Interaction
Literature & Humanities
http://hii.khu.ac.ir
1
admin
2423-7418
2423-7418
doi
fa
jalali
1399
9
1
gregorian
2020
12
1
7
2
online
1
fulltext
fa
مطالعه مروری سنجههای رتبهبندی و غیر رتبهبندی تعیین کارآمدی موتورهای کاوش
Review of Ranked and Unranked-based Metrics for Determining the Effectiveness of Search Engines
تخصصي
Special
پژوهشي
Research
<strong>هدف</strong>: هدف پژوهش حاضر، تحلیل سنجههای مهم و جدید ارزیابی برای بکارگیری در موتورهای کاوش به منظور ارائه نتایج دقیق است.<br>
<strong>روش:</strong> مقاله حاضر، مقالهای مروری است و برای گردآوری مقالههاکلیدواژههای سنجههای ارزیابی، ارزیابی موتورهای کاوش، ارزیابی نظامهای بازیابی اطلاعات، سنجههای ارزیابی ربط در گوگل اسکالر و پایگاههای اطلاعاتی مگ ایران و سید جستجو و مقالههای مرتبط تهیه شد. در این مطالعه از رویکرد توصیفی- تحلیلی استفاده شد تا سنجههای مهم موتورهای کاوش مرور شود.<br>
<strong>یافتهها:</strong> با مرور سنجههای مختلف ارزیابی موتورهای کاوش ، سه گروه از سنجهها شناسایی شد. میتوان سنجههای دقت، بازیافت را در گروه غیر رتبهبندی قرار دارد که متأثر از رویکرد نظامگرایی است. از طرف دیگر، گروه رتبهبندی شامل سنجههای متوسط فاصله، سود تجمعی تعدیل یافه نرمال، سنجه کارآمدی رتبهبندی و بی پرف است که رویکرد کاربرگرایی در مطرح شدن این سنجهها مؤثر بوده است. اگرچه سنجه جامعیت با هدف در نظر گرفتن کاربر ارائه شده است؛ اما به نظر میرسد که در عمل به صورت کامل به هدف خود نرسیده است. افزون براین، همانگونه که در پژوهشهای بازیابی اطلاعات، رویکرد سومی نیز مطرح شده است که بر تعامل و یگانش دو رویکرد نظامگرا و کاربرگرا اشاره دارد، در سنجههای ارزیابی موتورهای کاوش نیز، دو سنجه اتحاد جاکارد و اتحاد کسینوسی برگرفته از رویکرد سوم هست.<br>
<strong>نتیجهگیری:</strong> برای تعیین موتور کاوش کارآمد پیشنهاد میشود که پژوهشگران هنگام ارزیابی نظامهای بازیابی اطلاعات در پژوهشهای خود، سنجههایی را از هر سه گروه یاد شده انتخاب نمایند.
<strong>Purpose:</strong> There are several metrics for evaluating search engines. Though, many researchers have proposed new metrics in recent years. Familiarity with new metrics is essential. So, the purpose is to provide an analysis of important and new metrics to evaluate search engines.<br>
<strong>Methodology:</strong> This review article critically studied the efficiency of metrics of evaluation. So, “evaluation metrics,” “evaluation measure,” “search engine evaluation,” “information retrieval system evaluation,” “relevance evaluation measure” and “relevance evaluation metrics” were investigated in “MagIran” “Sid” and Google Scholar search engines. Articles gathered to inspect and analyse existing approaches in evaluation of information retrieval systems. Descriptive-analytical approach used to review the search engine assessment metrics.<span dir="RTL"></span><br>
<strong>Findings:</strong> Theoretical and philosophical foundations determine research methods and techniques. There are two well-known “system-oriented” and “user-oriented” approaches to evaluating information retrieval systems. So, researchers such as Sirotkin (2013) and Bama, Ahmed, & Saravanan (2015) group the precision and recall metrics in a system-oriented approach. They also believe that Average Distance, normalized discounted cumulative gain, Rank Eff and B pref are rooted in the user-oriented approach. Nowkarizi and Zeynali Tazehkandi (2019) introduced comprehensiveness metric instead of Recall metric. They argue that their metric is rooted in a user-oriented approach, while the goal is not fully met. On the other hand, Hjørland(2010) emphasizes that we need a third approach to eliminate this dichotomy. In this regard, researchers such as Borlund, Ingwersen (1998), Borlund (2003), Thornley, Gibb (2007) have mentioned a third approach for evaluating information retrieval systems that refer to interact and compose two mentioned approaches. Incidentally, Borlund, Ingwersen(1998) proposed a Jaccard Association and Cosine Association measures to evaluate information retrieval systems. It seems that these two metrics have failed to compose the system-oriented and user-oriented approaches completely, and need further investigation.<span dir="RTL"></span><br>
<strong>Conclusion</strong>: Search engines involve different components including: Crawler, Indexer, Query Processor, Retrieval Software, and Ranker. Scholars wish to apply the most efficient search engines for retrieving required information resources. Each metrics measures a specific component, to measure all, it is suggested to select metrics from all three mentioned groups in their search.
نظام بازیابی اطلاعات, موتور کاوش, ارزیابی ربط, سنجههای ارزیابی, سنجههای کارآمدی
Information Retrieval System, Search Engine, Relevance Evaluation, Assessment Measures, Effectiveness Metric.
1
15
http://hii.khu.ac.ir/browse.php?a_code=A-10-640-2&slc_lang=fa&sid=1
Azam
sanatjoo
اعظم
صنعت جو
sanatjoo@gmail.com
10031947532846004916
10031947532846004916
No
FUM
دانشگاه فردوسی مشهد
Mahdi
Zeynali Tazehkandi
مهدی
زینالی تازه کندی
ma.zeynali@mail.um.ac.ir
10031947532846004917
10031947532846004917
Yes
FUM
دانشگاه فردوسی مشهد