Three Way Search Engine Queries with Multi-feature Document Comparison for Plagiarism Detection

SUCHOMEL, Šimon, Jan KASPRZAK and Michal BRANDEJS. Three Way Search Engine Queries with Multi-feature Document Comparison for Plagiarism Detection. Online. In CLEF2012 Working Notes ; CEUR Workshop Proceedings Vol. 1178. Italy, Rome: Univesity "La Sapienza", 2012, p. 1-12. ISSN 1613-0073.

Basic information

• Original name: Three Way Search Engine Queries with Multi-feature Document Comparison for Plagiarism Detection
• Name in Czech: Trojcestné dotazování s detailním porovnáním dokumentů pro detekci plagiátorství
• Authors: SUCHOMEL, Šimon (203 Czech Republic, guarantor, belonging to the institution), Jan KASPRZAK (203 Czech Republic, belonging to the institution) and Michal BRANDEJS (203 Czech Republic, belonging to the institution).
• Edition: Italy, Rome, CLEF2012 Working Notes ; CEUR Workshop Proceedings Vol. 1178, p. 1-12, 12 pp. 2012.
• Publisher: Univesity "La Sapienza"

Other information

• Original language: English
• Type of outcome: Proceedings paper
• Field of Study: 10201 Computer sciences, information science, bioinformatics
• Country of publisher: Italy
• Confidentiality degree: is not subject to a state or trade secret
• Publication form: electronic version available online
• WWW: Text publikace
• RIV identification code: RIV/00216224:14330/12:00081844
• Organization unit: Faculty of Informatics
• ISSN: 1613-0073
• Keywords (in Czech): plagiátorství; podobnost dokumentů; vnější plagiátorství; vnitřtní plagiátorství; vyhledávání zdrojových dokumentů; webové vyhledávání; formulace dotazů; společné vlastnosti
• Keywords in English: plagiarism; document similarity; external plagiarism; intrinsic plagiarism; candidate document retrieval; web search; queries construction; common features
• Tags: candidate document retrieval, IS, PAN, Plagiarism, plagiarism detection
• Tags: International impact, Reviewed

Abstract

In this paper, we describe our approach at the PAN 2012 plagiarism detection competition. Our candidate retrieval system is based on extraction of three different types of Web queries with narrowing their execution by skipping certain passages of an input document. We have created queries based on keywords extraction, intrinsic plagiarism detection and headers extraction. We have also compared the performance of constructed queries used during the PAN 2012 test process. The proposed methodology was the best performing one in case of long term operation and also the most cost-effective one. Our detailed comparison system is based on detecting common features of several types (in the final submission, we have used two types of features: sorted word 5-grams and unsorted stop word 8-grams) in the input document pair. We propose a method of computing so called valid intervals from those features, represented by their offset and length attributes in both source and suspicious document. Previous works use the feature ordering as the measure of distance, which is not usable for multiple types of features, which do not have any natural ordering. From those valid intervals we compute final detections in the post-processing phase, where we merge neighbouring valid intervals and remove some types of overlapping detections. We further discuss other approaches which we explored, but which have not been used in our final submission. In the paper we also discuss the performance aspects of our program, parameter settings, and the relevance of current PAN 2012 rules (including the plagdet score) to the real-world plagiarism detection systems.

Abstract (in Czech)

V tomto článku popisujeme náš přístup v soutěži PAN 2012 v detekci plagiátorství. V první části, vyhledávání podezřelých dokumentů, jsme použili přístup založený na extrakci tří odlišných typů Webových dotazů a aplikovali heuristiku pro minimalizaci celkového počtu použitých dotazů na základě nalezených podobností dokumentů. Jednotlivé typy dotazů byly vytvořeny z klíčových slov dokumentu, z částí textu detekovaných metodou pro detekci vnitřního plagiátorství a na základě lokálních nadpisů v textu. Tato metodika pro vyhledávání podezřelých dokumentů byla v rámci soutěže nejefektivnější. Náš systém pro detailní porovnávání párů dokumentů je založen na hledání výskytu společných vlastností (například společné skupiny slov), přičemž systém vyhodnocuje společné vlastnosti více různých typů. Náš finální výsledek byl založen na dvou typech vlastností: setříděné pětice slov a nesetříděné osmice stop-slov. Navrhujeme metodu výpočtu takzvaných platných rozsahů na základě těchto společných vlastností, kde platný rozsah je reprezentován svým počátečním znakem a délkou jak ve zdrojovém, tak v podezřelém dokumentu. Předchozí práce používaly pro reprezentaci vzdálenosti pořadí výskytu jednotlivých společných vlastností. Toto není použitelné pro systém s více typy vlastností, které nemusejí mít mezi sebou navzájem žádné přirozené uspořádání. Z těchto platných rozsahů počítáme výsledné detekované pasáže textu ve fázi následného zpracování, kde se snažíme slučovat blízké platné rozsahy a odstraňovat některé typy překrývajících se rozsahů. Dále rozebíráme jiné přístupy které jsme vyzkoušeli, ale nepoužili v našem finálním výsledku. V tomto článku také diskutujeme výkonnostní aspekty našeho programu, nastavení parametrů, a relevantnost kritérií hodnocení PAN 2012 (včetně hodnoty plagdet) pro reálné systémy na odhalování plagiátů.

Links

• LA09016, research and development project: Name: Účast ČR v European Research Consortium for Informatics and Mathematics (ERCIM) (Acronym: ERCIM)

Investor: Ministry of Education, Youth and Sports of the CR, Czech Republic membership in the European Research Consortium for Informatics and Mathematics