Master's thesis

Benchmarking of unit tests generated by LLM

Bc. Dominik Tuchyňa
Abstract

S rastúcim využívaním veľkých jazykových modelov (Large Language Models, LLM) v softvérovom vývoji sa čoraz viac presadzuje automatická generácia softvérových testov. Tradičné metriky kvality testov, ako sú pokrytie vetiev, pokrytie kódu či hustota asercií, však často nedokážu dostatočne vystihnúť správanie skutočne bežiaceho programu. Táto diplomová práca skúma možnosti mutačnej analýzy ako alternatívneho …more

Abstract

With the increasing adoption of Large Language Models in software development, it is possible to generate tests. Classic testing adequacy metrics like branch, code coverage, or assertion density are not sufficient. This master thesis examines the possibility of using mutation analysis to its own advantage with respect to machine-generated code with a novel approach of using test differentiator to include …more

Thesis description

Automated testing of a code is an essential part of software development. 
Unit testing is a subset of automated testing, which aims to cover the
smallest meaningful code unit with tests.  However, writing unit tests is
often repetitive and time-consuming, which sometimes leads to improper test
coverage or missing test cases.  With rising capabilities of Large Language
Models (LLM), Generative AI, and their usage for generating code, it is
important to be aware of potential issues related to generating tests.

As part of this thesis, the student is expected to analyze the state of the
art in automated testing and identify relevant research and best practices. 
A particular focus should be given to evaluating tests from a qualitative
perspective and selecting metrics that can be automated.  One specific
example is mutation testing, where the expectation is that after modifying
the code, at least one test should fail. 

The student should investigate the feasibility of automating such metrics and propose improved ones that more accurately reflect the quality of the generated tests, thereby enhancing their reliability. These methods will be implemented and evaluated on the Python part of Rosetta dataset using selected large language models (LLMs).
 

The thesis has been checked:
22/5/2025 08:31, Mgr. Marek Grác, Ph.D., UČO 50728
Language used
English English
Defence date
17/6/2025
The thesis was defended successfully

Supervisor

Mgr. Marek Grác, Ph.D., UČO 50728
ÚČJ FF MU

Reader

RNDr. Adam Rambousek, Ph.D., UČO 60380
KSUZD FI MU

Masaryk University Faculty of Informatics
Plan
Machine learning and artificial intelligence
  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.
  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.
  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.
  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.
  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.