Diplomová práce

Benchmarking of unit tests generated by LLM

Bc. Dominik Tuchyňa
Anotace

S rastúcim využívaním veľkých jazykových modelov (Large Language Models, LLM) v softvérovom vývoji sa čoraz viac presadzuje automatická generácia softvérových testov. Tradičné metriky kvality testov, ako sú pokrytie vetiev, pokrytie kódu či hustota asercií, však často nedokážu dostatočne vystihnúť správanie skutočne bežiaceho programu. Táto diplomová práca skúma možnosti mutačnej analýzy ako alternatívneho …více

Abstract

With the increasing adoption of Large Language Models in software development, it is possible to generate tests. Classic testing adequacy metrics like branch, code coverage, or assertion density are not sufficient. This master thesis examines the possibility of using mutation analysis to its own advantage with respect to machine-generated code with a novel approach of using test differentiator to include …více

Zadání práce

Automated testing of a code is an essential part of software development. 
Unit testing is a subset of automated testing, which aims to cover the
smallest meaningful code unit with tests.  However, writing unit tests is
often repetitive and time-consuming, which sometimes leads to improper test
coverage or missing test cases.  With rising capabilities of Large Language
Models (LLM), Generative AI, and their usage for generating code, it is
important to be aware of potential issues related to generating tests.

As part of this thesis, the student is expected to analyze the state of the
art in automated testing and identify relevant research and best practices. 
A particular focus should be given to evaluating tests from a qualitative
perspective and selecting metrics that can be automated.  One specific
example is mutation testing, where the expectation is that after modifying
the code, at least one test should fail. 

The student should investigate the feasibility of automating such metrics and propose improved ones that more accurately reflect the quality of the generated tests, thereby enhancing their reliability. These methods will be implemented and evaluated on the Python part of Rosetta dataset using selected large language models (LLMs).
 

Práce zkontrolována:
22. 5. 2025 08:31, Mgr. Marek Grác, Ph.D., učo 50728
Jazyk práce
angličtina angličtina
Termín obhajoby
17. 6. 2025
Práce byla úspěšně obhájena

Vedoucí

Mgr. Marek Grác, Ph.D., učo 50728
ÚČJ FF MU

Oponent

RNDr. Adam Rambousek, Ph.D., učo 60380
KSUZD FI MU

Masarykova univerzita Fakulta informatiky
Plán
Strojové učení a umělá inteligence
  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.
  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.
  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.
  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.
  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.