Diplomová práce

User interface for BricksLLM proxy

Bc. Daniel Olearčin, učo 553669
Anotace

Táto práca sa zaoberá návrhom a vývojom užívateľsky prívetivého webového rozhrania pre BricksLLM AI bránu, ktorá funguje ako sprostredkovateľ pre populárne API veľkých jazykových modelov. BricksLLM uľahčuje bezpečný odpredaj a monitorovanie používania týchto API a poskytuje funkcie, ako je sledovanie používania a riadenie prístupu. Hlavným cieľom je pochopiť, ako BricksLLM funguje, najmä ako pracuje …více

Abstract

This thesis explores the design and development of a user-friendly web interface for BricksLLM's cloud-native AI gateway, which acts as a proxy for popular large language model APIs. BricksLLM makes it easy to securely resell and monitor the usage of these APIs, providing features such as usage tracking and access control. The main focus is to understand how BricksLLM works under the hood, especially …více

Zadání práce

The thesis focuses on the design and implementation of a user interface for the BricksLLM component, which serves as a proxy for the OpenAI API and enables its resale, including basic resource consumption accounting.

The objective of the thesis is to familiarize oneself with the implementation details of the BricksLLM component, including all its parts: the SQL database and the Redis server. The student must analyze the entire system to be able to design and implement the complete user interface.

As part of getting acquainted with this system, the student will design and implement the integration of the BricksLLM proxy into the JupyterHub service at the CERIT-SC center, allowing the use of the proxy and, consequently, the OpenAI API in Jupyter Notebooks.

The core focus of the thesis is the implementation of a graphical interface with the following features:

  1. User authentication via OIDC.
  2. The ability for users to create their own API key for BricksLLM and view their usage statistics.
  3. The system must ensure that a single user is always time-limited in their use of the OpenAI API, regardless of how many times they attempt to create an API key.
  4. The system administrator can view user information, particularly API usage statistics.
  5. The entire implemented system must be deployed in a Kubernetes environment using a Helm chart package.

The outcome of the thesis will be a functional web interface with the aforementioned features, as well as textual documentation.

Práce zkontrolována:
22. 5. 2025 01:15, RNDr. Lukáš Hejtmánek, Ph.D., učo 3545
Jazyk práce
angličtina angličtina
Termín obhajoby
19. 6. 2025
Práce byla úspěšně obhájena

Vedoucí

RNDr. Lukáš Hejtmánek, Ph.D., učo 3545
ClCS RE-infra CERIT-SC ÚVT MU

Oponent

Ing. Milan Daneček, Ph.D.

Masarykova univerzita Fakulta informatiky
Studijní program
Plán
Návrh a vývoj softwarových systémů
  • Přidání souboru

    Soubor nebo složku lze nahrát pomocí tlačítka Přidat.
  • Další operace se soubory

    Podrobnosti lze zjistit označením příslušného řádku.
  • Pohled pro experty

    Pro častou práci je možné zvolit režim Více možností.
  • Vyhledávání souborů

    Vyhledávaný výraz můžete zadat přímo do adresního řádku.
  • Rychlý přístup k souborům

    Pomocí funkce Nedávné je možné se rychle vrátit k právě prohlíženým souborům. Oblíbené soubory je také možné označit Hvězdičkou.