D 2023

Rethinking Certification for Higher Trust and Ethical Safeguarding of Autonomous Systems

KUŠNIRÁKOVÁ, Daša a Barbora BÜHNOVÁ

Základní údaje

Originální název

Rethinking Certification for Higher Trust and Ethical Safeguarding of Autonomous Systems

Autoři

KUŠNIRÁKOVÁ, Daša (703 Slovensko, garant, domácí) a Barbora BÜHNOVÁ (203 Česká republika, domácí)

Vydání

Setubal, Portugal, Proceedings of the 18th International Conference on Evaluation of Novel Approaches to Software Engineering, od s. 158-169, 12 s. 2023

Nakladatel

Scitepress

Další údaje

Jazyk

angličtina

Typ výsledku

Stať ve sborníku

Obor

10201 Computer sciences, information science, bioinformatics

Stát vydavatele

Portugalsko

Utajení

není předmětem státního či obchodního tajemství

Forma vydání

elektronická verze "online"

Odkazy

Kód RIV

RIV/00216224:14330/23:00130402

Organizační jednotka

Fakulta informatiky

ISBN

978-989-758-647-7

ISSN

DOI

UT WoS

001119034200013

Klíčová slova anglicky

Autonomous Systems; Trust; Certification; Regulation; Ethics

Štítky

Příznaky

Mezinárodní význam, Recenzováno
Změněno: 7. 4. 2024 22:50, RNDr. Pavel Šmerk, Ph.D.

Anotace

V originále

With the increasing complexity of software permeating critical domains such as autonomous driving, new challenges are emerging in the ways the engineering of these systems needs to be rethought. Autonomous driving is expected to continue gradually overtaking all critical driving functions, which is adding to the complexity of the certification of autonomous driving systems. As a response, certification authorities have already started introducing strategies for the certification of autonomous vehicles and their software. But even with these new approaches, the certification procedures are not fully catching up with the dynamism and unpredictability of future autonomous systems, and thus may not necessarily guarantee compliance with all requirements imposed on these systems. In this paper, we identified a number of issues with the proposed certification strategies, which may impact the systems substantially. For instance, we emphasize the lack of adequate reflection on software change s occurring in constantly changing systems, or low support for systems’ cooperation needed for the management of coordinated moves. Other shortcomings concern the narrow focus of the awarded certification by neglecting aspects such as the ethical behaviour of autonomous software systems. The contribution of this paper is threefold. First, we discuss the motivation for the need to modify the current certification processes for autonomous driving systems. Second, we analyze current international standards used in the certification processes towards requirements derived from the requirements laid on dynamic software ecosystems and autonomous systems themselves. Third, we outline a concept for incorporating the missing parts into the certification procedure.

Návaznosti

CZ.02.1.01/0.0/0.0/16_019/0000822, interní kód MU
(Kód CEP: EF16_019/0000822)
Název: Centrum excelence pro kyberkriminalitu, kyberbezpečnost a ochranu kritických informačních infrastruktur (Akronym: C4e)
Investor: Ministerstvo školství, mládeže a tělovýchovy ČR, Centrum excelence pro kyberkriminalitu, kyberbezpečnost a ochranu kritických informačních infrastruktur, PO 1 Posilování kapacit pro kvalitní výzkum
EF16_019/0000822, projekt VaV
Název: Centrum excelence pro kyberkriminalitu, kyberbezpečnost a ochranu kritických informačních infrastruktur
MUNI/A/1389/2022, interní kód MU
Název: Aplikovaný výzkum na FI: Bezpečnost počítačových systémů, softwarových architektur kritických infrastruktur s forenzními aspekty, zpracování dat pokročilých sensorů a algoritmy plánování v dopravě a logistice
Investor: Masarykova univerzita, Aplikovaný výzkum na FI: Bezpečnost počítačových systémů, softwarových architektur kritických infrastruktur s forenzními aspekty, zpracování dat pokročilých sensorů a algoritmy plánování v dopravě a logistice