Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software

Abstrakt

Metriky pokrytí hrají klíčovou úlohy při testování programů. Umožňují měřit, jak dobře byl program testován, a řídit proces testování. Několik metrik pro testování vícevláknových programů již existuje, ale většina z nich plně nereflektuje chování vícevláknových programů nebo jsou příliš náročné. V tomto článku navrhujeme několik nových metrik, které jsou vhodné pro saturační testování a testování založené na prohledávání prostoru. Od předchozích metrik se liší zejména tím, že jsou odvozeny od různých dynamických algoritmů pro detekci chyb v synchronizaci. Způsob odvození metrik je obecný a lze tak vytvořit další metriky z jiných algoritmů pro detekci chyb. Naší motivací byl fakt, že do vývoje detekčních technik bylo vloženo značné úsilí, a současné techniky tak velmi přesně identifikují místa a operace klíčové pro popis chování vícevláknových aplikací. Odvozené metriky byly dále zpřesněny pomocí abstraktních identifikátorů objektů a vláken. Naše metriky byly empiricky porovnány s vybranými již existujícími metrikami.

Abstrakt anglicky

Coverage metrics play a crucial role in testing.

They allow one to estimate how well a~program has been tested and/or to control

the testing process. Several concurrency-related coverage metrics have been

proposed, but most of them do not reflect concurrent behaviour accurately enough.

In this paper, we propose several new metrics that are suitable primarily for

saturation-based or search-based testing of concurrent software. Their

distinguishing feature is that they are derived from various dynamic analyses

designed for detecting synchronisation errors in concurrent software. In fact,

the way these metrics are obtained is generic, and further metrics can be

obtained in a similar way from other analyses. The underlying motivation is

that, within such analyses, behavioural aspects crucial for occurrence of

various bugs are identified, and hence it makes sense to track how well the

occurrence of such phenomena is covered by testing. Next, coverage tasks of the

proposed as well as some existing metrics are combined with an abstract

identification of the threads participating in generation of the phenomena

captured in the concerned tasks. This way, further, more precise metrics are

obtained. Finally, an empirical evaluation of the proposed metrics, which

confirms that several of them are indeed more suitable for saturation-based and

search-based testing than the previously known metrics, is

presented.

Klíčová slova anglicky

Java, concurrency, testing, coverage, search-based testing, saturation-based testing

URL

http://www.springerlink.com/content/084w5489p9556775/

Rok

2012

Strany

177–192

Časopis

Lecture Notes in Computer Science, roč. 2012, č. 7186, ISSN 0302-9743

BibTeX

@article{BUT91435,
  author="Zdeněk {Letko} and Tomáš {Vojnar} and Bohuslav {Křena}",
  title="Coverage Metrics for Saturation-based and Search-based Testing of Concurrent Software",
  journal="Lecture Notes in Computer Science",
  year="2012",
  volume="2012",
  number="7186",
  pages="177--192",
  issn="0302-9743",
  url="http://www.springerlink.com/content/084w5489p9556775/"
}

Soubory

pdf cmsstcs12.pdf 277 kB

Projekty

Matematické a inženýrské metody pro vývoj spolehlivých a bezpečných paralelních a distribuovaných počítačových systémů, GAČR, Doktorské granty, GD102/09/H042, zahájení: 2009-01-30, ukončení: 2012-12-31, ukončen
Pokročilé bezpečné, spolehlivé a adaptivní IT, VUT, Vnitřní projekty VUT, FIT-S-11-1, zahájení: 2011-01-01, ukončení: 2013-12-31, ukončen
Práce se složitými datovými strukturami a paralelismem v prostředí Rich Model Toolkit, MŠMT, COST, OC10009, zahájení: 2010-01-01, ukončení: 2012-12-31, řešení
Statická a dynamická verifikace programů s pokročilými rysy paralelismu a neomezenosti, GAČR, Standardní projekty, GAP103/10/0306, zahájení: 2010-01-01, ukončení: 2013-12-31, řešení
Výzkum informačních technologií z hlediska bezpečnosti, MŠMT, Institucionální prostředky SR ČR (např. VZ, VC), MSM0021630528, zahájení: 2007-01-01, ukončení: 2013-12-31, řešení

Výzkumné skupiny

Výzkumná skupina automatizované analýzy a verifikace - VeriFIT (VZ VERIFIT)

Pracoviště

Ústav inteligentních systémů (UITS)