Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique...

30
Innovation DevDay 2009 Rob Hendriks ([email protected]) Trends in softwaretesten

Transcript of Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique...

Page 1: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Innovation DevDay 2009

Rob Hendriks

([email protected])

Trends in softwaretesten

Page 2: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 2

Geaccrediteerd provider ISTQB

Foundation & alle Advanced modules

Training provider IREB

Requirements Engineering

Geaccrediteerde Lead Assessors

formele TMMi assessments

Improve Quality Services

• Toonaangevend in Testen & kwaliteitsmanagement

• Advies, Detachering en Training

• Opgericht in 1998, 34 medewerkers

Improve Quality Services

Waalre (bij Eindhoven)

www.improveqs.nl

Page 3: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 3

Pioniers fase

Debugging Oriented

Destruction Oriented

• 1979 Myers “The art of software testing”

• 1995 “Testen volgens TMap”

• 1997 TESTNET opgericht

Page 4: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 4

Meer volwassenheid

Evaluation Oriented

• 2000 ISTQB (ISEB) Test Certificatie in Nederland

• 2001 Kaner (Agile), Bach (Exploratory)

• 2006 TMMi Foundation opgericht

Prevention Oriented …..

Page 5: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 5

• Toenemende omvang en complexiteit

• Hoeveelheid software in consumentproducten verdubbelt elke 24 maanden (Philips)

• Hoeveelheid software in mobiele telefoons vertienvoudigt elke 36 maanden (Nokia)

• Aantal fouten neemt nauwelijks af

• Defect density per KLOC is redelijk constant over de laatste 10 jaar (Les Hatton)

• Deadlines, Concurrentie & Outsourcing

• Testen omvat vaak 30 - 40% van projectkosten

Computable,

Sept.’08

Uitdagingen

Page 6: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 6

Oplossingen?

• Risk based testen

• Efficiëntie van testen

• Outsourcing

• Andere ontwikkelmethodieken

• Certificatie

Page 7: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 7

Risk based testen

• Definitie van risico: “een factor welke mogelijk resulteert in een toekomstig negatief gevolg.” (Tom Gilb)

• Hoe groot is de faalkans?

• Wat is de schade als het optreedt?

• Faalkans en schade samen levert inzicht in de omvang van een risico

Product en Project

Page 8: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 8

Testen = Risico management

• Doelstelling: best haalbare dekkingsgraad

• Effectief gebruik van beperkte middelen

• Middelen

• Mensen

• Infrastructuur

• Tijd !

• ..

de juiste diepgang en vorm van dekking op de juiste plek op het juiste moment

Page 9: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 9

De uitdaging…. if only

we knew !!

Page 10: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 10

Product Risico Matrix

II

IV

I

III

4

20

12

3 15 9

x x

x

x

x

Kans

Gevolg

MoSCoW principe

Must Test

Should Test

Could Test

“Won’t Test”

X1 focus op

ontwikkel

testen focus

op

system

niveau

testen

Page 11: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 11

Oplossingen?

• Risk based testen

• Efficiëntie van testen

• Outsourcing

• Andere ontwikkelmethodieken

• Certificatie

Page 12: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 12

Efficiëntie van testen

• Vroegere betrokkenheid van testers

• Reviewen van requirements

• Design for testability

• Testen door ontwikkelaars

• Ontwikkelen van een test mindset

• Gebruik van (eenvoudige) testontwerptechnieken

• Test Driven Development

• Testautomatisering

• Testmanagement, testontwerp en testuitvoering

• Model based testen

Page 13: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 13

Design for Testability

• Belangrijkste doelen:

• Eerder vinden van fouten

• Dekkingsgraad van testen verhogen (handmatig en automatisch)

• Voor o.a.:

• Testen zonder hardware (niet klaar of duur)

• Gesimuleerde omgeving

• Negatief testen (falen van hardware of omgeving)

• Ondersteuning voor test/software engineers (diagnose)

Page 14: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 14

Normal transfer of information

Comp A Comp B info

Information retrieved and altered by test software:

Comp A Comp B

Test

SW

Define test interfaces on Comp A and Comp B

Test-mode Test-mode

Design for Testability (2)

Page 15: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 15

Unit Testing

design test design

code TEST

Black-box

technique

Coverage

criteria

System Tester

Supports and Reviews

White-box

technique

Page 16: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 16

Model based testen

• Test cases worden afgeleid van een model van het systeem (bv UML)

• Test cases automatisch genereren (bv TTCN-3)

• Test cases automatisch uitvoeren

Page 17: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 17

Oplossingen?

• Risk based testen

• Efficiëntie van testen

• Outsourcing

• Andere ontwikkelmethodieken

• Certificatie

Page 18: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 18

Outsourcing

• De software komt ook terug….. Formeler (acceptatie) testen is nodig

• Uitgebreide overeenkomsten nodig

• bijv. standaarden en ISTQB terminologie

• Hoe beschrijft men requirements.....?

• Goed gedefinieerde entry en exit criteria

• CMMI & TMMi

Page 19: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 19

Oplossingen?

• Risk based testen

• Efficiëntie van testen

• Outsourcing

• Andere ontwikkelmethodieken

• Certificatie

Page 20: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 20

Integratie ontwikkeling en test

• Geen los staande activiteit

• Fasering van ontwikkeling en test sluit aan

• Master test plan voor evaluatie activiteiten (test en review)

• Denk na over de gewenste mate van onafhankelijkheid

Page 21: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 21

21

• Teams zijn „test infected‟

• Testers maken deel uit van het team

• Gehele team is verantwoordelijk voor kwaliteit

• Rol van de tester

• Ontdekken van verborgen aannames

• Geven van terugkoppeling

• Verduidelijken van requirements

• Ontwikkeling motiveren met voorbeelden

Domain

ExpertProgrammer

Tester

Agile Testing

Page 22: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 22

22

• Testers zijn coaches

• Benodigde vaardigheden

• Goede communicatie

• Pro-actief

• Motiverend

• Niet alles willen vinden, maar goede kwaliteit leveren

Vaardigheden agile tester

Page 23: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 23

Oplossingen?

• Risk based testen

• Efficiëntie van testen

• Outsourcing

• Andere ontwikkelmethodieken

• Certificatie

Page 24: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 24

Opleiding van testers

• Competenties krijgen steeds meer aandacht

• Vakinhoudelijke certificatie beschikbaar

Page 25: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 25

Klantgerichtheid

Flexibiliteit

Aanpassingsvermogen

Energie Lerende oriëntatie

Stress tolerant

Conceptueel denken

Onderhandelen

Plannen

Delegeren

Initiatief

Voortgang bewaken

Samenwerken

Resultaat

gerichtheid

Organiseren

Verantwoordelijkheid

Luisteren

Leiding geven (groep)

Overtuigingskracht

Besluitvaardigheid

Oordeelsvorming

Communiceren

Organisatiebewustzijn

Empathie

Competenties Test manager

Page 26: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 26

Certificatie programma‟s

• ISTQB Foundation, Advanced en Expert

• Foundation level: - basis voor test engineering

• Advanced level: - Test management, Test analyst, Technical Test analyst

• Expert level: - Release eind 2009

• TMap Next Foundation en Advanced

• Foundation: - basis voor test engineering

• Advanced: - testcoördinatie en -management

www.istqb.org

www.tmap.net

Page 27: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 27

Certificeren van het proces

• Twee belangrijke verbetermodellen:

• TMMi

• Gebaseerd op CMMI

• Non-profit

• Top-down model

• TPI / TPI Next

• Gebaseerd op TMap (Next)

• Commerciële leverancier

• Bottom-up model

www.tmap.net

www.tmmifoundation.org

Page 28: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 28

TMMi process areas

5 : Optimization

- Test process optimization

- Quality control

- Defect prevention

3 : Integration

- Software test organization

- Test training program

- Test life cycle and integration

- Non-Functional testing

- Peer Reviews

2 : Managed

- Test policy and strategy

- Test planning

- Test monitoring and control

- Test design and execution

- Test environment

± 2 jaar

± 1 jaar

Helpt bij het stellen

van prioriteiten 4 : Management and measurement

- Software quality evaluation

- Test measurement programme

- Advanced reviews

Page 29: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 29

Samenvattend

• Efficiëntie van testen krijgt veel aandacht

• Eerder testen

• Goedkoper testen

• Automatisch testen

• Ontwikkeling en testen verder geintegreerd

• Balans tussen onafhankelijkheid en efficiëntie

• Vakgebied testen is volwassen

• Aandacht voor competenties

• Certificatie

Page 30: Trends in softwaretesten• 2000 ISTQB (ISEB) Test Certificatie in Nederland ... White-box technique . Improve Quality Services BV 16 Model based testen •Test cases worden afgeleid

Improve Quality Services BV 30

………

Diverse white papers beschikbaar

op www.improveqs.nl

Dank u !!