SAP Finug hosted by Qentinel tilaisuus 12.3.2019 - teemana "Varmista päivitysten onnistuminen SAP ympäristössä"
Miten teillä hoituvat onnistuneet versiopäivitykset SAP ympäristössä? Miten varmistetaan päästä-päähän liiketoimintaprosessien toimintavarmuus? Entä asiakaskokemuksen tyytyväisyyden varmistaminen, tilausten onnistuminen webbikaupassa, kun back-endinä on SAP?Qentinel on ratkaissut laadunvarmistuksen robottipohjaisella testiautomaatiolla, jolloin päivitykset ja muutokset ovat hallinnassa.
Testiautomaatio ja Key word driven -ajattelutapa - Kalle Huttusen esitys 7.6.
Sap Finug hosted by Qentinel 12.3.2019, esitykset
1.
2. Ohjelma 12.3.2019
• 9:00 Tilaisuuden avaus, Ulla Rantanen, Qentinel. Musiikkiesitys Alina
Ainola ja Miika Vintturi, Sibelius Akatemia
• 9:10 SAP Finugin tervehdys, Heini Kämi, Cargotec
• 9:20 Tervetuloa, johdanto ja asiakastutkimuksen tulokset - 10 kriittisintä
menestystekijää SAP päivityksissä Jyrki Rehumäki, Qentinel
• 9:45 Agilon varastohallintalaitteen testauksen automatisointi – powered by
Qentinel Pace, Riku Lammintausta, Konecranes
• 10:25 – 10:50 Tauko
• 10:50 E2E-laadunvarmistuksen asiakascase: my.metso.com – SAP, Marko
Rajala, Qentinel
• 11:20 Qentinel Pace robottipohjainen testaus - nopea käyttöönotto End-to-
End testauksessa - SAP Back-end, Nikhil Sharma, Qentinel
• 11:50 Tilaisuuden yhteenveto, Jyrki Rehumäki, Qentinel
3.
4.
5. Qentinel
Qentinel specializes in robotic
software testing for digital
systems.
Locations
Finland
Germany
USA
Employs
120
Impacts
500 million
people daily
Tests
500 000 test
cases executed
daily
8. www.sapfinug.fi
SAP Finnish User Group ry | 2014774-7
8
✓ Edistää informaation, tietotaidon ja kokemusten vaihtoa SAP -sovellusten käyttäjien kesken
✓ Edistää SAP -sovellusten oikeaa käyttöä
✓ Toimii kommunikaatioväylänä käyttäjien ja SAP:n välillä
✓ Edistää SAP -osaamista ja koulutusta Suomessa
✓ Jakaa puolueetonta tietoa SAP tuotteista ja palveluista, käyttäjänäkökulmasta
✓ Tarjoaa mahdollisuuden perustaa työryhmiä jäsenkuntaa kulloinkin kiinnostavien aihealueiden piiristä
✓ Luo järjestämillään tilaisuuksilla hyvän mahdollisuuden verkostoitumiseen
SAP Finnish User Group ry
8
9. www.sapfinug.fi
SAP Finnish User Group ry | 2014774-7
99
Työryhmiä
10
Tapahtumia
60
Osallistujia
3 000
Jäseniä
154
SAP Finnish User Group ry on
käyttäjävetoinen SAP:sta riippumaton käyttäjäyhdistys
12. PUBLIC
Liian paljon bugeja
pääsee tuotantoon
Testaaminen vie
liian kauan
Testaus vaatii paljon
työvoimaa
Testaus on nopeuden
pullonkaula
Kaikki osat toimivat,
mutta kokonaisuus ei
Datan oikeellisuus on
iso ongelma
Meidän koodi toimii
mutta integraatiot
rikkovat sen
Koko liike-
toimintaprosessi on
testattava
Korvasin 10 testaajaa 20
automaatio-insinöörillä
Meillä oli 4 julkaisua
vuodessa, nyt niitä on
60
Testien ylläpitoon
menee liikaa aikaa
Työkalut eivät
skaalaudu helposti
Ei näkyvyyttä eikä
kontrollia
En tiedä mitä vipuja
kääntää tuottavuuden
parantamiseksi
DevOps on hienoa, jos ei
tarvitse olla riippuvainen
muista
Ohjelmiston
tuotantoprosessi on
yhä mysteeri
Ohjelmistokehityksen havainnot
viimeisen 15 vuoden aikana
16. PUBLIC
1. Suurimmat haasteet SAP päivityksissä
• Testauksen laajuus lyhyessä ajassa, testausautomaation puute
• Alustaversioiden yhteensopivuudet
• Eri osa-alueiden päivityssyklien synkronisointi
• Päivitykset vievät kuukausia ja muu kehitys hidastuu sen vuoksi
• Muutokset testataan mutta kokonaisuuden toiminnan varmistaminen voi
jäädä tekemättä
• Testauksen suunnittelu ja läpivienti muiden projektien ohessa niin, että
haitta liiketoimintaa tukevalle kehitykselle minimioidaan
• Kuka omistaa päivityksessä ilmenneet ongelmat ja budjetin vikojen
korjaamiselle?
17. PUBLIC
2. Arvioita – SAP päivityksiin
liittyen
SAP päivitykseen integroituvien
järjestelmien määrä
20 – 200+
Järjestelmiin kohdistuvien
päivitysten määrä vuodessa
1 – 10+
4 releasea on liiketoimintaa ajatellen
alhainen - sopiva kehityshallinnalle
Datan määrä 1 - 7 TB + globaalit volyymit
Suurin määrä Finanssidatassa
18. PUBLIC
3. Suurimmat epävarmuudet SAP päivitysten yhteydessä
(Pienin riski 1 – suurin riski 5)
Käytössä olevien resurssien määrä 3,6
Yhteistyö oman organisaation sisällä 3,6
Hankkeen omistajuus 3,3
Osaaminen 3,2
Yhteistyö integraattoreiden ja muiden
kumppaneiden kanssa
3,2
Datan eheys 2,6
19. PUBLIC
3. Suurimmat epävarmuudet SAP päivitysten
yhteydessä
• Monitoimittaja ympäristössä kumppaneiden yhteistyön onnistumisella on
kriittinen merkitys hankkeen onnistumiselle
• Mikäli organisaatiossa ei ole järjestäytynyttä omistajuutta landscape
managementille, päivitykset jäävät muun tekemisen jalkoihin
• Teknisille patcheille on vaikea löytää business casea ja omistajuutta
20. PUBLIC
4. Datan eheyden ongelmat
• Kun käyttäjät toimivat eri prosessien mukaan, dataan kohdistuu erilaisia
odotuksia sekä vääriä käyttötapauksia
• Mitä enemmän on räätälöity ja käytetty vapaatekstikenttiä, sitä enemmän
on ongelmia sekä testattavaa ja ylläpidettävää
• Riskit liittyvät integraatioiden ja mukautusten määrään sekä
testausautomaation puutteeseen
• Yleensä dataan liittyvät ongelmat ilmenevät siten ettei prosessia saada
ajettua loppuun asti
21. PUBLIC
5. Vaikutus asiakaskokemukseen
Asiakaskokemus paranee
• Jos otetaan samalla käyttöön jotain uusia toiminnallisuuksia
• Jos osa uusista kehityksistä pohjautuu saatuun asiakaspalautteeseen
Asiakaskokemuksessa aiheutuu ongelmia
• Toiminnallisuudet eivät toimi päivitysten jälkeen
• Räätälöidyssä järjestelmässä riski toiminnallisuuksien rikkoutumiseen on
suuri, korjaaminen ilman loppukäyttäjätestausta on riskialtista
Lähes kaikki vastaajat totesivat
“Tulee pieniä ongelmia.”
22. PUBLIC
6. Miten varmistetaan onnistunut asiakaskokemus
• Mahdollisimman täydellinen päästä-päähän testaus
• Olisi suuri etu, jos käytössä olisi kattava regressiotestien automatisointi
• Prosessista manuaalisteppejä pois, käyttöliittymiä paremmaksi jne.
• Näkyvyys ajantasaiseen kehitys-roadmapiin
• Suorittaa tyytyväisyyskyselyitä
• Jos asiakas antaa palautetta liittyen järjestelmiin, on tärkeä tiedottaa
palautteen antajalle, kun prosessi on korjattu
23. 7. Kriittiset onnistumistekijät, joilla varmistetaan hyvä asiakaskokemus
järjestelmäpäivityksissä (mainintojen määrä)
Testaaminen ja nopea vianmääritys-korjausprosessi 9
Selkeä käsitys riippuvuuksista liittyen muihin järjestelmiin (ymmärrys vaikutuksesta
integraatioihin) 7
Toimittajien asiantunteva tuki (SAP ymmärrys) 7
Organisaatiosiilojen välillä on toimiva yhteistyö ja läpinäkyvyys 6
Projektille asetettu välitavoitteet ja realistinen aikataulutus 5
Ymmärrys liiketoimintaprosesseista ja niiden kehittämisestä digitaaliseksi 5
Uskalletaan siivota kertynyttä “prosessijätettä” 5
Rajaukset projektisuunnitelmassa - mitä kuuluu suunnitelmaan ja mitä ei (Laajuus) 3
Tarpeeksi aikaa ja resursseja henkilöstölle uusien ominaisuuksien käyttöönoton opetteluun 3
Liiketoiminnan tavoitteet määritelty ja kommunikoitu kaikille projektiosapuolille 2
Toimiva ohjausryhmä 1
24. PUBLIC
8. Kriittiset onnistumistekijät
• Teknologiaan liittyvien rajoitteiden ymmärtäminen esim.
versiotuki ja SAP-nootit
• Onko mahdollista tehdä päivityksiä ketterällä mallilla
• Suoritettavaan päivitykseen liittyvien muutoksien priorisointi
on haastavaa. Miten toteutetaan, jos muutoksia on tulossa
50-150 per päivitys?
53. Complexities across the online sales process
53
Testing various variables and combinations critical
• Distributor-specific catalogues (items vary)
• Several delivering plants – ’saleability’ defined
by the default plants
• Price & availability specific for customer, plant &
material combinations
• Different checkout parameters for different plants
(= order / quotation types)
• Different currencies
• Different quotation/order types for printouts and
order history
54. Metso needs confidence in digital business processes
Target: Improving online business with modern easy-to-use online tools
• Over 100 Aggregates distributors, who need to quote and order on Metso offering based on
real-time supply chain data from SAP
• 100 000+ parts and 100+ capital equipment provided online
Business processes must work end-to-end
• Data integrity is a major issue: must test the whole business process with data
• Number of combinations with distributors and parts, equipment: testing is frequent and
laborious
• Regression testing important – core ordering processes have to be robust!
• Equipment are possible to configure based on customer needs; testing needed that
configuration is correct and saved in SAP
• Agile development: need fast feedback to developers
54
55. METSO
Business processes must work end-to-end
PROBLEM
Data integrity is a major issue:
must test the whole business
process with data.
High number of different
combinations with various
distributors, parts and equipment
in online sales process requires
higher testing frequency and is
laborious.
Monthly deployments cause
pressure on continuous quality
assurance.
BENEFITS
• Automated testing with daily
frequency creates confidence and
pushes quality.
• Automated testing ensures
customer specific configurations In
SAP are correct and E2E processes
between SAP and other systems
function as expected
• Agile development is supported by
providing fast quality-assurance
feedback to developers for go-live
decisions
SOLUTION
Qentinel Pace ™ robotic software
testing validates the end-to-end
purchase flow for Metso for 110
distributors and ensures that system
operates as it is planned for both in
the parts’ and capital equipment
side.
Confidence in digital
business processes
through robotic
software testing.
56. • Preparations to the
first pilot distributors
• Roll-outs for first
group of users (EMEA)
• Manual quality
validation
• Discussion begun
about automatic
validation – because
the amount of
distributors was seen
to grow fast
• More distributors
added to production
• Qentinel Pace taken
into use in sprint
mode
• Focus in validating
the purchase flow
end-to-end (SAP
automation
excluded)
• Multibrowser and
multienvironment
support implemented
56
• Testing coverage
increased also to
capital equipment side
• Ensuring the capital
readiness for pilot
• Readiness for Qentinel
Pace achieved to SAP
back-end verification
• Ensuring readiness for
production
deployments
What has been done?
1Q2018 2Q2018 3Q2018
• Testing coverage
increased: Saleshub,
Installed base, Mining
• Ensuring readiness for
production deployments
• Test coverage additions
in parts and capitals
based on new features
and bugs.
• Secure Capital
equipments roll-outs
4Q18-1Q19
58. Qentinel QA solution
Qentinel Pace™ - Robotic Software Testing
End-to-end testing of the purchase flow
• Ensuring that system operates as it is planned
• Both in the parts’ and the capital equipment side
• Main features and data are verified
Qentinel helps in user validation
• Assisting Metso in validating features
Main features are first tested manually
then automatized
• Coordinating business testing
activities at Metso
58
60. Manual vs. Robotic software testing
• Robot won’t take breaks.
• Between test runs some maintenance for scripts is needed.
• Manual testing can focus on possible problematic areas.
Qentinel Pace automation:
Execution time for 1 distributor and 11 cases
for Parts: 8min 25sec
We support ~113 distributors in Qentinel Pace
Manually ~ 1 week (37 hours)
With automation ~ 7 hours
Manual testing:
Execution time for 1 distributor and 11 cases for
Parts: 20min 50sec
60
61. Typical findings from automated testing
• Catalogue product visibility and saleability related changes. Usually after SAP
environment refresh but occasionally other times as well.
• Hybris configuration related mis-matches / bugs.
• System ”Oops errors” in various situations.
‒ Oops error is always exception and roor cause needs to be understood and
issue fixed
• Functionality errors
• Inconsistency issue:
- Format how to present different measures, decimal digits etc.
61
62. • Automated testing creates confidence and pushes quality
• Monthly deployments cause pressure on continuous quality assurance
• Regression testing is critical – core ordering processes cannot tolerate errors
• Quality assurance feedback for go-live decisions always reviewed
• Larger adoption of test automation among the developers and testers progressing
62
How Metso has seen the QA service? What are the
benefits seen already?
63. Esko Harjama, Director, Metso Enterprise Architecture
• “From the very beginning we took Qentinel on board as our partner to develop
end-user test automation. Cooperation with Qentinel has meant continuous
software testing and improvements in the productivity of testing processes.”
• "The quantity of software testing is growing constantly. We have integrated test
processes into the service so that tests can be easily launched whenever new
features are added. "
• "Qentinel Pace is a responsive testing tool that significantly facilitates and
enhances cumulative testing. For us automation is the only reasonable way to do
the testing! "
63
How Metso has seen the QA service?