Teste die Datenbank!

Teste die Datenbank !
Thomas Koch
Senior Database Specialist
think project! International GmbH & Co. KG
Teste die Datenbank !
Warum?
Womit?
Wann?
Wo?
Was?
Wie?
Warum ist die Datenbank zu testen?
●
Die Datenbank
–
ist das Fundament eines jeden Systems
–
ist eine Komponente in jeder Systemlandschaft
–
spiegelt das Geschäftsmodell wieder
–
enthält Geschäftslogik
–
…
Vortrag:
Teste die Datenbank !
4/26
Thomas Koch
think project! International GmbH & Co. KG
Beispiel V-Modell
Wann bzw. Wo
finden die
DB-Tests statt?
Quelle: http://de.wikipedia.org/wiki/Datei:V-Modell.svg
Vortrag:
Teste die Datenbank !
5/26
Thomas Koch
think project! International GmbH & Co. KG
Definition Teststufen
Unit Test
●
●
●
●
Auch Komponententest, Modultest
Integrationstest
●
Ein Test auf der Ebene der
einzelnen Module der Software
Testgegenstand ist die
Funktionalität innerhalb einzelner
abgrenzbarer Teile der Software
–
Module
–
Programme oder Unterprogramme
–
Units oder Klassen
Testziel ist der Nachweis der
technischen Lauffähigkeit und
korrekter fachlicher (Teil-)
Ergebnisse
●
●
testet die Zusammenarbeit
voneinander abhängiger
Komponenten
Testschwerpunkt liegt auf den
Schnittstellen der beteiligten
Komponenten
Nachweis korrekte Ergebnisse
über komplette Abläufe hinweg
Quelle: http://de.wikipedia.org/wiki/Softwaretest
Wo finden die Datenbank-Tests statt?
Teststufen
Quelle: http://www.agilecoachjournal.com/wp-content/uploads/2014/01/AgileTestingPyramid2.jpg
Vortrag:
Teste die Datenbank !
7/26
Thomas Koch
think project! International GmbH & Co. KG
●
●
●
●
●
●
JUnit
PHPUnit
PerlUnit
TAP
NUnit
JSUnit
Komponte B
Unit Test
Komponte B
Frontend
Unit Test
Unit Test
●
●
●
●
●
●
●
●
●
●
●
●
JUnit
PHPUnit
PerlUnit
TAP
NUnit
JSUnit
JUnit
Arquillian
PHPUnit
PerlUnit
TAP
NUnit
Komponte B
Komponte B
Frontend
Unit Test
Unit Test
Unit Test
Komponte A
Komponte B
Integration Test
Komponte B
Integration Test
Frontend
●
●
●
●
●
●
●
●
●
●
●
●
JUnit
PHPUnit
PerlUnit
TAP
NUnit
JSUnit
JUnit
Arquillian
PHPUnit
PerlUnit
TAP
NUnit
Komponte B
Komponte B
Frontend
Unit Test
Unit Test
Unit Test
Komponte A
Komponte B
Integration Test
Komponte B
Frontend
Integration Test
●
●
Selenium
Fit
Komponte B
Komponte B
Akzeptanztest
Frontend
●
●
●
●
●
●
●
●
●
tSQLt
pgTAP
PGUnit
myTAP
DbFit
PL/Unit
DBUnit
Test::DBUnit
DBUnit.Net
Datenbank
Komponte B
Frontend
Unit Test
Test
Unit
Unit Test
Unit Test
Datenbank
Komponte B
Integration Test
Komponte B
Frontend
Integration Test
●
●
Selenium
Fit
Datenbank
Komponte B
Akzeptanztest
Frontend
Was ist bei der Datenbank zu testen?
Datenbankstruktur
●
Existieren alle DBObjekte
–
–
Geschäftslogik
●
Stored Procedures
●
Lasttests
●
Trigger
●
Laufzeiten von
●
Constraints
Tabellen
Views
–
Stores Procedures
–
Unique Keys
–
DML-Operationen
–
Check
–
Stores Procedures
–
Constraints
–
Sequenzen
●
Sequenzen
–
Operatoren
●
Views
–
…
●
Operatoren
●
User/Rollen → Privilegien
Views
Foreign Keys
Indexes
Datenbankeigenschaften
–
–
–
●
Performance
Vortrag:
Teste die Datenbank !
12/26
Thomas Koch
think project! International GmbH & Co. KG
Womit ist die PostgreSQL zu testen?
Umgebung
Tools
Datenbankstruktur
Geschäftslogik
Performance
●
check_postgres
●
pgUnit
●
JMeter
●
pgTap
●
pgTap
●
pgTap
●
liquibase
●
SoapUI
Auf allen
●
●
●
●
LIVE,
TEST,
DEV,
...
Nie auf LIVE
Auf allen anderen
●
●
●
TEST
DEV
...
●
●
●
●
Vortrag:
LIVE ?
TEST
DEV ?
...
Teste die Datenbank !
13/26
Thomas Koch
think project! International GmbH & Co. KG
pgTap
„pgTAP is a unit testing framework for PostgreSQL written in
PL/pgSQL and PL/SQL. It includes a comprehensive
collection of TAP-emitting assertion functions, as well as the
ability to integrate with other TAP-emitting test frameworks. It
can also be used in the xUnit testing style.“ (www.pgtap.org)
●
Download http://pgxn.org/dist/pgtap/
●
Install database objects
●
–
CREATE EXTENSION pgtap; -- ab 9.1
–
psql -d mydb -f pgtap.sql
-- vor 9.1
873 functions
2 views
Start with pg_prove (search.cpan.org)
Vortrag:
Teste die Datenbank !
14/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Datenbankstruktur zu testen?
Database
Owner/Privileges
PL/SQL Code
●
has_tablespace
●
db_owner_is
●
has_function
●
has_schema
●
schema_owner_is
●
has_cast
●
has_type
●
table_owner_is
●
has_operator
●
has_domain
●
database_priv_are
●
is_aggregate
●
domain_type_is
●
table_priv_are
●
is_strict
●
has_enum
●
function_priv_are
●
function_return
●
has_language
●
●
function_lang_is
●
trigger_is
●
●
is_superuser /
isnt_superuser
is_member_of
has_user /
has_role
Quelle: http://pgtap.org/documentation.html#theschemathings Vortrag:
Teste die Datenbank !
15/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Datenbankstruktur zu testen?
Table
●
●
●
●
has_table
has_column /
columns_are
col_is_null /
col_not_null
col_has_default /
col_hasnt_default
●
col_is_pk
●
col_is_fk
●
col_has_check
Index / Constraint
Other Objects
●
has_fk
●
has_sequence
●
fk_ok
●
has_view
●
has_unique
●
●
has_check
●
●
has_index
Quelle: http://pgtap.org/documentation.html#theschemathings Vortrag:
has_materialized_
view
has_trigger
Teste die Datenbank !
16/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Datenbankstruktur zu testen?
SELECT has_schema('demo');
SELECT has_table('demo', 'tablexy', 'table public.tablexy exists');
SELECT has_sequence('demo', 'seq_tablexy_id', 'Sequence demo.seq_tablexy_id exists');
SELECT has_column('demo', 'tablexy', 'last_change_dt', 'Column demo.tablexy.last_change_dt
exists');
SELECT col_type_is('demo', 'tablexy', 'id', 'bigint', 'Type of column demo.tablexy.id is
bigint');
SELECT col_is_fk('demo', 'tablexy', ARRAY[ 'fk_id' ], 'FOREIGN KEY on column tablexy.fk_id
exists');
SELECT col_is_pk('demo', 'tablexy', ARRAY[ 'id' ], 'PRIMARY KEY on columnn tablexy.id
exists');
SELECT col_default_is('demo', 'tablexy', 'id','nextval(''demo.seq_tablexy_id''::regclass)',
'Column demo.tablexy.id has a default value: nextval(''demo.seq_tablexy_id''::regclass)');
SELECT has_trigger('demo', 'tablexy', 'triu_tablexy', 'INSERT/UPDATE Trigger demo.triu_tablexy
on table tablexy should exists');
SELECT trigger_is('demo', 'tablexy', 'triu_tablexy', 'demo', 'tr_fnc', 'Trigger
demo.triu_tablexy use function demo.tr_fnc()');
SELECT index_is_type('demo', 'tablexy', 'ix_tablexy_cols', 'btree', 'Index type is
btree(demo.tablexy.ix_tablexy_cols)');
SELECT has_index('demo', 'tablexy', 'ix_tablexy_cols', ARRAY[ 'col1','col2'], 'Index
demo.ix_tablexy_cols should exists');
Vortrag:
Teste die Datenbank !
17/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Datenbankstruktur zu testen?
SELECT ok('{}'::json = '{}'::json, 'check operator =(json,json)');
SELECT has_view('demo', 'v_xyz', 'View demo.v_xyz should exists');
SELECT has_type('demo', 'enumxy_type', 'Type demo.enumxy_type exists');
SELECT has_function('demo', 'fnc_xy', 'Function demo.fnc_xy should exists');
SELECT schema_privs_are ( 'demo', 'demouser', ARRAY['USAGE'], 'demouser should be granted USAGE on schema demo');
SELECT roles_are(ARRAY[ 'postgres', 'demouser', 'deploy', 'icinga']);
pg_prove -h dbhost -d dbname -U dbuser test*.sql
Files=11
Tests=5742
Time=14sec
Vortrag:
Teste die Datenbank !
18/26
Thomas Koch
think project! International GmbH & Co. KG
Generierung der DB-Strukturtests
●
●
komplett
–
Liquibase
–
check_postgres
–
pg_tapgen
Individuell anpassen
–
Struktur aus DB-Systemobjekte holen
–
Mit Filter einschränken
SELECT 'SELECT has_view(''' || table_schema || ''', '''
|| table_name || ''', ''View ' || table_schema || '.' || table_name || ' should exists'');' AS pgtap FROM INFORMATION_SCHEMA.views
WHERE table_schema NOT IN ('pg_catalog','information_schema')
AND table_name NOT LIKE 'dba%'
ORDER BY table_schema DESC
Vortrag:
Teste die Datenbank !
19/26
Thomas Koch
think project! International GmbH & Co. KG
DB-Strukturtest – Übung
CREATE VIEW v_mitarbeiter AS SELECT name || ', ' || vorname AS name
FROM mitarbeiter;
Beispiel
CREATE OR REPLACE FUNCTION is_lastday(i_date TIMESTAMP) RETURNS BOOLEAN
AS $$
SELECT CASE WHEN DATE(((date_trunc('month', i_date)+interval '1 month')interval '1 day')) = DATE(i_date) THEN TRUE ELSE FALSE END
$$
LANGUAGE SQL IMMUTABLE STRICT;
Test
BEGIN;
SET search_path TO pgtap, public;
SELECT * FROM plan(11);
test
SELECT has_view('public', 'v_mitarbeiter', 'View public.v_mitarbeiter should exists');
SELECT view_owner_is( 'public', 'v_mitarbeiter', 'tkoch', 'owner of view public.v_mitarbeiter is tkoch');
SELECT lives_ok('SELECT * FROM v_mitarbeiter LIMIT 0', 'view v_mitarbeiter should run');
SELECT has_column('public', 'v_mitarbeiter', 'name', 'Column public.v_mitarbeiter.name exists');
SELECT has_function('public', 'is_lastday', 'Function public.is_lastday should exists');
SELECT is_strict('public', 'is_lastday', 'Function public.is_lastday should strict'); SELECT volatility_is( 'public', 'is_lastday', ARRAY['timestamp without time zone'], 'immutable' );
SELECT function_owner_is('public', 'is_lastday', ARRAY['timestamp without time zone'],'tkoch', 'owner of function public.is_lastday is tkoch');
SELECT function_returns('public', 'is_lastday', ARRAY['timestamp without time zone'], 'boolean', 'return type of function public.is_lastday is boolean');
SELECT function_lang_is('public', 'is_lastday', ARRAY['timestamp without time zone'], 'sql', 'language of function public.is_lastday is sql');
SELECT function_privs_are('public', 'is_lastday', ARRAY['timestamp without time zone'],'tkoch', ARRAY['EXECUTE'], 'function public.is_lastday has privileges: EXECUTE');
SELECT * FROM finish();
ROLLBACK;
Vortrag:
Teste die Datenbank !
20/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Geschäftslogik zu testen?
●
SELECT ok(:boolean, :description);
●
SELECT is(:have, :want, :description);
●
SELECT matches(:have, :regex, :description);
●
SELECT throws_ok(:sql, :errcode, :ermsg,
:description);
●
SELECT throws_like(:sql, :like, :description);
●
SELECT throws_matching(:sql, :regex, :description);
●
SELECT results_eq(:sql, :sql, :description);
●
SELECT set_eq(:sql, :sql, :description);
●
SELECT set_has(:sql, :sql, :description);
●
SELECT is_empty(:sql, :description);
●
SELECT row_eq(:sql, :record, :description);
Quelle: http://pgtap.org/documentation.html
Vortrag:
Teste die Datenbank !
21/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Geschäftslogik zu testen?
CREATE VIEW v_mitarbeiter AS SELECT name || ', ' || vorname AS name
FROM mitarbeiter;
Beispiel
CREATE OR REPLACE FUNCTION is_lastday(i_date TIMESTAMP) RETURNS BOOLEAN
AS $$
SELECT CASE WHEN DATE(((date_trunc('month', i_date)+interval '1 month')interval '1 day')) = DATE(i_date) THEN TRUE ELSE FALSE END
$$
LANGUAGE SQL IMMUTABLE STRICT;
Test
BEGIN;
SET search_path TO pgtap, public;
SELECT * FROM plan(6);
– prepare
TRUNCATE TABLE mitarbeiter;
INSERT INTO mitarbeiter (name, vorname) VALUES ('Zufall','Rainer');
– test
SELECT isnt_empty($$SELECT name FROM v_mitarbeiter $$, 'test v_mitarbeiter not empty');
SELECT results_eq($$SELECT name FROM v_mitarbeiter $$, $$SELECT 'Zufall, Rainer'::TEXT $$,'test v_mitarbeiter concat');
SELECT is( is_lastday('20120229'), TRUE, 'test is_lastday from 20120229' );
SELECT is( is_lastday('20140228'), TRUE, 'test is_lastday from 20140228' );
SELECT is( is_lastday('20120228'), FALSE, 'test is_lastday from 20120228' );
SELECT is( is_lastday('20120630'), TRUE, 'test is_lastday from 20120630' );
Files=20
Tests=108
Time=4sec
SELECT * FROM finish();
ROLLBACK;
Vortrag:
Teste die Datenbank !
22/26
Thomas Koch
think project! International GmbH & Co. KG
Wie ist die Performance zu testen?
SELECT performs_ok(:sql, :milliseconds, :description);
SELECT performs_within(:sql, :average_milliseconds,
:within, :iterations, :description);
BEGIN;
SET search_path TO pgtap, public;
SELECT * FROM plan(2);
– prepare
TRUNCATE TABLE mitarbeiter;
COPY mitarbeiter FROM '/tmp/mitarbeiter_data' (DELIMITER ',');
– test
PREPARE fast_query AS SELECT name FROM v_mitarbeiter WHERE name LIKE 'Zufall';
SELECT performs_ok('fast_query', 250, 'select by name should be fast');
SELECT performs_within('fast_query', 250, 10, 100, 'select by name should be fast');
SELECT * FROM finish();
ROLLBACK;
Quelle: http://pgtap.org/documentation.html
Vortrag:
Teste die Datenbank !
23/26
Thomas Koch
think project! International GmbH & Co. KG
Automatisierung
●
pg_prove in Build-Tools integrieren
–
Jenkins (TAP Plugin bzw. xUnit Plugin)
–
Buildbot
●
pg_prove in Deployment-Skripte integrieren
●
pg_prove in crontab aufnehmen
Vortrag:
Teste die Datenbank !
24/26
Thomas Koch
think project! International GmbH & Co. KG
Zusammenfassung
●
●
●
●
Warum?
–
Fundament eines Systems
–
nur eine weitere Komponente
–
Geschäftmodell und Geschäftslogik
Wann und Wo?
–
Eher direkt auf der Datenbank
–
mehr Unit Tests als Integrationstests
Was?
–
Struktur der Datenbank
–
Geschäftslogik in der Datenbank
–
Performance der Datenbank
Womit?
–
●
für jede DB gibt es mehrere Alternativen (hier pgTAP gezeigt)
Wie?
–
am Besten in einer Transaktion mit Rollback am Ende
–
im Vorbereitungsschritt die Daten löschen und mit eigenen Daten befüllen
–
Tests der DB-Struktur können generiert werden
Vortrag:
Teste die Datenbank !
25/26
Thomas Koch
think project! International GmbH & Co. KG
Teste die Datenbank !
Thomas Koch
Senior Database Specialist
think project! International GmbH & Co. KG
Mail: [email protected]

Download Report