One of the biggest challenges in computational topic modeling is to

Content2Knowledge (C2K)
One of the biggest challenges in computational topic modeling is to identify context-relevant clusters from
unstructured textual data. The joint research project CONTENT2KNOWLEDGE (C2K) of the University of Turku and
the Åbo Akademi University seeks to bridge this gap between by integrating traditional topic-modeling with
network analysis in order to develop innovative methods and computational tools for context-aware topic mining,
content analysis and knowledge visualisation.
PROJECT DESCRIPTION:
EXAMPLE #1: CLUSTERS = TOPICS
The C2K project started in 2014 as s spin-off
from a small-scale project dealing with problems
of extracting research data from semi-sized,
unstructured text documents.
Step 1: Text as network
Step 2: Topic modeling with
clustering
er schr eckend
arbeitslosigkeit
r eichen
wachst um skur s
ar beit slose
stelle
zur ückdr ängen
ent wicklung
er wer bst ät ig
ent st ehen
job
million
offen
demokratie
wohlergehen
besuch
bestmöglich
schuld
beispiel
auf schwung
sor ge
f r euen
ausbildung
maßnahme
zahl
polit ik
hum an
invest ier en
ver änder n
m it einander
silvest er
gewandelt
holen
bedingung
beginn
bewährungsprobe
gast f r eundschaf t
zweit
über r aschen
e ri n n e ru n g
zuvor
ent scheiden
qualifizierungsmaßnahme
schein
welt kr ieg
weit er gehen
zur ückschauen
öffentlich
meldung
ar beit sr eich
m enge
t r auer
wor t
er war t en
froh
handeln
auf t r ag
er f ahr ung
jahr
europäer
her st ellen
dankbar keit
politiker
vor st ellen
eint r übung
anbieten
gesund
verbreitung
äußer
bewahren
bankautomat
absage
wert
ver lier en
zur ückgeben
ddr
solidarität
bundesregierung
neujahr sanspr ache
g e s e l l s c h a ft
f est st ellen
garant
zur ücksehen
diktatur
f r iedensor dnung
er f ahr en
ver st är kt
o ffe n
nachbar schaf t
s te l l e
geschichte
wohlstand
ver t eidigen
här t e
wirtschaftswunder
um f eld
ar beit slos
wieder ver eint
ver lauf en
gesegnet
entsetzen
bildung
arbeit
verbraucher
ausgehen
auf nehm en
zahl
vor nehm
er eignis
schaffen
er leben
bürgerin
alltag
jugendliche
gleichsam
mitbürger
pf legever sicher ung
mitbürgerin
spr echen
kommend
sicher n
bund
spüren
lieb
st euer
r ahm en
dur chset zen
zukunft
agenda
herz
euro
grundlage
wünschen
familie
selten
erfüllt
verschließen
However, the project rapidly expanded to a larger
project seeking to develop computational tools
supporting context-aware, exploratory topic
modeling, content analysis and knowledge
visualisation.
jahreszahl
rente


Application of powerful analytical tools
(clustering, community detection etc.) for topic
modeling
reform
bet r ieb
rolle
versuchen
weit
sinn
gesundheit
steuer
polit iker
union
verbringen
aufgabe
markt
stunde
anstehend
absage
freiheit
mut
zusammenhalt
freund
liegen
stärken
klang
denken
bieten
persönlich
besuch
glück
lektion
hinzu
einheit
anfang
wozu
groß
wahrlich
zeihen
geraten
eintrübung
weitergehen
vereinbart
falsch
vereint
schuld
problem
nummer
feiern
grund
verfolgen
arbeitsreich
spürbar
silvesterabend
griff
kommend
spüren
beruf
übermitteln
sorgen
durchsetzen
zukunft
bundesrepublik
miteinander
bewirken
sprechen
deutsche
lieb
abend
vat er
wahr
gehör en
selbst ver st ändlich
par t ner
wahr lich
bet r euungseinr icht ung
auf opf er ungsvoll
freund
f ühlen
f ör der n
bewält igen
ar beit nehm er
●
m enschlich
helfen
bewahren
schulpolit ik
erfolgreich
●
Topic collocation analysis (rhizomes)
●
Semantic context analysis
●
Thematic pathways analysis, long-term trend analysis
gest iegen
heim suchen
genau
schlim m
fü h re n
hilf sor ganisat ion
wiederaufbau
r ückschlag
gelt en
nat ur kat ast r ophe
krieg
krise
bewir ken
st är ke
vor nehm en
bundesr epublik
ziel
ver st ehen
über winden
t r aining
ent wickeln
gewandelt
recht
halten
staat
er zählen
ent scheidung
r eden
gewalt
gemeinsinn
m it t e
gr undsat z
wissen
zweck
legit im ier t
rücktransport
pat enschaf t
schule
vor anbr ingen
spendenber eit schaf t
st euer r ef or m
nah
er dt eil
wahr
gut
vater
reiseveranstalter
januar
enkel
r ent e
bit t en
opfer
denken
jung
alt
hüter
bereit
deutsche
gerade
tourist
sozial deutsch
über f or der n
kind
gelingen
einzigar t ig
a u fg a b e
augenmaß
leid
mensch
gemeinsam
haus
gewissheit
sor gen
eng
aufstieg
unt er st üt zen
erreichen
bundesland
bezir k
l e i s te n
f ußballwelt m eist er schaf t
z u l a s te n
auf st ieg
prinzip
t r äum en
not
f er nseher
tote
stadt
weltweit
f eier n
heißen
chance
st ecken
bewältigen
geld
dorf
t eil
urlauber
marktwirtschaft
pf licht
aufopferungsvoll
missstand
tag
chance
ausspielen
h e u ti g
ger at en
abend
wozu
helfen
lösung
st är kung
konf likt
f inanzkr ise
zeigen
t eilhabe
gegeneinander
gest at t en
über m it t eln
traurig
abseit s
t ot e
wunsch
silvesterabend
er klär en
einsetzen
hilfe
f ünf t
f leiß
nachhalt ig
region
ber eit
hilf sber eit schaf t
t r aur ig
deutsch
r eisever anst alt er
wettbewerb
stecken
welt gesellschaf t
beheben
m onat
t our ist
januar
f r eiwilge
volk
hint er bliebener
r ückt r anspor t
bedeut ender
verteilen
gewissheit
erfahren
ur lauber
gelassen
schut z
polizist in
steuerreform
begegnen
helfer
ausspielen
bedingung
kinderfreundlichkeit
afghanistan
silvest er nacht
soldat
ver m eidung
ergebnis
innere
gelten
hilfe
liebevoll
gerecht
wirtschaft
zivil
stunde
sicherheit
klimaschutz
s ta b i l i tä t
liebe
polizist
gef ahr
e i n s a tz
gegeneinander
fern
heimat
krise solidarität
schaffengelingen
wirtschaftlich
nah
vornehm
or t
mithalten
frieden
ver br ingen
f reiheit
wirkung
sichern
erreichen
allt ag
trotz
geeint
gar ant
groß
stadt
bankaut om at
glück
eur opäer
teilhabe
gestiegen
bundesland
morgens
million
opfer
politisch
dienst
leben
nöt ig
stärkung
früh
mitte
mitgefühl
er war t ung
stärken
welt handel
schein
vereinen
dorf
währ ung
europäisch
m ar kt wir t schaf t
euro
f inanziel
union
gespr äch
bür ger
beitrag
sozial
hüt er
er scheinen
bewähr ungspr obe
per sönlich
holen
bedeuten
mark
erleben
wissen
friedensordnung
terror
innovation
wirksam
recht härte
gr if f
jugendliche
gr öße
gleichsam
problem
t r aum
region
qualif izier ungsm aßnahm e
bür ger in
best m öglich
angesicht s
bekommen
einm ischen
augenm aß
eigenver ant wor t ung
num m er
zunächst
a u s b i l d u n g s p l a tz
handeln
bildung
vornehmen
verteidigen
aus bildung
staat
m agisch
pr inzip
lösen
jahr eszahl
anbiet en
öf f ent lich
meistern
silvester
interesse
stabilität
ausgleich
entwickeln
job
partner
zulasten
sicherheit
ziel
entscheidung
weltgesellschaft
arbeitslosigkeit
erdteil
anf ang
auf br uch
sozialr ef or m er
gest alt en
kinder f r eundlichkeit
lang
schauen
eigen
entscheiden
friedlich
afghane
r olle
herstellen
nachhaltig
arbeitslose
stärkere
mut
entwicklung
erwerbstätig
verbinden
umsetzen
f aszinier end
epoche
ver änder ung
zurückdrängen
bundesregierung
arbeitsplatz
m öglichkeit
umwelt
entstehen
führen
wiederaufbau
stärke
hören
sat z
voll
bezirk
zurückgeben
rückschlag
ausgehen
generation
schritt
antwort
fi n a n z
o rd n u n g
beobachten
akzeptieren
d
klang
ber uf
halt en
überwinden
kampf
leistungskraft
unt er st üt zung
afghanistan
anstrengung
zeit
h o ffe n
zeihen
stehen
übergeben
f or t schr it t
erfolgreich
europa
russland
zusammenleben
er gebnis
hinzu
frage
erschreckend
wo h l s ta n d
auftrag
zusam m enwachsen
schwach
einheit
betrieb
wohlergehen
endlich
geschicht e
reichen
schutz
gewalt
krieg
mittel
zweck
ver lässlich
krisenfest
wir t schaf t swunder
auf bauen
vermeidung
dem okr at ie
liegen
dikt at ur
bedeutender
nötig
gefahr
menschlich
los
antisemitismus
westdeutsch
mauerfall
hamburg
beseitigen
folge
gewaltig
iran
erdbeben
verheerend
lauten
wachstum
erinnern
obdachlos
zehntausend
wegschauen
einzeln
rassismus
fremdenfeindlichkeit
welle
art
überwältigend
lazarett
bundeswehr
schwache
starke
ausmaß
krankheit
hinsehen
kultur
daumen
jahrhundert
wachstumskurs
legitimiert
drücken
Step 3: Identify strongest collocations
CLUSTER #2: ”PROJEKT EUROPA”
Source
europa
ergebnis
schauen
europa
europa
europa
europa
diktatur
klim aschut z
wirtschaf t
zusam m enst ehen
lebenschance
voranbringen
heimatfinanziell
hoffen
finanz
kr isenf est
um welt
lehr e
ver f olgen
Target
russland
anstrengung
hoffen
hoffen
anstrengung
zusammenwachsen
aufbauen
demokratie
Strength
4.0
4.0
4.0
3.0
3.0
2.0
2.0
2.0
EXAMPLE #2: ”EUROPE” IN CONTEXT
CONTACT:
PROJECT LEADER
Topic modeling with network analysis (clustering)
m ot t o
m oder n
beacht en
ort
Development of innovative methods and tools for (semi-)automated
document classification, topic modeling and content analysis through
integration of traditional text-ming methods with network analysis
●
welt
erklären
Development of core political vocabulary for the three German-speaking
countries (Germany, Switzerland, Austria)
WHAT COULD YOU DO WITH IT?
unt eilbar keit
spür bar
Creative methods for data and knowledge
visualisations
Innovative tools and methods for knowledge visualisation based on the
fundamental understanding of texts as networks
f r eundin
ler nen
wet t bewer b
par t ner schaf t
WHAT WE WANT?
●
gast
land
m it halt en
kinder f r eundlich
BASE PROJECT: GERMAN POLITICAL LANGUAGE
●
lekt ion
f est
unbür okr at isch
auf bauhelf er
bestimmt
pflegeversicherung
dienst
grundsatz
vergessen
zuversicht
echt
lange
herausforderung
inner e
m it t el
gemeinsinn
gehören
wert
erinnerung
mitbürger
blicken
bund
bet r of f en
wir ksam
stark
abseits
teil
liebe
einsetzen
äußer
ordnung
arbeitnehmer
genau
forschung
gesellschaft
heutig
m edizinisch
human
volk
kümmern
fortschritt
betroffen betreuungseinrichtung fühlen
schulpolitik
eng
reform
bild
schauen
partnerschaft
kinderfreundlich
hilfsorganisation erfolg
unbürokratisch
konsequent
reden
fest
küm m er n
not
nation
verantwortlich
überraschen
mitbürgerin
fußballweltmeisterschaft
bekommen
lang
grundgesetz
ddr
liebevoll
m issst and
begegnen
let zt
angehörige
leid
fördern
beheben
international
wunder
konflikt
übernehmen
stark
trauer
wiedervereint
wir kung
nat ion
denkbar
einzelne
träumen
selbstverständlich
neujahrsansprache
wort weltkrieg
fernseher
fünft
haus
wunsch
zweit
aufnehmen
entmutigen
angehör ige
tag
lebenschance
eigen heißen
herausforderung
anstrengung
international
ereignis
denkbar
vorstellen
m or gens
ver binden
junge
aufbauhelfer
fern
lehre
arbeitslos
lösen
innovat ion
ver t eilen
ver br aucher
beraten
zeigen
verantwortung
geist
ger echt
ver eint
ver ant wor t lich
fleiß
modern
dankbarkeit
beginn
umfeld
hinausgehen
m ar kt
einmischen
kind
rechen
beachten
weltweit
d
last
ansehen
überfordern
europäisch
stehen
feststellen
ent m ut igen
hinterbliebener
soldat
leben
frieden
unteilbarkeit
verlässlich
verlieren
verlaufen
verändern
ansehen
ver br eit ung
zusammenstehen
letzt
europa
welt
gemeinsam
sorge
junge
wunder
f r üh
unt er nehm en
m eldung
polizistin
einsatz
pflicht
hilfsbereitschaft
welthandel
schlimm
verstärkt
wahlkampf
beispiel
medizinisch
hör en
forschung
m e i s te rn
heimsuchen
erwarten
ent set zen
bedeut en
gelassen
erwartung
zurückschauen
aufschwung
gerade
hinausgehen
menge
über nehm en
ver t r auen
deutschland
f alsch
polizist
deutschland
gut
zurücksehen
verwirklichen
ver einbar t
lösung
ausbildungsplatz
traum
politik
naturkatastrophe
eigenverantwortung
lange
zuvor
freuen
angesichts
einzigartig
trotz
schule
möglichkeit
gestalten
aufbauen
gastfreundschaft
geld
beobacht en
ber at en
unterstützen
zusammenwachsen
schwach
nachbarschaft
beitrag
erfahrung
familie
m aßnahm e
biet en
enkel
jahr
land
mensch
notwendig
grund
leist ungskr af t
freiwillige
ver schließen
gesund
arbeit
investieren
monat
finanzkrise
zeit
last
got t
her z
f r oh
geist
not wendig
jung
silvesternacht
verantwortung
m it gef ühl
er f olg
m a rk
währung
zunächst
spendenbereitschaft
zuf r iedenheit
wirtschaftlich
gr undgeset z
kraft
größe
helfer
wünschen
über geben
politisch
verwirklichen
zuversicht
gesundheit
er f üllt
akzept ier en
b e rl i n e r
ant wor t
weit
erscheinen
kraft
t r et en
anst ehend
bürger
trost
bitten
gestatten
mauer
russland
bekämpfen
leisten
um set zen
schritt
einzelne
zusammenhalt
zivil
lernen
global
rahmen
segen
gesegnet
r echen
interesse
konsequent
berlinermauer
beweis
vertrauen
af ghane
st är ker e
f r iedlich
beweis
bekäm pf en
alt
stellen
idee
änderung
f angen
vergessen
zusam m enleben
t r ost
idee
faszinierend
jahrhundert
treten
t er r or
bild
generation
best im m t
stellen
selt en
wahlkam pf
frage
segen
ausgleich
blicken
training
vereinen
aufbruch
satz
unterstützung
überragende
agenda
kam pf
global
über r agende
voll
veränderung
zufriedenheit
The methodological approach is built around an
understanding of texts as networks. This
approach has several positive effects:
Identification of thematic paths in a document
corpus
gr undlage
bahnbr echend
geeint
sozialreformer
verstehen

ver suchen
erzählen
magisch
gespräch
epoche
gast
motto
sinn
fangen
The project seeks to integrate and elaborate
traditional text-mining and content analysis
methods and network analysis in an innovative
way. The main aim ist to develop methods helpful
for exploring, analysing, structuring and modeling
unstructured BigText corpora.
ä n d e ru n g
arbeitsplatz
freundin
gott
vereinbaren
endlich
ver einbar en
echt
bahnbrechend
unternehmen
patenschaft
Dr Kimmo Elo
Åbo Akademi University, German studies
University of Turku, European Studies (Social Science)
Email: [email protected]
Mobile: +358-44-342 2122