Duplikaattien poisto:
kaksi tietuetta, yksi henkilö.

Löydä duplikaatit, vaikka ne olisi kirjoitettu eri tavalla: esimerkki osoitteilla maasta Suomi, kaksi tietuetta ja syy, miksi ne ovat sama henkilö.

Joka kuukausi maksutta: 50 osoitteen tarkistusta, 100 tietuetta kaksoiskappaleiden etsintään ja 500 sähköpostin ja puhelinnumeron tarkistusta. Pyydämme vain nimen, sähköpostiosoitteen ja salasanan, ei maksukorttia: luo maksuton tili tai kirjaudu sisään.

Tietue A

Tietue B

Esimerkeissä käytetään julkisten rakennusten ja keskustan katujen osoitteita; nimet, missä niitä esiintyy, on keksitty esittelytarkoituksessa: kaikki yhtäläisyydet todellisiin henkilöihin ovat sattumaa.

Mitä duplikaattien poisto sinulle antaa

Duplikaatti on yhden henkilön historia jaettuna kahtia. Sen kokoaminen yhteen tuottaa neljä konkreettista vaikutusta.

Vastaa kerran, kaikki tiedot edessäsi

Vastaaja katsoo yhtä tietuetta: jos tilaus on kirjattu toiselle, henkilö ei saa mitään — ja huomaa sen. Yhdellä tietueella vahvistus lähtee aina, ja viestintä saapuu vain kerran, nimi kirjoitettuna yhdellä tavalla.

Jokainen ylimääräinen kirjekuori on hukkaan heitettyä rahaa

Jokainen duplikaatti on tuloste, kirjekuori ja postimaksu henkilölle, jonka lähetyksesi on jo tavoittanut. Suuressa kampanjassa tästä on helpointa säästää menettämättä yhtään vastaanottajaa.

Tunnista arvokkaimmat asiakkaat

Se, joka on ostanut kolme kertaa yhdellä tietueella ja kahdesti toisella, näkyy raporteissa kahtena haaleana kontaktina. Kun tietueet yhdistetään, hän näkyy sellaisena kuin on, uskollisena asiakkaana, ja se muuttaa sen, kenelle kannattaa soittaa, kuka ansaitsee erilaisen kohtelun, kenelle tarjota enemmän.

Luvut täsmäävät taas

Montako asiakasta minulla oikeasti on? Paljonko yksi kontakti on keskimäärin arvoltaan? Duplikaatteja täynnä olevalla rekisterillä jokainen vastaus on paisunut, ja niistä seuraavat päätökset ovat vääristyneitä alusta alkaen.

Miten duplikaatit syntyvät

Ne eivät ole huolimattomuusvirheitä: duplikaatit syntyvät kolmesta tavallisesta tilanteesta, jotka toistuvat jokaisessa kasvavassa asiakasrekisterissä.

1

Tilaus saapuu ja on kiire

Tietojen kirjaajalla on pino lomakkeita läpikäytävänä (tai tilillepanoja, jos työskentelet yhdistyksessä), eikä hän pysähdy tarkistamaan, onko henkilö jo rekisterissä. Uuden tietueen avaaminen vie kolmekymmentä sekuntia; sen todellinen etsiminen nimen ja osoitteen eri muunnelmien joukosta vie paljon kauemmin.

2

Tietue on olemassa, mutta haku ei löydä sitä

Se on yleisin tapaus ja vaikein välttää: tietue on olemassa, mutta se on kirjoitettu hieman eri tavalla kuin sitä haetaan — ”Aleksis Kiven katu 14” vastaan ”Aleksis Kiven k. 14”. Haku ei palauta mitään, ja tietue luodaan uudelleen hyvässä uskossa.

3

Kokonainen lista tuodaan kerralla

Verkkosivun rekisteröitymiset, tapahtumassa kerätty lista, toimittajalta tullut tiedosto: ne tulevat sisään yhtenä eränä ilman vertailua olemassa olevaan rekisteriin. Näin käy harvemmin kuin kahdessa muussa tapauksessa, mutta kun käy, duplikaatteja tulee sadoittain.

Kaikki kolme ratkeavat samalla tavalla: rekisterin tarkistus säännöllisin väliajoin, ja yksi ennen jokaista tärkeää kampanjaa.

Ensin osoitteet kuntoon, sitten duplikaatit esiin

Sana sanalta tehty vertailu pitää Johannes ja Jussi kahtena henkilönä ja Aleksis Kiven k. 14 ja Aleksis Kiven katu 14 kahtena osoitteena, vaikka ne ovat sama henkilö ja sama osoite. Siksi työskentelemme kahdessa vaiheessa: ensin korjaamme molemmat osoitteet — kadunnimi kokonaan, postinumero oikein, oikea kunta — ja vasta sitten vertaamme niitä, yhdessä nimen, sähköpostin ja puhelimen kanssa. Saman kadun kaksi kirjoitusasua muuttuvat samaksi kaduksi ennen kuin vertailu alkaa.

Tuomiolla on kolme astetta — varma, todennäköinen tai epäselvä — peruste vieressä. Siistityssä tiedostossa varmat ja todennäköiset ryhmät on jo yhdistetty yhdeksi riviksi. Epäselvät ryhmät säilyvät kokonaisina ja siirtyvät tarkistettaviin riveihin: kahdella eri ihmisellä voi olla sama nimi samassa kunnassa, ja siinä päätät sinä.

Normalisointi, duplikaattien tunnistus, duplikaattien poisto, rikastaminen

Neljä eri toimenpidettä, jotka yleensä niputetaan sanan ”siivous” alle. Niiden erottaminen kannattaa, koska kukin on seuraavan edellytys.

Osoitteiden normalisointi

Jokaisen osoitteen saattaminen yhteen, oikeaan kirjoitusasuun ja puuttuvan täydentäminen: postinumero, postitoimipaikka, kadunnimi kokonaan.

”Aleksis Kiven k. 14” ja ”Aleksis Kiven katu 14” muuttuvat samaksi riviksi.

Duplikaattien tunnistus

Sen tunnistaminen, että kaksi tietuetta on sama kohde, vaikka ne on kirjoitettu eri tavalla: ”Aleksis Kiven k. 14” ja ”Aleksis Kiven katu 14”, sukunimi ja etunimi vaihtaneet paikkaa.

Se tulee normalisoinnin jälkeen: näin vertaillaan osoitteita, jotka on jo kirjoitettu oikeaan muotoon.

Duplikaattien poisto

Päätös siitä, mitä löydetyille duplikaateille tehdään: mikä tietue säilytetään, mitkä kentät otetaan yhdestä ja mitkä toisesta.

Lopullinen tietue ottaa kustakin tietueesta parhaan kentän ja kirjaa sen alkuperän.

Rikastaminen

Puuttuvan tai olemassa olevasta pääteltävissä olevan lisääminen: tervehdysmuoto nimestä, titteli, talonumeron kirjainosa, verotunnus.

Tietoa, joka on rekisterissäsi jo epäsuorasti.

Miksi sillä on väliä, siivousta laajemmin: se, joka saa saman kirjeen kahdesti, huomaa sen, ja se, joka ei saa kiitosta, koska lahjoitus kirjattiin yhdelle tietueelle sillä aikaa kun sinä katsoit toista, huomaa sen vielä paremmin.

Duplikaattien vertailu: sinä valitset tarkkuuden, me kerromme, kuinka varmoja olemme

Moottori muodostaa tietueryhmät ja kertoo jokaisesta, kuinka varma se on. Kaksi säädintä. Vähimmäistaso, eli kuinka erilaisia kaksi tietuetta voivat olla ja silti olla sama kohde: kolme arvoa, verkkosivu ja tiedostotyöt käyttävät oletusarvoa, API:ssa valitaan parametrilla livello_minimo. Ja tarkkuus, sama asteikko 1–5 kuin osoitteen tarkistuksessa, joka tässä vaikuttaa sukunimeen: tasolle 3 asti se luetaan kirjain kirjaimelta, tasolla 4 rinnastetaan tietueet, joiden sukunimi on kirjoitettu välilyönnillä tai ilman (”La Pera”, ”Lapera”), tasolla 5 myös ne, joiden sukunimi kuulostaa samalta (”Lepera”, ”La Pera”); nämä ryhmät tulevat ulos enintään epävarmoina.

1 · sama

Tiukka

Nimi ja osoite täsmäävät normalisoinnin jälkeen. Ei yhtään ryhmää, jota et olisi itse tehnyt käsin.

2 · hieman erilainen

Oletusarvo

Mukaan tulevat saman nimen muunnelmat (Jussi ja Johannes), lyhenteet ja pienet kirjoitusvirheet. Tällä asetuksella useimmat työt ajetaan.

3 · erilainen

Väljä

Myös heikot kytkökset: sama osoite ja samankaltaiset nimet. Löytää enemmän, ja sinun on katsottava enemmän.

Jokaisesta ryhmästä palautuva tuomio — varma, todennäköinen, epäselvä — on meidän luokituksemme: se kertoo, kuinka vankka ryhmä on, ja ratkaisee, mitä siistitylle tiedostolle tapahtuu: varmat ja todennäköiset tulevat yhdistettyinä ja epäselvät jäävät tarkistettaviksi.

Kunkin tietueen paras yhdessä tietueessa

Otamme kustakin tietueesta parhaan kentän ja rakennamme uuden tietueen: myös sähköposti, joka oli vain toisessa, päätyy jäljelle jäävään tietueeseen.

Esimerkki kahden tietueen sulauttamisesta: mikä kenttä jää ja mistä se tulee
KenttäTietue ATietue BJäljelle jäävä tietue
NimiMika VirtanenM. VIRTANENMika Virtanen täydellisin kirjoitusasu
OsoiteAleksis Kiven k. 14Aleksis Kiven katu 14Aleksis Kiven katu 14 täydellisemmästä tietueesta
Postinumero ja kaupunki33100 TampereFI-33100 TAMPERE33210 TAMPERE maan postimuodossa
Sähköposti—m.virtanen@example.comm.virtanen@example.com oli vain B:ssä

Jos olisit säilyttänyt A:n, olisit menettänyt sähköpostin, B:n säilyttämällä nimen täydellisen kirjoitusasun. Sulautetussa tietueessa on molemmat, ja jokaisen kentän kohdalla jää muistiin, kummasta tietueesta se tulee: jos sulautus ei jonain päivänä vakuuta sinua, tiedät täsmälleen, mihin koskea.

Duplikaatit, joita tarkka haku ei löydä

  • Jussi Virtanen=Johannes Virtanen vastaava nimi
  • Virtanen Mika=Mika Virtanen sukunimi ja etunimi vaihtaneet paikkaa
  • aleksis kiven k. 14=Aleksis Kiven katu 14 lyhenne kirjoitettu auki
  • Virtanen Mika, aleksis kiven k. 14, tampere=Mika Virtanen, Aleksis Kiven katu 14, 33210 TAMPERE osoite korjattu ennen vertailua

Tunnistamme myös kirjoitusvirheen etu- tai sukunimessä ja merkitsemme sen mahdolliseksi lyöntivirheeksi.

Esimerkeissä käytetään julkisten rakennusten ja keskustan katujen osoitteita; nimet, missä niitä esiintyy, on keksitty esittelytarkoituksessa: kaikki yhtäläisyydet todellisiin henkilöihin ovat sattumaa.