Informační systém pro dolování dat z Internetu

Systém pro dolování dat z webových stránek na míru

Vytvořil jsem a provozoval prototyp informačního systému pro procházení (tzv. "crawling" nebo "crawlování") webových stránek a dolování dat z internetu, který pomáhá zaměstnancům firmy ENGINN EFFECT při rešeršní činnosti. Tento informační systém prochází zadané internetové portály, ze kterých načítá nové články vydané na daných portálech a tyto články následně ukládá do vlastní databáze a indexuje je. S takto indexovanou databázi článků následně pracují zaměstnanci firmy pomocí přehledné aplikace.

Celá fotogalerie

Prochází články na internetu

Do systému je možné zadat libovolný počet webových stránek nebo internetových portálů, které systém následně automaticky prochází a stahuje z nich nové články. Každý portál při tom používá jiný front end a jinou strukturu HTML a dat. Systém umožňuje nadefinovat jednotlivé prvky HTML webových stránkách, které obsahují text článků a umí tak univerzálně pracovat s jakýmkoliv zdrojem. Některé internetové magazíny mají přístup k článkům zpoplatněn. Systém se umí také k vybraným portálům přihlásit a používat placený přístup.

Tvoří databázi a indexuje

Takto získané data z internetu následně systém ukládá do vlastní databáze, kde je indexuje a umožňuje v nich vyhledávání a filtrování dle zadaných kritérií. Veškerá práce se systém probíhá pomocí uživatelského rozhraní webové aplikace, které lze použít také na mobilních zařízeních.

Rozhraní pro zaměstnance firmy

Pomocí webového rozhraní se k systému můžou přihlašovat zaměstnanci firmy a používat jej pro rešeršní činnost. Uživatelé systémů mají možnost v indexovaných článcích libovolně vyhledávat, třídit je a hodnotit. Systém umožňuje také definovat jednotlivé témata a kritéria hodnocení jednotlivých článků pro dané témata. Systém pro vytvořené témata automaticky na základě hodnocení článků před vybírá ty články, které jsou pro dané téma zajímavé. Zároveň umožňuje jednotlivým uživatelům přidat k článku manuální uživatelské hodnocení a tak případně upřednostnit některé články pro jednotlivá témata.

Rozhraní pro zákazníka firmy

Informační systém pro dolování dat z internetu také umožňuje jak zaměstnancům firmy, tak přímo zákazníkům firmy, zasílat měsíční reporty nalezených článků. Celý informační systém je online a obsahuje také webové rozhraní pro zákazníky firmy. Informační systém umožňuje jednotlivým zákazníkům přiřadit a zpřístupnit pouze některé vybrané články a témata. Následně se můžou zákazníci do systému přihlásit pomocí jména a hesla a používat také vybrané funkce systémů, včetně prohledávání témat, případně se také podílet na hodnocení jednotlivých článků v tématech.

Michal Strelec,