Informační systém pro dolování dat z Internetu

Pro firmu ENGINN EFFECT jsem vyvinul a provozoval prototyp informačního systému pro dolování dat z internetu pro účely rešeršní činnosti. S takto získanými daty nebo články můžou uživatele následně pracovat pomocí přehledné webové aplikace …

Informační systém pro dolování dat z Internetu

Systém pro dolování dat z webových stránek na míru

Vytvořil jsem a provozoval prototyp informačního systému pro procházení (tzv. "crawling" nebo "crawlování") webových stránek a dolování dat z internetu, který pomáhá zaměstnancům firmy ENGINN EFFECT při rešeršní činnosti. Tento informační systém prochází zadané internetové portály, ze kterých načítá nové články vydané na daných portálech a tyto články následně ukládá do vlastní databáze a indexuje je. S takto indexovanou databázi článků následně pracují zaměstnanci firmy pomocí přehledné aplikace.

Prochází články na internetu

Do systému je možné zadat libovolný počet webových stránek nebo internetových portálů, které systém následně automaticky prochází a stahuje z nich nové články. Každý portál při tom používá jiný front end a jinou strukturu HTML a dat. Systém umožňuje nadefinovat jednotlivé prvky HTML webových stránkách, které obsahují text článků a umí tak univerzálně pracovat s jakýmkoliv zdrojem. Některé internetové magazíny mají přístup k článkům zpoplatněn. Systém se umí také k vybraným portálům přihlásit a používat placený přístup.

Tvoří databázi a indexuje

Takto získané data z internetu následně systém ukládá do vlastní databáze, kde je indexuje a umožňuje v nich vyhledávání a filtrování dle zadaných kritérií. Veškerá práce se systém probíhá pomocí uživatelského rozhraní webové aplikace, které lze použít také na mobilních zařízeních.

Rozhraní pro zaměstnance firmy

Pomocí webového rozhraní se k systému můžou přihlašovat zaměstnanci firmy a používat jej pro rešeršní činnost. Uživatelé systémů mají možnost v indexovaných článcích libovolně vyhledávat, třídit je a hodnotit. Systém umožňuje také definovat jednotlivé témata a kritéria hodnocení jednotlivých článků pro dané témata. Systém pro vytvořené témata automaticky na základě hodnocení článků před vybírá ty články, které jsou pro dané téma zajímavé. Zároveň umožňuje jednotlivým uživatelům přidat k článku manuální uživatelské hodnocení a tak případně upřednostnit některé články pro jednotlivá témata.

Rozhraní pro zákazníka firmy

Informační systém pro dolování dat z internetu také umožňuje jak zaměstnancům firmy, tak přímo zákazníkům firmy, zasílat měsíční reporty nalezených článků. Celý informační systém je online a obsahuje také webové rozhraní pro zákazníky firmy. Informační systém umožňuje jednotlivým zákazníkům přiřadit a zpřístupnit pouze některé vybrané články a témata. Následně se můžou zákazníci do systému přihlásit pomocí jména a hesla a používat také vybrané funkce systémů, včetně prohledávání témat, případně se také podílet na hodnocení jednotlivých článků v tématech.

Potřebujete podobný informační systém?

Pokud potřebujete podobný systém pro procházení ("crawling" nebo "crawlování") webových stránek a dolování dat z internetu, kontaktujte mě, rád s Vámi proberu Váš projekt …

Michal Strelec,

Ing. Michal Strelec |
michal@strelec.pro |
+420 608 407 544

Poslat zprávu Reference

Jsem zkušený vývojář informačních systémů a webových aplikací. Sám, případně s vlastním týmem profesionálů z oboru IT, dodávám komplexní vývoj softwaru na míru. Jmenuji se Michal Strelec, jsem vyučený softwarový inženýr na volné noze a mám již přes 13 let zkušeností. Úspěšně jsem realizoval více než 33 projektů. Kancelář mám v hlavním městě Praha, své služby ale poskytuji také na dálku po celé České republice.

Zajímá Vás více informací?

Přečtěte si podrobněji, jak budeme postupovat při vývoji softwaru na míru, nebo si stáhněte moji vizitku s podrobnými informacemi v PDF. Pokud Vás blíže zajímá moje práce, prohlédněte si moje reference, nebo mě kontaktujte a zeptejte se na více informací …

Další podobné články

Vývoj udržitelného webového crawleru

Vývoj udržitelného webového crawleru

Mnozí to často zkouší s až kuriózně nízkým rozpočtem a s nedostatečnou představou o fungování webového crawleru. Pojďme shrnout na co je dobré se zaměřit při poptávce a vývoji dlouhodobě udržitelného webového crawleru …

NDA před první schůzkou?

NDA před první schůzkou?

Někteří zákazníci vyžadují ještě před první schůzkou podpis smlouvy o mlčenlivosti. Pokud se domluvíme na spolupráci na projektu, kde budu ve styku s utajovanými materiály, tak se můžeme domluvit na podpisu smlouvy o mlčenlivosti, ale …

Aplikace pro online SEO analýzu webu

Aplikace pro online SEO analýzu webu

Pro firmu SEOlight poskytující svým klientům služby v oblasti SEO jsem na míru vyvinul a provozuji webovou aplikaci pro detailní analýzu jednotlivých SEO faktorů webových stránek, která je veřejně dostupná online …

Jak funguje webová aplikace?

Jak funguje webová aplikace?

Při vývoji nového informačního systému do firmy často stojíme před rozhodnutím, jestli pro řešení systému použít webovou aplikaci. Abychom se uměli správně rozhodnout, musíme vědět, jak webová aplikace funguje …

Co je to webová aplikace?

Co je to webová aplikace?

Pro realizaci informačních systémů na míru se ve většině případů velmi dobře hodí webová aplikace. Zjistěte, co je to webová aplikace, jak funguje, a kdy a proč je vhodné ji použít pro implementaci informačního systému …