přejít na obsah přejít na navigaci

Linux E X P R E S, Synchronizace dat pomocí Lsyncd

Synchronizace dat pomocí Lsyncd

synchronizace100.jpg

K synchronizaci dat se v Linuxu tradičně používá rsync. Někdy ale není tím nejlepším nástrojem a je vhodnější sáhnout po něčem jiném. Lsyncd synchronizuje data přímo na základě jejich změn.


Nástroj rsync a jeho (ne)výhody

Snad každý, kdo někdy v Linuxu synchronizoval nějaké adresářové stromy, zná tradiční nástroj rsync. Ten porovnává soubory ve stromech a pomocí přenosu změn provede synchronizaci podle požadavků.

Rsync může pracovat jak lokálně (mezi různými místy adresářového stromu), tak i vzdáleně – typicky běží jako démon na portu 873, lze ho ale také spouštět například přes inetd/xinetd. Dokáže pracovat i přes SSH a zajistit tak šifrování přenosu (i když lze využít například také stunnel).

Typicky se pak synchronizace spouští periodicky, v intervalu podle potřeby. Pokud je ale souborů hodně a současně je potřeba rychle reagovat na jejich změny (které přitom nemusejí nastávat moc často), způsobuje rsync poměrně významnou zátěž a oba stroje znatelně brzdit. Proto je žádoucí použít něco jiného.

Co je Lsyncd

Již poměrně dlouho existuje v linuxovém jádře technologie inotify, která umožňuje efektivně sledovat změny souborů (čekat na ně například pomocí volání epoll()) a reagovat na ně. Pokud například dojde k zápisu do souboru (nebo vytvoření nového souboru v adresáři, smazání souboru apod.), proces sledující změny v souborech získá informace o události.

Právě inotify lze velmi efektivně využít pro synchronizaci souborů na základě změn. Nástrojů na to existuje více, jedním z nich je Lsyncd, na nějž se podíváme blíže. Lsyncd podporuje synchronizaci místní i vzdálenou a je implementován tak, aby synchronizoval efektivně.

Lsyncd podporuje tři druhy přenosu: přímý, rsync a rsyncssh. První se hodí pro synchronizaci místních adresářových stromů. Lsyncd pro prvotní synchronizaci využije vnitřně rsync, ale pak už používá standardní systémové příkazy, takže například přesun souboru je velmi rychlý.

Pro vzdálenou synchronizaci se používá buď přenos rsync nebo rsyncssh. Druhý z nich je efektivnější, protože při přesunu nepřenáší data znovu, místo toho soubor přímo přesune v rámci cílového stromu. Ať už se ale použije kterákoli metoda, pro přístup na vzdálený stroj se vždy používá SSH (nikoli rsync běžící jako démon).

Synchronizační mechanismy si lze ale také úplně přepsat podle svého, přestože to asi nebude úplně častá věc.

Pokud by Lsyncd reagoval přímo na jednotlivé události, nebyla by synchronizace efektivní, protože takových událostí – zejména při postupném zápisu do souboru – může nastávat velmi mnoho. Proto se vždycky chvilku čeká na případné další události, aby se pak změny provedly hromadně. Navíc výchozím chováním je synchronizace až po uzavření souboru otevřeného k zápisu.

Lsyncd lze ve velmi širokých mezích přizpůsobovat konkrétním potřebám, a to prostřednictvím argumentů příkazové řádky a hlavně konfiguračního souboru, který se píše v jazyce Lua a lze si tak vytvářet celé programy pro synchronizaci (ale není to nutnost, mnohdy si lze vystačit i s výchozí konfigurací nebo malými změnami).



Kde Lsyncd získat

Nejlepší situace je tam, kde existují balíčky přímo pro danou linuxovou distribuci. Například Debian, Ubuntu nebo Fedora mají balíčky ve standardních repozitářích, takže je stačí nainstalovat běžným nástrojem. Tam, kde balíčky nejsou, si lze stáhnout zdrojové kódyzkompilovat je pomocí cmakemake.

Jak synchronizovat data

Použití je velmi jednoduché. Stačí uvést metodu synchronizace, zdrojový a cílový adresář:

lsyncd -direct /var/backups /mnt/backup

V tomto případě se použije metoda direct, tedy přímé příkazy na místním souborovém systému. Lsyncd se spustí jako démon a až do svého ukončení bude synchronizovat data z adresáře /var/backups do adresáře /mnt/backup. Projeví se veškeré změny ve struktuře zdrojového stromu a jeho souborech, naopak se neprojeví změny atributů (například vlastníků nebo oprávnění).

Lsyncd lze spustit i na popředí, což se hodí pro ladění, protože ho lze snadno ukončit a zprávy vypisuje přímo do konzole. Současně s tím lze i změnit úroveň logování – následující příkaz způsobí, že bude logovat všechno (a Lsyncd poběží na popředí):

lsyncd -nodaemon -log all -direct /var/backups /mnt/backup

Synchronizační metodu rsync lze použít i lokálně, ale významnější je pro případy, kdy se data přenášejí na vzdálený stroj. Pak by příkaz vypadal například takto:

lsyncd -rsync /var/backups backup@backupserver:/backup

Lsyncd se přihlásí přes SSH jako uživatel backup na server backupserver (samozřejmě to předpokládá, aby byl připraven klíč – ať už přímo nebo přes agenta – povolený na serveru, případně aby se zadalo heslo pro přihlášení) a synchronizuje data pomocí metody rsync. Obdobně by se použila metoda rsyncssh, jen syntaxe bude mírně jiná (místo oddělující dvojtečky mezera):

lsyncd -rsyncssh /var/backups backup@backupserver /backup

Zajímavé může být nastavit si zpoždění začátku synchronizace (výchozí hodnota se liší podle verze a případně úpravy pro distribuční balíček). Čím vyšší hodnota, tím vyšší efektivita – lze nastavit třeba minutu, pokud to nebude ničemu vadit:

lsyncd -delay 60 -direct /var/backups /mnt/backup

Konfigurace

Pomocí konfiguračního souboru lze mnohem detailněji ovlivnit fungování Lsyncd. Někdy v budoucnu se podíváme na to, co všechno s tím lze dělat.

Nahoru

Příspěvky

Synchronizace dat pomocí Lsyncd
Tomáš Jurman 11. 10. 2016, 09:04:28
Odpovědět  Odkaz 
Super. Díky.
Synchronizace dat pomocí Lsyncd
Michal Růžička 13. 10. 2016, 19:29:44
Odpovědět  Odkaz 
Zajímavé, díky, jen mi chybí zmínka a ne/použitelnosti na velkých a hodně zatížených podstromech filesystému. Kdysi jsem měl nápad si něco podobného napsat sám, ale pokusy s inotify jsem záhy ukončil, protože na rozsáhlejším podstromu souborů byla režie sledování příliš velká. Netuším, jestli byl od té doby nějaký vývoj v tomto ohledu.
Lukáš Jelínek Re: Synchronizace dat pomocí Lsyncd
Lukáš Jelínek 13. 10. 2016, 21:46:46
Odpovědět  Odkaz 
Zrovna se na takové nasazení chystám, takže pak o tom mohu něco napsat. Ale režie by velká být neměla, události na souborech mají konstantní operační složitost, přidávání sledování zrovna tak; problém může být jen s odebíráním, protože tam je složitost lineární. Bude asi záležet na tom, co se tam konkrétně děje.

Přidat názor

Nejsou podporovány žádné značky, komentáře jsou jen čistě textové. Více o diskuzích a pravidlech najdete v nápovědě.
Diskuzi můžete sledovat pomocí RSS kanálu rss



 
 

Top články z OpenOffice.cz

Lukáš Jelínek

Lukáš Jelínek

Dlouholetý člen autorského týmu LinuxEXPRESu a OpenOffice.cz. Vystudoval FEL ČVUT v oboru Výpočetní technika. Žije v Kutné Hoře, podniká v oblasti IT a zároveň pracuje v týmu projektu Turris. Ve volném čase rád fotografuje, natáčí a stříhá video, občas se věnuje powerkitingu a na prahu čtyřicítky začal hrát tenis.


  • Distribuce: Debian, Kubuntu, Linux Mint
  • Grafické prostředí: KDE

| proč linux | blog



Public Relations

GFI Unlimited Secure Email: bezpečná elektronická pošta pro malé a střední firmy

GFIJsou dvě oblasti, které letos budou pro obchodní kontinuitu malých a středních firem (SMB) kriticky důležité: bezpečnost firemních sítí a elektronické pošty. Podle odhadů společnosti GFI Software více než 50 % loňských útoků směřovalo právě na SMB firmy.

Pokračování ...


GFI

Public Relations

Security Operations Center (SOC) - Vaše kyberbezpečnost za paušál

DatasysNemáte zaměstnance s velmi specializovanými dovednostmi v oblasti sítí a bezpečnosti? Dále digitalizujete a adaptujete nové technologie? Do kyberbezpečnosti investujete, ale nároky narůstají? V době stále sofistikovanějších kybernetických útoků přirozeně vzrůstají nároky na udržování IT bezpečnosti.

Pokračování ...


Redakční blog

Pavel Fric

Pavel Fric, 10. April

Zapojte se do tvorby distribuce Mageia

Podílejte se na vytváření balíčků pro Mageiu, dělejte, co je potřeba, staňte se baličem


Pavel Fric

Pavel Fric, 13. March

Lollypop

Lollypop je hudební přehrávač navržený, jak ukazuje jeho podoba, aby výborně zapadl do pracovního...


Pavel Fric

Pavel Fric, 26. February

QElectroTech

Kreslení elektrotechnických i jiných výkresů


Všechny blogy »

ZW3D 2022