Hadoop-da DistCp nima?
Hadoop-da DistCp nima?

Video: Hadoop-da DistCp nima?

Video: Hadoop-da DistCp nima?
Video: Hadoop Day to Day Operations - Distcp - Data back ups and migration 2024, Noyabr
Anonim

Discp (tarqatilgan nusxa) katta klasterlararo/klaster ichidagi nusxalash uchun foydalaniladigan vositadir. Foydalanadi MapReduce uni tarqatish, xatolarni qayta ishlash va tiklash va hisobot berish. U fayllar va kataloglar roʻyxatini xarita vazifalariga kiritish uchun kengaytiradi, ularning har biri manbalar roʻyxatida koʻrsatilgan fayllarning bir qismini nusxalaydi.

Xuddi shunday, kimdir so'rashi mumkin, Discp qayta yozadimi?

Men ham ba'zilarini ishlab chiqishim va buni tushuntirishim kerak distcp - ustiga yozish bo'ladi ustiga yozish fayl hajmi mos keladimi yoki yo'qligidan qat'iy nazar. Bu hdfs-nn2 o'lchami hdfs-nn1 bilan mos kelmaydigan barcha fayllarni yangilaydi, shuningdek, har qanday begona fayllarni o'chiradi.

Xuddi shunday, Hadoop FS buyrug'i nima? Fayl tizimi ( FS ) qobiq turli xil qobiqqa o'xshashlarni o'z ichiga oladi buyruqlar bilan bevosita o'zaro aloqada bo'lgan Hadoop Tarqalgan fayl tizimi ( HDFS ) shuningdek, boshqa fayl tizimlari Hadoop Mahalliy kabi qo'llab-quvvatlaydi FS , HFTP FS , S3 FS , va boshqalar.

Shu tarzda ma'lumotlarni bir Hdf dan boshqa Hdf ga qanday o'tkazishim mumkin?

Hadoop fs cp - Eng oson bittadan ma'lumotlarni nusxalash usuli manba katalogiga boshqa . dan foydalaning hadoop fs -cp [manba] [manzil]. Hadoop fs copyFromLocal - kerak ma'lumotlarni nusxalash mahalliy fayl tizimidan HDFS ? dan foydalaning hadoop fs -copyFromLocal [manba] [maqsad].

Klasterni bir klasterdan boshqasiga qanday nusxalash mumkin?

Fayllarni nusxalash orasida klasterlar . Siz.. qila olasiz; siz … mumkin fayllarni nusxalash yoki turli orasidagi kataloglar klasterlar hadoop distcp buyrug'i yordamida. Hisob ma'lumotlarini kiritishingiz kerak fayl sizning nusxa ko'chirish manba so'rang klaster manbaga autentifikatsiya qilinganligingizni tasdiqlashi mumkin klaster va maqsad klaster.

Tavsiya: