Hadoop-alustaan perustuvan tietoliikenteen asiakaspalvelutietojen käsittely ja analysointi ③ Projektikehitys: Build Flume big data -kehitysympäristö --- Tehtävä 14: Flumen asennus ja käyttöönotto

2024-07-08

tehtävän tiedot

Tehtävän sisältö on asentaa ja määrittää Flume sekä testata ja kerätä suoratoistodataa.

Tehtäväopastus

Flumea käytetään usein työkaluna reaaliaikaiseen tiedonkeruuun. Kerätyt tiedot voidaan tallentaa HDFS:ään tai viestijonoon, kuten Kafka.

Erityiset asennusvaiheet ovat seuraavat:

1. Pura Flumen pakattu pakkaus

2. Määritä Flumen ympäristömuuttujat

3. Muokkaa Flumen määritystiedostoa Flumen määritystiedosto tallennetaan Flumen asennushakemistoon conf-tiedostoon.

4. Hanki Flumen keräämät tiedot etäkirjautumisen kautta

5. Tallenna Flumen keräämät tiedot HDFS:ään

Mission saavutus

1. Asenna Flume

Löydät asennuspaketin /opt/software/-hakemistosta, pura asennuspaketin ja kopioi asennuspaketin /opt/app-hakemistoon.

Suorita master1:ssä:

[root@master1 ~]# cd /opt/software/
[root@master1 software]# tar -xzf apache-flume-1.9.0-bin.tar.gz -C /opt/app/

2. Aseta Flumen ympäristömuuttujat

Muokkaa /etc/profile-tiedostoa ja ilmoita Flumen kotipolku ja lisää bin polku polkuun:

export FLUME_HOME=/opt/app/apache-flume-1.9.0-bin
export PATH=$PATH:$FLUME_HOME/bin

Lataa asetustiedosto /etc/profile ja varmista, että se tulee voimaan

[root@master1 ~]# source /etc/profile
[root@master1 ~]# echo $FLUME_HOME

3. Aseta flume-env.sh-määritystiedosto

Kopioi ja nimeä flume-env.sh.template uudelleen muotoon flume-env.sh kohdassa $FLUME_HOME/conf ja muokkaa conf/flume-env.sh-määritystiedostoa

[root@master1 ~]# cd $FLUME_HOME/conf
[root@master1 conf]# cp flume-env.sh.template flume-env.sh
[root@master1 conf]# vi flume-env.sh

Liitä seuraava sisältö määritystiedoston loppuun:

JAVA_HOME=/opt/app/jdk1.8.0_181
JAVA_OPTS="-Xms100m -Xmx200m -Dcom.sun.management.jmxremote"

4. Tarkista asennus (telnet)

Muokkaa flume-conf-määritystiedostoa

Muokkaa flume-conf.properties.template-tiedostoa $FLUME_HOME/conf-hakemistossa, kopioi ja nimeä se uudelleen muotoon flume-conf.properties

[root@master1 ~]# cd $FLUME_HOME/conf
[root@master1 conf]# cp flume-conf.properties.template flume-conf.properties
[root@master1 conf]# vi flume-conf.properties

Muokkaa flume-conf-määritystiedoston sisältöä seuraavasti:

# The configuration file needs to define the sources, the channels and the sinks.
# Sources, channels and sinks are defined per agent, in this case called 'a1'
a1.sources = r1
a1.sinks = k1
a1.channels = c1
# For each one of the sources, the type is defined
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444
#The channel can be defined as follows.
a1.sources.r1.channels = c1
# Each sink's type must be defined
a1.sinks.k1.type = logger
#Specify the channel the sink should use
a1.sinks.k1.channel = c1
# Each channel's type is defined.
a1.channels.c1.type = memory
# Other config values specific to each type of channel(sink or source)
# can be defined as well
# In this case, it specifies the capacity of the memory channel
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

Suorita Flumen asennushakemistossa

[root@master1 conf]# cd $FLUME_HOME
[root@master1 apache-flume-1.9.0-bin]# flume-ng agent -c ./conf/ -f ./conf/flume-conf.properties -n a1 -Dflume.root.logger=INFO,console

Avaa toinen pääte ja kirjoita seuraava komento:

[root@master1 ~]# telnet localhost 44444
Trying ::1...
telnet: connect to address ::1: Connection refused
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.

Kirjoita terminaaliin seuraavat tiedot:

Hello

Teknologian jakaminen