Partage de technologie

Premiers pas avec dataX

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Télécharger les donnéesX

https://datax-opensource.oss-cn-hangzhou.aliyuncs.com/202308/datax.tar.gz

Alors

Après le téléchargement, décompressez-le dans un répertoire local, entrez dans le répertoire bin et exécutez la tâche de synchronisation :

$ cd  {YOUR_DATAX_HOME}/bin
$ python datax.py {YOUR_JOB.json}

Il est nécessaire d'avoir python, jdk1.8 et maven3

La première étape consiste à créer le fichier de configuration du travail (format json)

Type de modèle :

#stream2stream.json
{
"emploi": {
"contenu": [
      {
"lecteur": {
"nom": "streamreader",
"paramètre": {
"sliceRecordCount": 10,
"colonne": [
              {
"type": "long",
"valeur": "10"
              },
              {
"type": "chaîne",
"value": "bonjour, bonjour, world-DataX"
              }
            ]
          }
        },
"écrivain": {
"nom": "streamwriter",
"paramètre": {
"encodage": "UTF-8",
"imprimer" : vrai
          }
        }
      }
    ],
"paramètre": {
"vitesse": {
"canal": 5
       }
    }
  }
}

démarrer

$ cd {VOTRE_DIR_BIN_DATAX}
$ python datax.py ./stream2stream.json

Sur le côté gauche de github, quel lecteur ou écrivain souhaitez-vous utiliser ?

Accédez simplement à la ressource actuelle et utilisez le json qu'il a fourni.

Peu importe si vous ne pouvez pas ouvrir github, il existe des modèles dans les plugins du dossier que vous avez téléchargé.

très simple.

exemple

exemples de lecture et d'écriture mysql

  1. {"job": {"content": [{"reader": {"name": "mysqlreader", "parameter": {"username": "root","password": "123123","column": ["*"],"splitPk": "ID","where": "ID <= 1888","connection": [{"jdbcUrl": ["jdbc:mysql://192.168.1.1:3306/xxx?useUnicode=true&characterEncoding=utf8"], "table": ["t_member"]}]}}, "writer": {"name": "mysqlwriter", "parameter": {"column": ["*"], "connection": [{"jdbcUrl": "jdbc:mysql://192.168.1.2:3306/xxx?useUnicode=true&characterEncoding=utf8","table": ["t_xxx"]}], "password": "123123","preSql": ["执行写入前执行的语句,比如删除表啊,之类的"], "session": ["set session sql_mode='ANSI'"], "username": "root", "writeMode": "insert"}}}], "setting": {"speed": {"channel": "5"}}}
  2. }