Berbagi teknologi

Memulai dengan dataX

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Unduh dataX

https://datax-opensource.oss-cn-hangzhou.aliyuncs.com/202308/datax.tar.gz

Kemudian

Setelah mengunduh, unzip ke direktori lokal, masuk ke direktori bin, dan jalankan tugas sinkronisasi:

$ cd  {YOUR_DATAX_HOME}/bin
$ python datax.py {YOUR_JOB.json}

Anda harus memiliki python, jdk1.8 dan maven3

Langkah pertama adalah membuat file konfigurasi pekerjaan (format json)

Jenis templat:

#stream2stream.json
{
"pekerjaan": {
"isi": [
      {
"pembaca": {
"nama": "streamreader",
"parameternya": {
"jumlahrekoririsan": 10,
"kolom": [
              {
"tipe": "panjang",
"nilai": "10"
              },
              {
"tipe": "string",
"value": "halo, halo, dunia-DataX"
              }
            ]
          }
        },
"penulis": {
"nama": "penulis aliran",
"parameternya": {
"pengkodean": "UTF-8",
"cetak": benar
          }
        }
      }
    ],
"pengaturan": {
"kecepatan": {
"saluran": 5
       }
    }
  }
}

rintisan

$ cd {DIR_BIN_DATAX_ANDA}
$ python datax.py ./stream2stream.json

Di sisi kiri github, pembaca atau penulis mana yang ingin Anda gunakan?

Buka saja sumber daya saat ini dan gunakan json yang dia sediakan.

Tidak masalah jika Anda tidak bisa membuka github, ada template di plugin di folder yang Anda unduh.

sangat sederhana.

contoh

contoh membaca dan menulis mysql

  1. {"job": {"content": [{"reader": {"name": "mysqlreader", "parameter": {"username": "root","password": "123123","column": ["*"],"splitPk": "ID","where": "ID <= 1888","connection": [{"jdbcUrl": ["jdbc:mysql://192.168.1.1:3306/xxx?useUnicode=true&characterEncoding=utf8"], "table": ["t_member"]}]}}, "writer": {"name": "mysqlwriter", "parameter": {"column": ["*"], "connection": [{"jdbcUrl": "jdbc:mysql://192.168.1.2:3306/xxx?useUnicode=true&characterEncoding=utf8","table": ["t_xxx"]}], "password": "123123","preSql": ["执行写入前执行的语句,比如删除表啊,之类的"], "session": ["set session sql_mode='ANSI'"], "username": "root", "writeMode": "insert"}}}], "setting": {"speed": {"channel": "5"}}}
  2. }