Обмен технологиями

Начало работы с dataX

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Скачать данныеX

https://datax-opensource.oss-cn-hangzhou.aliyuncs.com/202308/datax.tar.gz

Затем

После загрузки разархивируйте его в локальный каталог, войдите в каталог bin и запустите задание синхронизации:

$ cd  {YOUR_DATAX_HOME}/bin
$ python datax.py {YOUR_JOB.json}

Требуется, чтобы у вас были Python, jdk1.8 и maven3.

Первым шагом является создание файла конфигурации задания (формат JSON).

Тип шаблона:

#stream2stream.json
{
"работа": {
"содержание": [
      {
"читатель": {
"имя": "streamreader",
"параметр": {
"sliceRecordCount": 10,
"столбец": [
              {
"тип": "длинный",
"значение": "10"
              },
              {
"тип": "строка",
"value": "привет, привет, world-DataX"
              }
            ]
          }
        },
"писатель": {
"имя": "streamwriter",
"параметр": {
"кодировка": "UTF-8",
"печать": правда
          }
        }
      }
    ],
"параметр": {
"скорость": {
"канал": 5
       }
    }
  }
}

запускать

$ cd {YOUR_DATAX_DIR_BIN}
$ python datax.py ./stream2stream.json

Какую программу чтения или записи вы хотите использовать в левой части github?

Просто зайдите на текущий ресурс и используйте предоставленный им json.

Не беда, если вы не можете открыть github, шаблоны есть в плагинах в папке, которую вы скачали.

очень просто.

пример

MySQL примеры чтения и записи

  1. {"job": {"content": [{"reader": {"name": "mysqlreader", "parameter": {"username": "root","password": "123123","column": ["*"],"splitPk": "ID","where": "ID <= 1888","connection": [{"jdbcUrl": ["jdbc:mysql://192.168.1.1:3306/xxx?useUnicode=true&characterEncoding=utf8"], "table": ["t_member"]}]}}, "writer": {"name": "mysqlwriter", "parameter": {"column": ["*"], "connection": [{"jdbcUrl": "jdbc:mysql://192.168.1.2:3306/xxx?useUnicode=true&characterEncoding=utf8","table": ["t_xxx"]}], "password": "123123","preSql": ["执行写入前执行的语句,比如删除表啊,之类的"], "session": ["set session sql_mode='ANSI'"], "username": "root", "writeMode": "insert"}}}], "setting": {"speed": {"channel": "5"}}}
  2. }