TxtFile Writer

TxtFile Writer 提供了向本地文件写入类 CSV 格式的一个或者多个表文件。

配置样例

{
  "job": {
    "setting": {
      "speed": {
        "channel": 2,
        "bytes": -1
      }
    },
    "content": {
      "reader": {
        "name": "txtfilereader",
        "parameter": {
          "path": [
            "/tmp/data"
          ],
          "encoding": "UTF-8",
          "column": [
            {
              "index": 0,
              "type": "long"
            },
            {
              "index": 1,
              "type": "boolean"
            },
            {
              "index": 2,
              "type": "double"
            },
            {
              "index": 3,
              "type": "string"
            },
            {
              "index": 4,
              "type": "date",
              "format": "yyyy.MM.dd"
            }
          ],
          "fieldDelimiter": ","
        }
      },
      "writer": {
        "name": "txtfilewriter",
        "parameter": {
          "path": "/tmp/result",
          "fileName": "luohw",
          "writeMode": "truncate",
          "dateFormat": "yyyy-MM-dd"
        }
      }
    }
  }
}

参数说明

配置项	是否必须	数据类型	默认值	描述
path	是	string	无	本地文件系统的路径信息，写入 Path 目录下属多个文件
fileName	是	string	无	写入的文件名，该文件名会添加随机的后缀作为每个线程写入实际文件名
writeMode	是	string	无	写入前数据清理处理模式，详见下文
fieldDelimiter	是	string	,	描述：读取的字段分隔符
compress	否	string	无	文本压缩类型，支持压缩类型为 zip、lzo、lzop、tgz、bzip2
encoding	否	string	utf-8	读取文件的编码配置
nullFormat	否	string	\N	定义哪些字符串可以表示为 null
dateFormat	否	string	无	日期类型的数据序列化到文件中时的格式，例如 "yyyy-MM-dd"
fileFormat	否	string	text	文件写出的格式，详见下文
table	是	string	无	sql 模式时需要指定表名，
column	否	list	无	sql 模式时可选指定列名，
extendedInsert	否	boolean	true	sql 模式时是否使用批量插入语法，详见下文
batchSize	否	int	2048	sql 模式时批量插入语法的批次大小，详见下文
header	否	list	无	text 写出时的表头，示例 ['id', 'name', 'age']

writeMode

写入前数据清理处理模式：

• truncate，写入前清理目录下一 fileName 前缀的所有文件。
• append，写入前不做任何处理，直接使用 filename 写入，并保证文件名不冲突。
• nonConflict，如果目录下有 fileName 前缀的文件，直接报错。

fileFormat

文件写出的格式，包括 csv 和 text 和 4.1.3 版本引入的 sql 三种，csv 是严格的 csv 格式，如果待写数据包括列分隔符，则会按照 csv 的转义语法转义，转义符号为双引号 "； text 格式是用列分隔符简单分割待写数据，对于待写数据包括列分隔符情况下不做转义。 sql 格式表示将数据以 SQL 语句 (INSERT INTO ... VALUES) 的方式写入到文件

table

仅在 sql 文件格式下需要，用来指定写入的表名

column

在 sql 文件格式下，可以指定写入的列名，如果指定，则 sql 语句类似 INSERT INTO table (col1, col2, col3) VALUES (val1, val2, val3)，模式 否则为 INSERT INTO table VALUES (val1, val2, val3)。模式

extendedInsert

是否启用批量插入语法，如果启用，则会将 batchSize 个数据一次性写入到文件中，否则每个数据一行。该参数借鉴了 mysqldump 工具的 extended-insert 参数语法

batchSize

批量插入语法的批次大小，如果 extendedInsert 为 true，则每 batchSize 个数据一次性写入到文件中，否则每个数据一行。

类型转换

Addax 内部类型	本地文件 数据类型
Long	Long
Double	Double
string	string
Boolean	Boolean
Date	Date