spark 写到doris不能写指定列进去

Viewed 34

spark版本:3.4.4
spark-doris-connector版本: spark-doris-connector-spark-3.4-25.2.0
doris版本:v4.0.1
问题:数据库有多个字段,指定写入2个字段,写入数据失败。

数据库字段如下:
image.png

代码如下:
image.png

dataset查询的数据打印如下:
image.png

报错如下:
image.png

1 Answers

需要需要配置 doris.write.schemaless 和 doris.sink.properties.partial_columns 为true。

要求connector的版本为 25.2.0

      .option("doris.write.schemaless", "true")
      .option("doris.sink.properties.partial_columns","true")