在火花提交过程中,我得到了以下错误:
org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)引起: com.ibm.db2.jcc.am.SqlException: jcc10654.17.28捕获java.io.CharConversionException。有关详细信息,请参见附件Throwable。ERRORCODE=-4220,SQLSTATE=null : com.ibm.db2.jcc.am.fd.a(fd.java:731)
根据IBMDocuments单击此处,我在属性下面添加了此内容,但直到出现相同的错误。我正在使用db2jcc4.jar驱动程序。
是否有任何方法通过db2.jcc.charsetDecoderEncoder在火花提交。
System.setProperty("db2.jcc.charsetDecoderEncoder", "3")
val prop = new Properties()
prop.put("driver", driver)
prop.put("db2.jcc.charsetDecoderEncoder", "3")
prop.put("-Ddb2.jcc.charsetDecoderEncoder", "3")
prop.put("continueBatchOnError", "true")`
sqlContext.read.jdbc(
url = url,
table = table,
predicates = parts,
connectionProperties = prop)发布于 2017-11-13 08:34:45
最后,我解决了DB2 java.io.CharConversionException问题,只传递了两个参数给火花驱动程序&执行器。
--conf 'spark.executor.extraJavaOptions=-Ddb2.jcc.charsetDecoderEncoder=3'
--conf 'spark.driver.extraJavaOptions=-Ddb2.jcc.charsetDecoderEncoder=3'https://stackoverflow.com/questions/47219591
复制相似问题