Mysql Statement 批处理异常

好记忆不如烂笔头,能记下点东西,就记下点,有时间拿出来看看,也会发觉不一样的感受.

业务背景:接一个征信公司的api,然后快速解析,批量入库的操作!记录一下流水账,主要是记录关于Statement执行批处理操作,sql后边不允许加";"的异常 !!!

目录

梳理

1.Jdbc连接池代码 :

2. jdbc url 配置 

4.结论

5.总结


梳理

1. api 返回的是 json 串;

2.快速解析json,生成建表语句,并且批量插入(个别接口,返回解析,拼装后的sql语句达到:5w+)

3.使用DruidDataSource 构建jdbc连接池,使用 Statement  的批处理操作.

执行:

1.Jdbc连接池代码 :

private Logger logger = LoggerFactory.getLogger(getClass().getName());
/**
 * 数据库集合.
 */
final ConcurrentHashMap<String, DataSource> dataSourceMap = new ConcurrentHashMap();
/**
 * 初始化池子
 * @param destDbInfo
 */
public boolean initPool(DestDbInfo destDbInfo){
   try {
      //通过直接创建连接池对象的方式创建连接池对象
      DruidDataSource druidDataSource = new DruidDataSource();
      druidDataSource.setUsername(destDbInfo.getUsername());
      druidDataSource.setPassword(destDbInfo.getPassword());
      druidDataSource.setUrl(destDbInfo.getUrl());
      druidDataSource.setDriverClassName(destDbInfo.getDriver());
      druidDataSource.setMinIdle(10);
      druidDataSource.setMaxActive(300);
      DataSource druidPool = druidDataSource;
      String key = JsonUtils.bean2JsonStr(destDbInfo);
      dataSourceMap.put(key,druidPool);
      return true;
   }catch (Exception e){
      e.printStackTrace();
   }
   return false;
}

/**
 * 得到数据库连接
 */
public Connection getConn(DestDbInfo destDbInfo){
   if (destDbInfo==null){
      logger.error("传递的对象为空!");
      return null;
   }
   String key = JsonUtils.bean2JsonStr(destDbInfo);
   DataSource druidPool = dataSourceMap.get(key);
   try {
      if (druidPool!=null){
         return druidPool.getConnection();
      }
   }catch (Exception e){
      e.printStackTrace();
   }
   return null;
}

/**
 * 执行入库操作.
 * @param destDbInfo
 * @param sqls
 * @return
 */
public boolean executeSql(DestDbInfo destDbInfo,List<String> sqls) throws SQLException {
   if (sqls.isEmpty()){
      return false;
   }
   Connection connection = getConn(destDbInfo);
   Statement statement = connection.createStatement();
   int count = sqls.size();
   for (int i = 0; i < count ; i++) {
      System.out.println(sqls.get(i));
      statement.addBatch(sqls.get(i));
      if (i>0 && i % 10000 ==0){
         statement.executeBatch();
         statement.clearBatch();
      }
   }
   int[] nums = statement.executeBatch();
   System.out.println("执行成功的条数是:"+nums);
   statement.clearBatch();
   statement.close();
   connection.close();
   return true;
}

/**
 * 执行单条件语句
 * @param destDbInfo
 * @param sql
 * @return
 * @throws SQLException
 */
public boolean executeSql(DestDbInfo destDbInfo,String sql) throws SQLException {
   if (StringUtils.isBlank(sql)){
      return false;
   }
   Connection connection = getConn(destDbInfo);
   PreparedStatement statement = connection.prepareStatement(sql);
   int count = statement.executeUpdate();
   statement.close();
   connection.close();
   return count>0 ? true : false;
}

/**
 * 使用PreparedStatement查询数据
 * @param destDbInfo
 * @param sql
 * @return 结果集   不要关闭连接
 */
public Integer selectSql(DestDbInfo destDbInfo,String sql){
   try {
      Connection connection = getConn(destDbInfo);
      PreparedStatement pstmt=connection.prepareStatement(sql);
      ResultSet rs = pstmt.executeQuery();
      Integer value =null;
      while (rs.next()){
         value=rs.getInt(1);
      }
      rs.close();
      pstmt.close();
      connection.close();
      return value;
   } catch (SQLException e1) {
      logger.error(e1.getMessage());
   }
   return null;
}

2. jdbc url 配置 

jdbc:mysql://192.168.10.186:3306/data_sync?autoReconnect=true&amp;rewriteBatchedStatements=true&amp;useUnicode=true&amp;characterEncoding=utf-8&amp;useSSL=false

mysql中,如果不加上rewriteBatchedStatements=true,你的批处理是假的批处理,只是写了批处理,但是jdbc去执行的时候,却不是按照批处理来执行的。

3. 执行异常,要执行的 sql 如:

可以看见,所有的sql后边都是加上";"的,这就会报上面的错误,让人哭笑不得、因为在oracle中,sql语句后边要是不加";",那执行是要报错的。

4.结论

哎,真的是一个坑爹的潜藏的异常信息,一般人谁会想到:正常的sql都会写";",可是在mysql的批处理上,就会报错,而且这种错误很难定位的到是因为分号的问题。

5.总结

使用rewriteBatchedStatements 是有限制的,即为执行的总条数>3,如果小于这个数,那么还是走的是逐条执行!真的是坑!!!

发布了200 篇原创文章 · 获赞 366 · 访问量 53万+

猜你喜欢

转载自blog.csdn.net/supingemail/article/details/102955996