文章目录
前言
客户突然联系说应用无法连接数据库，报错如下：
shell
[ERROR]-[Thread: Druid-ConnectionPool-Create-26728049]-[com.alibaba.druid.pool.DruidDataSource$CreateConnectionThread.run()]: create connection error, url: jdbc:oracle:thin:@x.x.x.93:1521:empdb011, errorCode 17002, state 08006
java.sql.SQLRecoverableException: IO 错误: The Network Adapter could not establish the connection
at oracle.jdbc.driver.T4CConnection.logon(T4CConnection.java:774)
at oracle.jdbc.driver.PhysicalConnection.connect(PhysicalConnection.java:688)
at oracle.jdbc.driver.T4CDriverExtension.getConnection(T4CDriverExtension.java:39)
at oracle.jdbc.driver.OracleDriver.connect(OracleDriver.java:691)
at com.alibaba.druid.filter.FilterChainImpl.connection_connect(FilterChainImpl.java:148)
at com.alibaba.druid.filter.stat.StatFilter.connection_connect(StatFilter.java:220)
at com.alibaba.druid.filter.FilterChainImpl.connection_connect(FilterChainImpl.java:142)
at com.alibaba.druid.filter.FilterAdapter.connection_connect(FilterAdapter.java:785)
at com.alibaba.druid.filter.FilterChainImpl.connection_connect(FilterChainImpl.java:142)
at com.alibaba.druid.pool.DruidAbstractDataSource.createPhysicalConnection(DruidAbstractDataSource.java:1463)
at com.alibaba.druid.pool.DruidAbstractDataSource.createPhysicalConnection(DruidAbstractDataSource.java:1525)
at com.alibaba.druid.pool.DruidDataSource$CreateConnectionThread.run(DruidDataSource.java:2100)
Caused by: oracle.net.ns.NetException: The Network Adapter could not establish the connection
at oracle.net.nt.ConnStrategy.execute(ConnStrategy.java:523)
at oracle.net.resolver.AddrResolution.resolveAndExecute(AddrResolution.java:521)
at oracle.net.ns.NSProtocol.establishConnection(NSProtocol.java:660)
at oracle.net.ns.NSProtocol.connect(NSProtocol.java:286)
at oracle.jdbc.driver.T4CConnection.connect(T4CConnection.java:1438)
at oracle.jdbc.driver.T4CConnection.logon(T4CConnection.java:518)
... 11 more
Caused by: java.io.IOException: Connection timed out: connect, socket connect lapse 20998 ms. /x.x.x.93 1521 0 1 true
at ora一、当前的状态是什么？
集群状态宕掉了，且无法正常启动！！！
二、集群启动异常怀疑对象
1.排查心跳网络异常
ping自己私有IP延迟高
ping其它主机私有IP不通
那么问题定位到私有IP不通导致的集群无法启动，一体机内部私有IP交互是通过自身的IB交换机完成的，很有可能是IB交换机问题，下面进行日志查询取证。
2.是否发生过重启
每台机器都发生过重启，明显掉电情况
三、日志信息收集
ocssd.trc
集群crs日志
cell的griddisk状态及报错
尝试启动：
那么排查到这里可以断定，是由于上层问题导致的griddisk不正常无法拉起集群，此处上层的IB交换机就成为重要排查对象。
四、IB交换机的问题排查处理
通过融合IP登入ilom管理网页失败，只能通过ssh
登入后看到明显的提示，尝试boot重启失败：
还发现掉了一个PDU，进行确认私有IP通信正常
五、紧急恢复业务
在IB完成正常重启后，重新启动所有cell服务
拉起集群：
六、收尾工作
check修复第二台IB交换机
重新挂载nfs共享目录
检查PDU，确实已掉电
七、原因调查
PDU问题由于29日晚操作切电操作导致UPS路跳闸
主机等log显示电源切换
29日有检测到FAN0风扇数值是0
但实际风扇只应该显示FAN1~3才对，出现FAN0也是奇怪，有知道朋友可以留言。
总结
通过整体问题梳理，应该是在用过进行切电作业时候导致UPS跳闸，且市电进行切换导致的整个一体机机柜出现了掉电情况，然后服务器重启后，IB交换机自检硬件有问题导致自检失败所有整体的私有IP和以下的集群服务无法正常启动。