小伙伴們,大家好。今天我們來分享oracle遷移至Oceanbase,數(shù)據(jù)遷移過程中遇到的一些問題。
OceanBase遷移服務(OceanBaseMigration Service,OMS)是OceanBase提供的一種支持同構(gòu)或異構(gòu)RDBMS與OceanBase之間進行數(shù)據(jù)交互的服務,它提供了數(shù)據(jù)的在線遷移和實時增量同步的數(shù)據(jù)復制能力。
隨著國產(chǎn)化進度的深入,筆者所在客戶現(xiàn)場也開始核心業(yè)務OB遷移。對于OB數(shù)據(jù)遷移流程,先簡單介紹幾個我們熟悉和保障過程遇到的比較典型的問題。
介紹問題之前先介紹下OMS遷移的流程:
1>遷移前檢查。
在遷移之前需要檢查源端數(shù)據(jù)庫的字符集等配置和用戶權(quán)限。
2>添加數(shù)據(jù)源。
在OMS中將源端數(shù)據(jù)庫和目標端數(shù)據(jù)庫分別添加為數(shù)據(jù)源。
3>創(chuàng)建遷移項目。
在遷移項目中指定源端、目標端、遷移類型和需要遷移的表。
4>數(shù)據(jù)遷移。
不需要中間任務的額外處理或者啟停和中斷等人為操作,OMS就可以自動完成整個數(shù)據(jù)遷移的全部流程。
5>數(shù)據(jù)校驗。
遷移完成后,您可以進行數(shù)據(jù)校驗,驗證數(shù)據(jù)的完整性和正確性。
6>同步鏈路切換。
數(shù)據(jù)遷移完成后,在業(yè)務應用至目標端前可先進行同步鏈路切換操作,以創(chuàng)建目標端到源端的同步鏈路。
7>清理任務。
確認遷移成功,并不再需要同步源庫和目標庫的數(shù)據(jù)后,可以清理將當前的遷移任務。
數(shù)據(jù)遷移整體流程中的重點是數(shù)據(jù)遷移部分,主要有兩部分:全量遷移和增量遷移。數(shù)據(jù)遷移問題常發(fā)點也基本都是在這一過程中。
問題一:
因生產(chǎn)系統(tǒng)數(shù)據(jù)遷移鏈路阿里工程師已經(jīng)配置,所以為了熟悉遷移流程,我們配置了一個單機oralce測試環(huán)境配置鏈路同步數(shù)據(jù)至OB數(shù)據(jù)庫創(chuàng)建的測試用戶。
按照文檔及要求檢查環(huán)境、機器時間,創(chuàng)建遷移用戶,配置數(shù)據(jù)庫設置,在OMS平臺配置數(shù)據(jù)源,創(chuàng)建遷移項目,配置遷移白名單。一切就緒運行任務,結(jié)果在啟動源端DRC時報錯,這是啟動增量進程的配置,如果無法啟動將導致增量鏈路無法發(fā)起,查看鏈路情況同步位點時間是null。
通過鏈路監(jiān)控查看store號
登錄到OMS管理主機查看日志
日志顯示如下
原因及解決辦法:
因增量鏈路是通過解析歸檔日志來同步,檢查scn號在當前日志期間,并沒有問題,翻查日志發(fā)現(xiàn)有thread2的信息。檢查源端oracle單機數(shù)據(jù)庫,因是從rac環(huán)境拷貝,所以有些集群參數(shù)還存在,造成OB增量進程去解析第二個節(jié)點的歸檔,找不到。修改相關參數(shù),重新發(fā)起作業(yè)后正常。
問題二:
數(shù)據(jù)全量遷移過程中發(fā)生ora-00904Invalid indentifed “XXX”in field list報錯
檢查日志
登錄oms主機
找到報錯表
原因及解決辦法:
因OB遷移過程中可以選擇無主鍵表創(chuàng)建隱藏列,數(shù)據(jù)全量遷移時會插入相關數(shù)據(jù)。
登錄ob客戶端
showcreate table table_nameG
發(fā)現(xiàn)未創(chuàng)建隱藏列
解決方法1:
登錄oms管理平臺
在OB客戶端刪除有問題的表:
Drop table tablename;
回到頁面執(zhí)行表結(jié)構(gòu)子任務重置
重置完表結(jié)構(gòu)復檢遷移作業(yè)
解決方法2:
在OB客戶端刪除有問題的表
Drop table tablename;
登錄oms主機
手工查找建表語句
在OB客戶端刪除有問題的表
執(zhí)行建表語句,創(chuàng)建隱藏列和索引
創(chuàng)建完表showcreate table檢查建表語句,復檢遷移作業(yè)
問題三:
數(shù)據(jù)全量遷移過程中發(fā)生ora-02149Specified partition does not exist報錯
oracle端:
OB端:
原因及解決辦法:
因oracle源端數(shù)據(jù)庫中分區(qū)或表做了ddl刪除操作,導致數(shù)據(jù)遷移過程中找不到分區(qū)或表。將ob端多余的分區(qū)手工刪除,重新發(fā)起遷移任務復檢就可以恢復正常
OB國產(chǎn)化數(shù)據(jù)庫大規(guī)模商業(yè)化目前還是處在推進階段,在具體的遷移過程中,行業(yè)中都是摸著石頭過河,需要不斷的探索,OMS數(shù)據(jù)遷移是OB官方提供的ORACLE到OB數(shù)據(jù)庫進行數(shù)據(jù)遷移的平臺,由于目前還是推進過程中,所以不同場景下會遇到不同的問題,現(xiàn)有公開資料不多,需要我們在工作過程中多總結(jié)積累踩坑處理經(jīng)驗,填充知識庫,并在此基礎上運用平臺工具嫁接最后一公里的運營短板。這次的分享到此結(jié)束,后續(xù)會持續(xù)為大家?guī)鞳B遷移及運維中遇到的第一手鮮活案例,敬請期待。
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://specialneedsforspecialkids.com/yun/130126.html
摘要:年月日,遷移服務解決方案在城市峰會中正式發(fā)布。遷移服務向分布式架構(gòu)升級的直接路徑基于上述問題和挑戰(zhàn),同時經(jīng)過螞蟻十年數(shù)據(jù)庫架構(gòu)升級的先進經(jīng)驗,螞蟻金服為客戶打造了這款一站式數(shù)據(jù)遷移解決方案遷移服務,簡稱。 2019年1月4日,OceanBase遷移服務解決方案在ATEC城市峰會中正式發(fā)布。螞蟻金服資深技術專家?guī)熚膮R和技術專家韓谷悅共同分享了OceanBase遷移服務的重要特性和業(yè)務實踐...
摘要:年月日,遷移服務解決方案在城市峰會中正式發(fā)布。遷移服務向分布式架構(gòu)升級的直接路徑基于上述問題和挑戰(zhàn),同時經(jīng)過螞蟻十年數(shù)據(jù)庫架構(gòu)升級的先進經(jīng)驗,螞蟻金服為客戶打造了這款一站式數(shù)據(jù)遷移解決方案遷移服務,簡稱。 2019年1月4日,OceanBase遷移服務解決方案在ATEC城市峰會中正式發(fā)布。螞蟻金服資深技術專家?guī)熚膮R和技術專家韓谷悅共同分享了OceanBase遷移服務的重要特性和業(yè)務實踐...
摘要:簡介本文首發(fā)公眾號一名打字員據(jù)悉,年的月份,螞蟻金服已經(jīng)宣布,螞蟻金服及阿里巴巴自研的關系型數(shù)據(jù)庫已經(jīng)支撐起和淘寶的日常業(yè)務需求,成功替換了之前所采用的單機數(shù)據(jù)庫如或者開源的。 簡介 Tip:本文首發(fā)公眾號【一名打字員】 據(jù)悉,17年的4月份,螞蟻金服已經(jīng)宣布,螞蟻金服及阿里巴巴自研的關系型數(shù)據(jù)庫OceanBase已經(jīng)支撐起Tmall和淘寶的日常業(yè)務需求,成功替換了之前所采用的單機數(shù)據(jù)...
閱讀 1346·2023-01-11 13:20
閱讀 1684·2023-01-11 13:20
閱讀 1132·2023-01-11 13:20
閱讀 1858·2023-01-11 13:20
閱讀 4100·2023-01-11 13:20
閱讀 2704·2023-01-11 13:20
閱讀 1385·2023-01-11 13:20
閱讀 3597·2023-01-11 13:20