基於RGB D的 SLAM 前端和後端

2021-09-24 21:18:47 字數 1183 閱讀 9780

(1)rgb-d slam 前端

前端是乙個求解運動變換的過程,並為後端提供初始的資料,大致上可以分為特徵的檢測、特徵匹配和運動變換估計三個步驟。運動變換的求解實際上是乙個迴圈的過程,在每一次迴圈中,對當前的影象幀進行特徵檢測和描述子的提取,建立特徵描述器,與上一幀影象進行特徵匹配,根據特徵匹配結果建立起兩幀影象對應點對的二維集合,對於每一組點對,利用其所對應的彩色資訊和深度資訊計算出相應的三維空間座標,獲取對應點對的三維座標集合,綜合利用二維和三維的點對集合,使用點對配準演算法從而估算出相鄰兩幀影象之間的運動變換。

(2)rgb-d slam 後端

後端是乙個優化求解的過程,一般可以分為構建位姿圖、閉環檢測、優化位姿圖和生成軌跡和地圖四個步驟。利用前端的處理結果構建出初始的點邊位姿圖,以相機的位姿資訊為節點,以相鄰位姿的運動轉換資訊為邊構建約束影象,利用閉環檢測新增閉環約束,在全域性範圍內對位姿圖進行優化求解,進而獲得優化後各個節點新的位姿資訊和運動轉換資訊,利用全域性優化後的運動轉換資訊將點雲進行拼接,最後生成全域性一致性軌跡和地圖。

(3)系統整體框架

rgb-d slam 演算法可以描述為三個階段:

準備階段:主要處理軟硬體平台的搭建以及感測器的校準和資料採集問題,結合上述軟硬體平台框架,將 rgb-d 相機的彩色攝像頭和深度攝像頭進行影象對齊處理,分別對兩個攝像頭進行標定,構建相機模型,確定四個座標系之間的轉換關係,記錄標定引數用於下個階段;

處理階段:由前端和後端兩個部分組成,使用 surf 演算法對影象進行特徵點的檢測和提取,構建特徵描述子,應用 flann 方法進行特徵匹配,結合閾值法提出錯誤的匹配,使用本文提出的 pnp-icp 演算法對相鄰幀之間的運動變換進行求解,構建點邊姿態圖,設定關鍵幀提取機制,通過關鍵幀檢測方法和閉環檢測方法進行閉環檢測(全域性性大閉環檢測和區域性性小閉環檢測),新增閉環約束關係,綜合全域性約束資訊,使用 g2o 優化姿態圖,消除軌跡漂移求解各節點最優姿態;

結束階段:將優化後的位姿圖作為機械人的最優執行軌跡,運用各幀之間的運動變換關係將每幀影象所對應的點雲拼接為全域性一致性三維點雲地圖。

rgb-d slam 系統整體框架

視覺SLAM筆記(44) RGB D 的直接法

現在演示如何使用稀疏的直接法 為了保持程式簡單,使用 rgb d 資料而非單目資料,這樣可以省略掉單目的深度恢復部分 基於特徵點的深度恢復已經在 視覺slam筆記 34 三角測量 介紹過了 而基於塊匹配的深度恢復將在後面介紹 所以這裡考慮 rgb d 上的稀疏直接法vo visual odometr...

視覺SLAM(3) RGBD相機的點雲資料生成

本節展示了如何將rgbd的深度及影象資訊轉換為點雲資料的過程,轉換的公式需要一定的相機模型的基礎知識,可以參考高翔的 視覺slam十四講 這裡以奧比的一款相機為例,理論都比較簡單,理解起來並不困難,這裡直接貼上 include include include include include incl...

基於slam的三維重建 國內SLAM公司 彙總

整理 tom hardy 3d視覺工坊為大家整理了一些從事slam領域的公司,包括其主要業務 公司地點以及提供的崗位 歡迎加入國內最大的3d視覺交流社群,1700 的領域從業者正在共同進步 往期乾貨資源 彙總 國內最全的3d視覺學習資源,涉及計算機視覺 slam 三維重建 點雲處理 姿態估計 深度估...