阿里雲oss遷移到騰訊雲cos 方法二(強烈推薦)

2021-09-20 22:13:57 字數 3931 閱讀 7831

1

sudoyuminstallpython-pip python-devel gcc gcc-c++ libxml2-devel

sudo apt-get install python-pip python-dev gcc gcc-c++ libxml2-devel
pip install -u cos_migrate_tool
cos_migrate_tool -h
pip uninstall cos_migrate_tool
cos_migrate_tool -c /path/to/your/conf

[common]

workspace=/tmp/tmp6   # 工作目錄threads=20            # 工作執行緒數,如果不配置,則為10執行緒[source]

type=oss

accesskeyid=

accesskeysecret=

bucket=

endpoint=

[destination]

type=cosv4

region=shanghai

accesskeyid=

accesskeysecret=

bucket=sdktest

[common]

workspace=/tmp/tmp6

[source]

type=oss

accesskeyid=         # oss accesskey id

accesskeysecret=     # oss accesskey secret

bucket=              # 要遷移的bucket名

endpoint=            # oss 的endpoint,例如 oss-cn-beijing.aliyuncs.com

[destination]

type=cosv4

region=shanghai            # cos 的 region,如shanghai, guangzhou

accesskeyid=               # cos 的 secretid

accesskeysecret=           # cos 的 secretkey

bucket=sdktest             # cos 的 bucket

prefix_dir=/dir21/         # cos 的目錄,遷移的檔案都會位於該目錄下,不配置該項則遷移到根目錄overwrite=true             # 覆蓋cos上已有的同名檔案,如果不需要,請刪除該行

[common]

workspace=/tmp/tmp11

[source]

type=qiniu

accesskeyid=               # qiniu 的 accesskeyid

accesskeysecret=           # qiniu 的 accesskeysecret

bucket=                    # 要遷移的qiniu的bucket

prefix=dir1                # 要遷移的目錄,如果要遷移整個bucket,刪除此行

[destination]

type=cosv4

region=shanghai            # cos 的 region,如shanghai, guangzhou

accesskeyid=               # cos 的 secretid

accesskeysecret=           # cos 的 secretkey

bucket=sdktest             # cos 的 bucket

prefix_dir=/dir21/         # cos 的目錄,遷移的檔案都會位於該目錄下,不配置該項則遷移到根目錄

overwrite=true             # 是否覆蓋上傳,如果不需要,刪除此行

[common]

workspace=/tmp/tmp21

[source]

type=s3

accesskeyid=               # s3 的 accesskey id

accesskeysecret=           # s3 的 accesskey secret

bucket=                    # s3 的要遷移的bucket名

prefix=dir1                # s3 的要遷移的目錄,如果要遷移整個bucket,刪除此行

[destination]

type=cosv4

region=shanghai

accesskeyid=

accesskeysecret=

bucket=

[common]

workspace=

[source]

type=url

url_list_file=/tmp/urllist.txt   # 要遷移的檔案url列表檔案,檔案每一行為乙個完整的url

timeout=3                        # http請求的超時時間

[destination]

type=cosv4

region=

accesskeyid=

accesskeysecret=

bucket=

[common]

workspace=

[source]

type=cosv3

accesskeyid=

accesskeysecret=

bucket=                     # http請求的超時時間

[destination]

type=cosv4

region=

accesskeyid=

accesskeysecret=

bucket=

[common]

workspace=

[source]

type=cosv3

accesskeyid=

accesskeysecret=

bucket=           

[destination]

type=cosv4

region=

accesskeyid=

accesskeysecret=

bucket=

[common]

workspace=

[source]

type=cosv4

accesskeyid=

region=

accesskeysecret=

bucket=         

prefix_dir=/foo   # cos 的目錄,遷移的檔案都會位於該目錄下,不配置該項則遷移到根目錄

[destination]

type=cosv4

region=

accesskeyid=

accesskeysecret=

bucket=

使用pip安裝遷移工具不成功。嘗試執行 sudo pip install cos_migrate_tool。

提示找不到argparse,使用pip安裝 sudo pip install argparse

對於一直遷移不成功的檔案,可能是cos上有同名殘損檔案,可以嘗試指定overwrite=true引數來覆蓋。

遷移前工具會先判斷檔案是否已經在cos上,提示檔案不存在的錯誤的正常的

快速將企業海量檔案資料遷移到阿里雲OSS

物件雲儲存因為下面兩個功能特性,得到了海量使用 阿里雲oss在各大雲服務商中,通過可靠 高價效比的服務得到了大量使用者的仁科。企業使用者在企業內部或者傳統idc機房中,累計了海量的檔案資料,如何快速將tb級別甚至pb檔案資料遷移到oss,是乙個非常挑戰的任務。下文介紹兩種方案 這類服務公司具體實現技...

阿里雲OSS引數

最近在使用阿里雲時,對引數delimiter和prefix不太熟悉,於是查詢文件阿里雲開放儲存手冊 prefix是定義目錄用的,但是遍歷是預設遞迴遍歷,會把子目錄下面的檔案也遍歷出來 如果想只遍歷當前層的檔案,需要加上的delimiter幫助,當delimiter 時,只會返回當前檔案和資料夾名稱 ...

阿里雲OSS上傳

這種方式相當於自動上傳,可以參考antd官網的給的例子 首先,後端會提供乙個介面,會返回一些上傳到oss需要的類似配置引數 下面的是我們後端同學給返回的引數 1 accessid,對應ossaccesskeyd 2 policy 3 signature 4 host,oss的上傳位址 下面是請求上傳...