harumaki.net

インフラ屋の覚書や、ラーメン食べある記とか。

AWS infra 運用

[AWS]s3putをかるく検証してみた

投稿日:2013年6月14日

Last Updated on 2021年7月4日 by かんりにん

s3cmdにつづいて、s3putのテスト。
Amazon Linux AMIにはもともとec2-api-toolsなどのツールがインストール済みになっていて
環境設定をしなくて済むので、大変助かるけど、s3fsもs3cmdも後からインストールをしたので、やや手間。
なんとなくs3向けコマンドもあれば、と思って探してみたところ、RPMのpython-botoに含まれるs3putなるpythonのスクリプトがあったので、これを試してみる。
うまくいけばs3fsもs3cmdも入れずにいけそう。

今回はAMIにもともとパッケージで含まれていたので、リポジトリのお世話にはならず。

注意事項

S3へ転送を行う際、元サーバーのパスがそのままバケット直下に作成されるので、ディレクトリ階層が深くなってしまう場合がある。
→フォーラムのどこかにノウハウみたいな記事があったので、後で調べてみる。

書式

書式としてはこんな感じ。

s3put -a <ACCESSKEY> -s <SECRETKEY> -b <バケット名> <転送するファイル名>

どこかのファイルにアクセスキー、シークレットキーを書いておいて
そこを読めばオプション不要、とかができると思う…

転送速度チェック

東京リージョン内でのEC2→S3バケットへの転送速度を軽くチェック。
ファイルサイズは120MB、750MB、5GBでそれぞれテスト。

1)ファイルサイズ120MB

# time s3put -a ******************** -s ******************** -b backup-db1-tokyo backup_dbah
/usr/bin/s3put:45: DeprecationWarning: BaseException.message has been deprecated as of Python 2.6
  err.message[len('No module named '):] + \
Copying /home/ec2-user/db-sprittest/backup_dbah to backup-db1-tokyo/home/ec2-user/db-sprittest/backup_dbah
	 
	real    0m5.376s
	user    0m1.200s
	sys     0m0.420s

2)ファイルサイズ750MB

# time s3put -a ******************** -s ******************** -b backup-db1-tokyo backup_dbaa
/usr/bin/s3put:45: DeprecationWarning: BaseException.message has been deprecated as of Python 2.6
  err.message[len('No module named '):] + \
Copying /home/ec2-user/db-sprittest/backup_dbaa to backup-db1-tokyo/home/ec2-user/db-sprittest/backup_dbaa
	 
	real    0m40.902s
	user    0m8.021s
	sys     0m2.948s

3)ファイルサイズ5GB

# time s3put -a ******************** -s ******************** -b backup-db1-tokyo backup_db_20121101.sql.gz
/usr/bin/s3put:45: DeprecationWarning: BaseException.message has been deprecated as of Python 2.6
  err.message[len('No module named '):] + \
Copying /home/ec2-user/db-sprittest/backup_db_20121101.sql.gz to backup-db1-tokyo/home/ec2-user/db-sprittest/backup_db_20121101.sql.gz
	 
	real    6m45.349s
	user    0m54.147s
	sys     0m19.197s
 

何気にs3fsより速い!オーバーヘッドが少ないか?
オプションをいろいろ調べて試してみる必要があるけど、今のところ一番速いので、これで決まりかな?
あと"err.message[len(‘No module named ‘):] + \"のメッセージが気になるので、後で調べてみる…

 

 

-AWS, infra, 運用
-,

執筆者:


comment

メールアドレスが公開されることはありません。

CAPTCHA


関連記事

no image

trafshow

trafshow † トラフィック・モニターtrafshowのインストールと動作具合をテスト。 [本家ページ]※ロシア語 http://soft.risp.ru/trafshow/ind …

no image

[メモ]DNS SPFレコードタイプトTXTレコードタイプについて(RFC7208)

  Route53で新サービス用のドメインのDNS環境整備ため、SPFレコードを登録しようとしたところ、レコードタイプに”SPF”なるタイプがあった! 自分は今までずっとTXT …

nagios​/plugin​/SNMP​/ロードアベレージ監視

  ロードアベレージ監視[check_snmp_load.pl] † ↑ スクリプト † check_snmp_load.pl 使用例: # ../../libe …

no image

ZABBIXインストール(1.0)

  システム監視ツールzabbixのインストールドキュメント。 【本家サイト】 http://www.zabbix.com/ 日本語の情報はほとんどないので、サイトからダウンロードした マニュアルPD …

no image

オープンソースでのクラスタリング環境構築/DRBD

オープンソースでのクラスタリング環境構築/DRBD ネットワークに接続されたホスト間でのディスクミラーリング機能を提供。 GNU GPLに準拠。 特徴としては リアルタイムミラーリングでディスク共有 …