harumaki.net

インフラ屋の覚書や、ラーメン食べある記とか。

AWS infra 運用

[AWS]s3putをかるく検証してみた

投稿日:2013年6月14日

s3cmdにつづいて、s3putのテスト。
Amazon Linux AMIにはもともとec2-api-toolsなどのツールがインストール済みになっていて
環境設定をしなくて済むので、大変助かるけど、s3fsもs3cmdも後からインストールをしたので、やや手間。
なんとなくs3向けコマンドもあれば、と思って探してみたところ、RPMのpython-botoに含まれるs3putなるpythonのスクリプトがあったので、これを試してみる。
うまくいけばs3fsもs3cmdも入れずにいけそう。

今回はAMIにもともとパッケージで含まれていたので、リポジトリのお世話にはならず。

注意事項

S3へ転送を行う際、元サーバーのパスがそのままバケット直下に作成されるので、ディレクトリ階層が深くなってしまう場合がある。
→フォーラムのどこかにノウハウみたいな記事があったので、後で調べてみる。

書式

書式としてはこんな感じ。

s3put -a <ACCESSKEY> -s <SECRETKEY> -b <バケット名> <転送するファイル名>

どこかのファイルにアクセスキー、シークレットキーを書いておいて
そこを読めばオプション不要、とかができると思う…

転送速度チェック

東京リージョン内でのEC2→S3バケットへの転送速度を軽くチェック。
ファイルサイズは120MB、750MB、5GBでそれぞれテスト。

1)ファイルサイズ120MB

# time s3put -a ******************** -s ******************** -b backup-db1-tokyo backup_dbah
/usr/bin/s3put:45: DeprecationWarning: BaseException.message has been deprecated as of Python 2.6
  err.message[len('No module named '):] + \
Copying /home/ec2-user/db-sprittest/backup_dbah to backup-db1-tokyo/home/ec2-user/db-sprittest/backup_dbah
	 
	real    0m5.376s
	user    0m1.200s
	sys     0m0.420s

2)ファイルサイズ750MB

# time s3put -a ******************** -s ******************** -b backup-db1-tokyo backup_dbaa
/usr/bin/s3put:45: DeprecationWarning: BaseException.message has been deprecated as of Python 2.6
  err.message[len('No module named '):] + \
Copying /home/ec2-user/db-sprittest/backup_dbaa to backup-db1-tokyo/home/ec2-user/db-sprittest/backup_dbaa
	 
	real    0m40.902s
	user    0m8.021s
	sys     0m2.948s

3)ファイルサイズ5GB

# time s3put -a ******************** -s ******************** -b backup-db1-tokyo backup_db_20121101.sql.gz
/usr/bin/s3put:45: DeprecationWarning: BaseException.message has been deprecated as of Python 2.6
  err.message[len('No module named '):] + \
Copying /home/ec2-user/db-sprittest/backup_db_20121101.sql.gz to backup-db1-tokyo/home/ec2-user/db-sprittest/backup_db_20121101.sql.gz
	 
	real    6m45.349s
	user    0m54.147s
	sys     0m19.197s
 

何気にs3fsより速い!オーバーヘッドが少ないか?
オプションをいろいろ調べて試してみる必要があるけど、今のところ一番速いので、これで決まりかな?
あと"err.message[len(‘No module named ‘):] + \"のメッセージが気になるので、後で調べてみる…

Amazon Web Servicesプログラミング ―APIの基礎からElastic Beanstalkの利用まで
Jurg van Vliet Flavia Paganelli Steven van Wel Dara Dowd
オライリージャパン
売り上げランキング: 198,667

 

-AWS, infra, 運用
-,

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA


関連記事

no image

postfinger

postfinger ダウンロード 実行例 postfinger Simon Mudd氏作のpostfix用ユーティリティスクリプト。 #postfixのsrc.rpmを探していてたまたま見つけた… …

no image

インフラ運用の心得:最低限やっておくこと

インフラ運用に最低限やっておくこと 1)ドキュメント作成 2)ログ 3)バックアップ/データ 4)バックアップ/ハード 5)バックアップ/ネットワーク機器 6)監視 /トラブルシュート 7)ネットワー …

nagiosgraph/1.install

&topicpath; nagiosgraphインストールログ 事前情報 nagiosgraphセットアップ環境 1)nagiosgraphセットアップ環境 2)rrdtoolバンドル環境 イ …

nagios​/plugin​/SNMP​/インストール(perl版)

&topicpath; nagiosプラグイン[snmp]インストール・設定(perl版) 1)混合パッケージ 上記サイトで配布されているプラグイン 2)check_snmp_cpu.pl イ …

no image

備忘録:logrotateのデバッグモード

logrotateのデバッグモード 実際の処理をトレースする。 オプション”-dv”を忘れやすいのでメモ… # logrotate -dv <logrotate.conf …