AWSストレージ関連サービスの 実践的活用 ...€¦ · •...

47
AWSストレージ関連サービスの 実践的活用パターン 2015年7月23日 アマゾン データサービス ジャパン株式会社 ソリューションアーキテクト 小林正人

Transcript of AWSストレージ関連サービスの 実践的活用 ...€¦ · •...

Page 1: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

AWSストレージ関連サービスの実践的活用パターン

2015年7月23日

アマゾン データサービス ジャパン株式会社

ソリューションアーキテクト 小林正人

Page 2: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

名前:

・小林 正人/ ソリューションアーキテクト

役割:

・エンタープライズのお客様を担当

・AWSの利用にまつわる様々な技術支援をご提供

自己紹介

Page 3: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

ハッシュタグは #awssolutiondays皆さんのご意見聞かせてください!

【コースター配布場所】 会場受付

公式アカウント@awscloud_jpをフォローすると、ロゴ入りコースターをプレゼント

Page 4: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

1.なぜクラウドストレージを使うのか

2.AWSが提供するストレージサービス

3.実践的な活用パターンあれこれ

4.まとめ

アジェンダ

Page 5: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

なぜクラウドストレージを使うのか

Page 6: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

データベース ログデータファイル

メディアコンテンツ

バックアップアーカイブ

ビッグデータ

ストレージの用途

Page 7: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

計画 &設計

調達

導入

運用 & 拡張 3〜5年サイクル

長い調達期間

技術革新やコスト効率改善からの遅れ

24時間365日のハードウェア故障への対応

リプレースやデータ移行方式の検討

不明確な未来予測に基づくキャパシティ計画

ストレージの管理は案外大変

Page 8: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

クラウドストレージ

System A System B System C System D System E System F

• キャパシティ制限なし• 製品ライフサイクルによるリプレイスが不要に• ストレージの管理ではなくデータ管理に注力

クラウドストレージによりデータ活用に注力

Page 9: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AWSが提供する

ストレージサービス

Page 10: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

高い耐久性 柔軟性 セキュア

シンプル低コスト

AWSのストレージサービスの特徴

Page 11: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

ポートフォリオ

Amazon S3

Amazon Glacier

AWS Storage Gatweay

Amazon EBS

Amazon EFS(Preview)

Page 12: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon S3概要

• Amazon Simple Storage Service (S3)はWeb時代のオブジェクトストレージ

• ユーザはデータを安全に、どこからでも、容量制限なく保存可能

• 最大限のスケーラビリティを利用者やデベロッパーに提供

Page 13: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon Simple Storage Service (S3)

• 容量無制限– 1ファイル最大5TBまで

• 高い堅牢性– 99.999999999%

• 安価なストレージ– 月額1GB / 約4円 (0.033USD※)

• スケーラブルで安定した性能– データ容量に依存しない性能

※ 1USD 120円で換算

Page 14: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon Simple Storage Service (S3)

データセンタ A

データセンタ B

データセンタ C

東京リージョン

AWSリージョンを指定可能

3箇所以上で自動複製高い堅牢性を実現

ネットワーク越しにファイルを格納

データ

バケット

Page 15: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon S3の利用用途

• バックアップやディザスタリカバリ– データバックアップストレージ

– 拠点間レプリケーション

• ログ&データハブストレージ– ログやデータ分析保管用ストレージ

– データ中継ストレージ

• コンテンツ配信や保管サーバ– Web・メディアコンテンツ

– JavaScriptを活用した2Tier Webシステム

Page 16: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon Glacier

• 特徴 (http://aws.amazon.com/jp/glacier/)

– 高い堅牢性 99.999999999%

– 格納容量無制限

– 取り出しリクエストから3-5時間後に可能

– 超安価なアーカイブ用ストレージ

• 価格体系 (http://aws.amazon.com/jp/glacier/pricing/)

– データ格納容量

– データ転送量(OUT)

– APIリクエスト数

– データ取り出し

マネージドアーカイブストレージサービス

Amazon GlacierAmazon S3

連携

アーカイブ

オンライン アーカイブ

Page 17: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon Elastic Block Store(EBS)

• EC2インスタンスにアタッチして使用するブロックレベルのストレージサービス

• OSやアプリケーション、データの置き場所など様々な用途で利用される

• 99.999%の可用性を備えるように設計されている

• 標準のSSDタイプに加え、さらに高性能なSSDや安価な磁気ディスクの3種類から選択可能

EC2

EBS

Page 18: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Snapshot

• EBSのバックアップ機能。リストア時は新しいボリュームを作成する形となる

• SnapshotのデータはバックエンドでS3に保管されるため、S3のインタフェースから直接参照できない

• 2世代目以降は差分データを保存する差分バックアップとなる(1世代目を削除しても復元は可能)

• Snapshot作成時にブロックレベルで圧縮して保管するため、圧縮後の容量に対して課金が行われる

EBS

Snapshot

EBS

Page 19: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Snapshotによる差分バックアップ

• 1世代目のSnapshotは実データをすべてバックアップするが、2世代目以降は変更差分のみを保持する仕組みとなっている

2世代目

EBS

snapshot

み り ん

メ ロ ン

り ン

EBS

snapshot

1世代目 み か ん

メ ロ

み か ん メ ロ

Page 20: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Snapshotの削除

• Snapshotの削除時は他の世代で利用していないデータのみが削除されるため、1世代目を削除しても復元が可能

EBS

1世代目

み か ん メ ロ

2世代目

り ン

2世代目から参照されていないデータのみを削除

Page 21: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AWS Storage Gateway

• オンプレミス環境と連携可能なデータバックアップおよびクラウドストレージを提供するゲートウェイサービス

オンプレミス環境 クラウド環境

AWS Storage Gateway

AmazonS3

AmazonGlacier

Internet

オンラインストレージ

アーカイブストレージ

ゲートウェイ

サーバ

データ連携

データ格納

バックアップ(Gateway-Stored Volumes

/ Gateway-VTL)

容量拡張(Gateway-Cached Volumes)

Page 22: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

AWS Storage Gatewayのメリット

• 大容量かつ堅牢性の高いS3やGlacierをアプリケーションを変更することなく透過的に利用可能にする

• DR用途やバックアップ用途に最適

Page 23: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon Elastic File System (EFS)

• 特徴 (http://aws.amazon.com/jp/efs/)

– NFS v4 でアクセス

– 複数のAZにある複数のEC2インスタンスから同時アクセス可

– 複数のAZに冗長化して保存

– Limited Preview 受付中

• 価格体系 (http://aws.amazon.com/jp/efs/pricing/)

– $ 0.30 /GB・月(USリージョン)

– 保存している合計容量のみの課金

NASのようなファイル共有ストレージ サービス

アベイラビリティゾーン -A

リージョン

アベイラビリティゾーン - B

アベイラビリティゾーン - C

VPC

EC2EC2

EC2

ファイルシステム

Page 24: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

実践的な

活用パターンあれこれ

Page 25: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

典型的な活用パターン

• ファイルサーバストレージ

• バックアップストレージ

• アーカイブストレージ

• データHUBストレージ

• コンテンツ配信ストレージ

Page 26: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

典型的な活用パターン

• ファイルサーバストレージ

• バックアップストレージ

• アーカイブストレージ

• データHUBストレージ

• コンテンツ配信ストレージ

Page 27: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

ファイルサーバストレージ

コーポレートDC Amazon S3

EBSSnapshot

ユーザ

AmazonDirect Connect

(専用線)

EC2

EBS

ファイルサーバ

EBSInternet VPN

1ボリューム16TBが最大。それを超過す

る場合は複数ボリュームで構成する

Page 28: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

ファイルサーバストレージ(ハイブリッド型)

コーポレートDC

Amazon S3

ユーザ

AmazonDirect Connect

(専用線)

ファイルサーバ

アプライアンス

iSCSINFSCIFS

Internet

データの自動転送

Page 29: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

典型的な活用パターン

• ファイルサーバストレージ

• バックアップストレージ

• アーカイブストレージ

• データHUBストレージ

• コンテンツ配信ストレージ

Page 30: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

バックアップストレージ

コーポレートDC

AmazonDirect Connect

(専用線)

Amazon S3

リストア

データを定期的に転送

Internet

AWS CLI

Page 31: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

バックアップストレージ

AmazonDirect Connect

(専用線)

Internet

S3対応製品

Amazon S3

リストア

バックアップデータ格納

Page 32: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

バックアップストレージ

コーポレートDC

AmazonDirect Connect

(専用線)

Storage GW(容量拡張)

Amazon S3

Snapshot

リストア

リストア

EBS

Storage GWon EC2

EC2

データの自動転送

Internet

ファイルバックアップ

Page 33: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

バックアップストレージ

AmazonDirect Connect

(専用線)

Internet

Amazon S3

リストア

データの自動転送

Storage GW(容量拡張)

S3未対応バックアップ製品

Page 34: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

バックアップストレージ

AmazonDirect Connect

(専用線)

Internet

S3対応NAS

Amazon S3

リストア

データの自動転送

Page 35: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

バックアップストレージ

AmazonDirect Connect

(専用線)

Internet

Amazon S3

リストア

データの自動転送バックアップ製品

Storage GW

VTL Option

D2Tバックアップ

Amazon

Glacier

アーカイブ リトリーブ

Page 36: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

アーカイブストレージ

• ファイルサーバストレージ

• バックアップストレージ

• アーカイブストレージ

• データHUBストレージ

• コンテンツ配信ストレージ

Page 37: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

アーカイブストレージ

EC2

EC2

GlacierAWS API/SDK

EC2

AWS API/SDK

AWS CLIAWS

API/SDKAWS CLI

ユーザ

Amazon S3

一定期間経過後自動アーカイブ(Life Cycle Policy)

S3の汎用性を活用

安価かつ安全

Page 38: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

アーカイブストレージ

Amazon Direct Connect(専用線)

Internet

AWS

API/SDK

Amazon S3 Glacier

自動アーカイブ(Life Cycle Policy)

インデックス管理

AWS Import Exportパートナー様サービス

直接転送HDD

高速転送

Multi-part Upload

Page 39: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

アーカイブストレージ

• ファイルサーバストレージ

• バックアップストレージ

• アーカイブストレージ

• データHUBストレージ

• コンテンツ配信ストレージ

Page 40: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

データHUBストレージ

EC2ユーザ

データ分析

データ収集

EC2

Redshift

BIツールデータロード

Elastic MapReduce

データ分析/整形

Data Pipeline

データ交換

RDS

Dynamo DB

Kinesis

Amazon S3

Page 41: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

データHUBストレージ

Amazon S3

AWS Identity and

Access Management

AWS

API/SDK

AWS CLI

Amazon S3

S3間コピー

アクセス

Page 42: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

アーカイブストレージ

• ファイルサーバストレージ

• バックアップストレージ

• アーカイブストレージ

• データHUBストレージ

• コンテンツ配信ストレージ

Page 43: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Amazon S3

サイト管理者

Amazon Cloud Front

静的ファイルアップロード

Webホスティング機能

EC2 動的ページ

コンテンツ配信ストレージ

Page 44: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

コンテンツ配信ストレージ

Amazon S3

コンテンツホルダー

AmazonCloud Front

アップロード

Elastic Transcoder

トランスコード スケーラブル&高速配信

Streaming(RTMP)

Streaming(HTTP)

Page 45: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

まとめ

Page 46: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.

まとめ

• AWSのストレージサービスを利用すれば、ハードウェアではなくデータ自体の管理や活用に注力できる

• 様々なストレージサービスが用意されているため、用途に応じて適切なものを利用することが重要

• 必要に応じてパートナー様の製品を上手に活用することで、さらに利便性や柔軟性が向上する

Page 47: AWSストレージ関連サービスの 実践的活用 ...€¦ · • SnapshotのデータはバックエンドでS3に保管され るため、S3のインタフェースから直接参照できない

©2015, Amazon Web Services, Inc. or its affiliates. All rights reserved.