PostgreSQL9.3新機能紹介

Copyright © 2013 NTT DATA Corporation

2013年7月6日 NTTデータ藤井雅雄

PostgreSQL9.3新機能紹介

オープンソースカンファレンス 2013 Okinawa

2 Copyright © 2013 NTT DATA Corporation

今日お話ししたいこと

PostgreSQLのこれまでと現在の話

PostgreSQLのこれから … 9.3の話

開発に役立つ新機能

運用に役立つ新機能

ちょっぴり注意！非互換性について

まとめ

Copyright © 2013 NTT DATA Corporation 3

PostgreSQLのこれまでと現在の話


PostgreSQLの歩み

PostgreSQL最新版は9.2.4(2013/4/4 リリース)

2005-2009

2010- 8系

9系

VACUUMとの戦い

運用性・性能アップ

レプリケーションの導入更なる拡張

基礎固め

7系 2000-2005

9.3

開発中


PostgreSQLの歩み～9系を振り返る

2011

2012

2013

9.0 9.1

9.2

同期レプリケーション UNLOGGED TABLE SQL/MED

スケーラビリティ向上カスケードレプリケーションインデックスオンリースキャン

2010

非同期レプリケーションホットスタンバイ SQL構文強化

8系 -2009

9.3

開発中



CPUスケーラビリティの向上

参照時の軽量ロックが改良され、参照処理性能が大幅にアップ！

メニーコアの環境で更なるパフォーマンスの発揮が期待されます

論理コア64以上では、9.1の実に3倍以上のスループットを実現！

どんとこい！

メニーコア

PgCon 2012 Robert Haas 発表資料 (2012/5/18) より


カスケードレプリケーション

シングルマスタ

マルチスタンバイマルチスタンバイ

複製複製

更新SQL参照SQL

参照SQL

参照SQL

シングルマスタ－マルチスタンバイのレプリケーション同期/非同期やカスケードレプリケーションなどが利用可能

スタンバイで参照SQLを実行して負荷分散

スタンバイからのバックアップを取得可能!

バックアップ

低負荷なスタンバイから取得!


PostgreSQLのこれから…9.3の話


PostgreSQL9.3のFAQ

Q1. 特徴は？

A1. “Ease of Use” by Robert Treat

開発者・運用者向けの新機能が充実！

Q2. いつ出るの？

A2. 9月ごろのリリースが予想されています！

7/6現在β2がリリース中


開発に役立つ新機能！


マテリアライズドビュー(マテビュー)

ID NAME

1 沖縄

2 新潟

…

ID NAME

1 沖縄

2 新潟

…

ID NAME

マテビュー

(普通の)ビューテーブル

SELECT *

FROM ビュー

SELECT *

FROM マテビュー

SELECT *

FROM テーブル

クエリの結果をビューにキャッシュできる！複雑で時間のかかるクエリのビューに対するアクセスが高速に

頻発するビューへのアクセスに効果

マテビュー作成時にキャッシュ！



ID NAME

1 沖縄

2 新潟

3 岐阜

…

ID NAME

マテビュー

(普通の)ビュー

SELECT *

FROM ビュー

SELECT *

FROM マテビュー

SELECT *

FROM テーブル

クエリの結果をビューにキャッシュできる！複雑で時間のかかるクエリのビューに対するアクセスが高速に

頻発するビューへのアクセスに効果

ID NAME

1 沖縄

2 新潟

3 岐阜

…

テーブル

REFRESH

元テーブルの更新はREFRESHコマンドでマテビューに反映



高度な機能はまだ9.3では利用できないことに注意

自動・定期リフレッシュ機能がない元テーブルの更新ごとに自動的にリフレッシュ、定期的にリフレッシュ

する機能がない

トリガやcronで代替

高速リフレッシュ機能がない元テーブルの更新差分だけをリフレッシュできない

リフレッシュ時に、マテビューに排他ロックが必要

元テーブルが頻繁に更新される場合や最新の結果が必要な場合は、マテビューの利用を慎重に要検討


更新可能ビュー

ID NAME

1 沖縄

2 新潟

…

ID NAME

1 沖縄

2 新潟

…

ID NAME

マテビュー

(普通の)ビューテーブル

INSERT UPDATE DELETE

ビューを更新できる！更新は自動的に元テーブルに反映商用DBのシノニムの代替に

単純でないクエリのビューは更新できないことに注意




JSON型の進化

JSONファイル

{ "id":1, "name":"鈴木", "address":"東京", "birth_day":"1970-01-01“ }

CREATE TABLE tbl (

data json);

key value

JSON形式のデータを格納するデータ型

バージョン9.2から利用可能

バージョン9.2では、行や配列をJSON形式に変換する関数だけサポート


JSON型の進化

JSON型の演算子や関数が充実！

利用可能な演算子の数が 0個(9.2) → 4個(9.3) に増加

JSON形式のデータ内から一部を取得するのが楽に！

利用可能な関数の数が 2個(9.2) → 12個(9.3) に増加

JSON形式のデータをKEYとVALUEの行形式に変換！

JSON形式のデータからKEYだけを取得！


FDW(Foreign Data Wrapper)

ID NAME

1 沖縄

2 新潟

…

ID NAME

1 沖縄

2 新潟

…

外部テーブル

テーブル

外部のデータをPostgreSQLのテーブルとして扱う機能

1,沖縄 2,新潟 …

CSVファイル

PostgreSQL

MySQL

read()

SELECT

SELECT

mysql_fdw

file_fdw



データベースファイル

mysql_fdw file_fdw (contrib)

oracle_fdw json_fdw

NoSQL その他

mongo_fdw twitter_fdw

redis_fdw s3_fdw

~9.2



データベースファイル

mysql_fdw file_fdw (contrib)

oracle_fdw json_fdw

postgres_fdw (contrib)

NoSQL その他

mongo_fdw twitter_fdw

redis_fdw s3_fdw

9.3


postgres_fdw

ID NAME

1 沖縄

2 新潟

…

ID NAME

1 沖縄

2 新潟

…

外部テーブル

テーブル

リモートのPostgreSQLのテーブルを、ローカルのPostgreSQLのテーブルとして扱える！

1,沖縄 2,新潟 …

CSVファイル

PostgreSQL

PostgreSQL

read()

SELECT

SELECT

postgres_fdw

file_fdw


書込可能FDW

ID NAME

1 沖縄

2 新潟

…

ID NAME

1 沖縄

2 新潟

…

外部テーブル

テーブル

外部テーブルを更新できる！更新は自動的に外部のデータに反映

1,沖縄 2,新潟 …

CSVファイル

PostgreSQL

PostgreSQL

read() write()

SELECT INSERT UPDATE DELETE

SELECT INSERT UPDATE DELETE postgres_fdw

file_fdw


運用に役立つ新機能！


高速フェイルオーバ

故障検知

共有ﾃﾞｨｽｸ切替

リカバリチェックポイント

共有ﾃﾞｨｽｸ

故障検知

ﾘｶﾊﾞﾘ

チェックポイント

故障検知

ﾘｶﾊﾞﾘ 9.3

~9.2

フェイルオーバ時間を大幅に短縮！実行に長時間かかるチェックポイントをスキップ


故障検知をすぐに

新しいタイムアウトパラメータ wal_receiver_timeout で

スタンバイはすぐにマスタ故障を検知！

(*) replication_timeout は wal_sender_timeout に改名

スタンバイ故障の検知 • tcp_keepalives_idle • tcp_keepalives_interval • tcp_keepalives_count • replication_timeout

マスタ故障の検知 • keepalives_idle • keepalives_interval • keepalives_count

マスタ故障

故障スタンバイ

9.2


故障検知をすぐに

新しいタイムアウトパラメータ wal_receiver_timeout で

スタンバイはすぐにマスタ故障を検知！

(*) replication_timeout は wal_sender_timeout に改名

スタンバイ故障の検知 • tcp_keepalives_idle • tcp_keepalives_interval • tcp_keepalives_count • replication_timeout • wal_sender_timeout マスタ故障の検知

• keepalives_idle • keepalives_interval • keepalives_count • wal_receiver_timeout

マスタ故障

故障スタンバイ

9.3


カスケードレプリケーションの運用性向上

マスタスタンバイ

スタンバイ

バックアップ

アーカイブ

カスケードレプリケーションのフェイルオーバ時にバックアップや共有アーカイブが不要に！

停止マスタスタンバイ



通常時

マスタ昇格直後

フェイルオーバ後

再開準備中

マスタ故障によりスタンバイがマスタに昇格

レプリケーション再開 9.2

面倒！大変！イケテナイ！




スタンバイ




通常時




楽チン！時間もかからない！

レプリケーション再開

9.3


ファイルシステム

DB CLOG WAL

ストレージやファイルシステムで破損検知

レイアウトが壊れていないかで破損検知

CRC 特別な機構で破損検知

DB

共有バッファ

~9.2

データページチェックサム

データページにチェックサムを付けて、ページの破損をすぐに検知！早急な破損検知が非常に重要

破損がクエリ結果の誤りやクラッシュを招く

破損がバックアップやスタンバイに伝搬して、永遠に復旧できない事態も

initdb -k (or --data-checksums)

性能への影響が大きいことに注意


ファイルシステム

DB CLOG WAL

CRC

DB

共有バッファ

チェックサム

チェックサム

チェックサムの付与・更新

ストレージやファイルシステムで破損検知

レイアウトが壊れていないかで破損検知

特別な機構で破損検知

9.3

チェックサムの妥当性確認

データページチェックサム

データページにチェックサムを付けて、ページの破損をすぐに検知！早急な破損検知が非常に重要

破損がクエリ結果の誤りやクラッシュを招く

破損がバックアップやスタンバイに伝搬して、永遠に復旧できない事態も

initdb -k (or --data-checksums)

性能への影響が大きいことに注意


イベントトリガ

DDLにトリガを仕掛けられる！ 9.2以前では、トリガを仕掛けられるのはINSERT/UPDATE/DELETE/TRUNCATEのみ

9.3以降では、CREATE/ALTER/DROPのDDLにトリガを定義可能。トリガ発動条件は、

ddl_command_start : DDL開始時

ddl_command_end : DDL終了時

sql_drop : DROPやALTER TABLE実行時。対象オブジェクトを指定可能

クレバーなDBA

空き領域 (小)

DDL開始時に空き領域を確認する

イベントトリガ

十分な空き領域がないのにDDLを実行して、ディスクフルになるのは勘弁してほしい・・・

そうだ！！

DDL開始時にイベントトリガを仕掛けよう！オペレータ

ALTER TABLEしよう♪


パラレルpg_dump

テーブル1

テーブル2

テーブル3

ワーカー

バックアップ

ワーカー1

ワーカー2

テーブル1

テーブル2

テーブル3

pg_dump pg_restore –j 2 ~9.2

pg_dumpのパラレル実行で、バックアップ時間を大幅に短縮！メニーコアでテーブル数が多いときに力を発揮

トランザクション的に整合性のあるバックアップを取得できる

スタンバイでは実行できない

パラレル数+1の接続を使うことに注意


パラレルpg_dump

テーブル1

テーブル2

テーブル3

ワーカー1

ワーカー2

ワーカー3

マネージャ

バックアップ

ワーカー1

ワーカー2

テーブル1

テーブル2

テーブル3

pg_dump –j 3 pg_restore –j 2 9.3

pg_dumpのパラレル実行で、バックアップ時間を大幅に短縮！メニーコアでテーブル数が多いときに力を発揮

トランザクション的に整合性のあるバックアップを取得できる

スタンバイでは実行できない

パラレル数+1の接続を使うことに注意


pg_isready

DBサーバ

postmasterプロセスが存在するか？

pg_ctl status

リモート SQLの実行が成功するか？

"SELECT 1"

PostgreSQLの稼働状況をお手軽に確認できるクライアントツール

$ pg_isready -h <ホスト名> -p <ポート番号>

$ echo $? 0 : 正常応答 2 : 応答なし

1 : 接続拒否 3 : パラメータ不正

~9.2


pg_isready

DBサーバ


pg_ctl status

リモート SQLの実行が成功するか？

"SELECT 1"

pg_isready

PostgreSQLの稼働状況をお手軽に確認できるクライアントツール

$ pg_isready -h <ホスト名> -p <ポート番号>

$ echo $?

PostgreSQLに接続できるか？

9.3

0 : 正常応答 2 : 応答なし

1 : 接続拒否 3 : パラメータ不正


pg_isready

確認方法により、稼働状況の見え方が異なるため注意

pg_ctl status SQL実行 pg_isready

稼働状況の確認方法


SQLの実行が成功するか？

PostgreSQLに接続できるか？

正常稼働中稼働稼働稼働

停止後停止停止停止

起動中(リカバリ中) 稼働停止停止(拒否)

停止中稼働停止停止(拒否)

接続権限なし(*1) 稼働停止稼働

同時接続数フル稼働停止稼働

(*1) pg_hba.confで接続が許可されていない場合など


psql ¥watch

psqlでSQLの繰り返し実行が可能に！

$ watch -n 5 'psql -c "SELECT count(*) FROM pg_stat_activity"'

$ while true; do

psql -c "SELECT count(*) FROM pg_stat_activity"

sleep 5

done

PostgreSQLへの接続数を5秒間隔で確認したい！

~9.2


psql ¥watch

psqlでSQLの繰り返し実行が可能に！

$ watch -n 5 'psql -c "SELECT count(*) FROM pg_stat_activity"'

$ while true; do

psql -c "SELECT count(*) FROM pg_stat_activity"

sleep 5

done

$ psql

=# SELECT count(*) FROM pg_stat_activity;

=# ¥watch 5

PostgreSQLへの接続数を5秒間隔で確認したい！

直前に実行したSQLを繰り返し実行

9.3


ちょっぴり注意！非互換について

…………

0000000100000000000000FD

0000000100000000000000FE 000000010000000100000000

000000010000000100000001

…………

…………

0000000100000000000000FD

0000000100000000000000FE

0000000100000000000000FF 000000010000000100000000

000000010000000100000001

…………

WALファイル名/アーカイブファイル名の末尾に注意運用スクリプトなどで、WALファイル名やアーカイブファイル名をもとにファイ

ル取得や削除を制御している場合は、影響がないか確認しましょう！

~9.2 9.3


まとめ

Q1. PostgreSQL9.3の特徴は？

A1. “Ease of Use” by Robert Treat

開発者・運用者向けの新機能が充実！

Q2. PostgreSQL9.3はいつ出るの？

A2. 9月ごろのリリースが予想されています！





ご清聴ありがとうございました！！


1


1

付録



被参照

ID NAME

1 東京

2 大阪

3 沖縄

参照

ID NAME

1 東京

2 大阪

被参照

ID NAME

1 東京

2 京都

3 沖縄

参照

ID NAME

1 東京

2 (NULL)

~9.2 UPDATE 被参照 SET NAME=‘京都’ WHERE ID=2

被参照で更新した列のみがSET NULL/DEFAULTの対象

IDとNAME列で外部キー制約

外部キーのON UPDATE SET NULL/DEFAULTの挙動が変化

9.2以前では、更新列のみがSET NULL/DEFAULTの対象

9.3以降では、外部参照している列全体がSET NULL/DEFAULTの対象



外部キーのON UPDATE SET NULL/DEFAULTの挙動が変化

9.2以前では、更新列のみがSET NULL/DEFAULTの対象

9.3以降では、外部参照している列全体がSET NULL/DEFAULTの対象

被参照

ID NAME

1 東京

2 大阪

3 沖縄

参照

ID NAME

1 東京

2 大阪

被参照

ID NAME

1 東京

2 京都

3 沖縄

参照

ID NAME

1 東京

(NULL) (NULL)

UPDATE 被参照 SET NAME=‘京都’ WHERE ID=2

IDとNAME列で外部キー制約

外部参照している列全体がSET NULL/DEFAULTの対象

9.3




スタンバイ

バックアップ

アーカイブ





通常時



再開準備中


レプリケーション再開 9.2

面倒！大変！イケテナイ！

TLI=1 TLI=1 TLI=1

TLI=2 TLI=1

TLI=2 TLI=2


9.4でもアツい機能がゾクゾクと！

4

6


パラレルクエリ

パラレルpg_dumpなど、今パラレル化がアツい！

現状 1クエリは1プロセス(1コア)でしか処理できないため、CPU数を増やしても1クエリの性能は上がらない

目標パラレルクエリ(1クエリを複数プロセスでパラレルに処理して、性能向上させる機能)のサポート

開発の方向性パラレルクエリを実装するのは非常に難しいため、まずはパラレルソートやインデックス作成のパラレル化から徐々に取り組む


8 16 32 64

スル

ープ

ット

PostgreSQL9.2

PostgreSQL9.1

CPUコア数(論理)

更新性能のスケールアップ

更新時のトランザクションログ生成時のロックが改良され、更新処理性能が大幅にアップ！

9.3の実に3倍以上

のスループットを実現！

メニーコア

高速ディスク

任せろ！

64 32 16 8

v9.4

v9.3

※イメージ図


レプリケーション

レプリケーションの運用性向上


停止マスタ



停止マスタ

バックアップ

両系稼働

マスタ単独稼働

両系稼働

バックアップ転送

フェイルバック時にバックアップが不要に！

マスタ故障によりフェイルオーバ

旧マスタの再組込み (フェイルバック) 9.3

面倒！大変！時間かかりすぎ！



レプリケーションの運用性向上




両系稼働両系稼働

フェイルバック時にバックアップが不要に！

マスタ故障によりフェイルオーバ

旧マスタの再組込み (フェイルバック)

停止マスタ

マスタ単独稼働

9.4

楽チン！時間もかからない！


紹介しきれなかった9.3新機能


64bit API Large-Object

ラージオブジェクトの最大サイズが

2GB -> 4TBへ！

商用DBMSからの移行障壁が少しは下がる・・？

9.3 !

ラージオブジェクト～ 4TB

9.2 ..

余裕！つらい！


lock_timeout

ロック待機時間に応じてクエリをキャンセルできるようになりました。従来はstatement_timeoutでカバーしていました

• この方法では、ロック待機時間 + 実際の処理時間を考慮するため、厳密にはロック待機時間のキャンセルではありませんでした。

指定方法はパラメータ値の設定 SQL個別の指定時は、直前にSET文を指定すること！

SELECT * FROM tbl WHERE c1=xxx FOR UPDATE WAIT 10;

-- Previously “SET statement_timeout = 10000;” SET lock_timeout = 10000; SELECT * FROM tbl WHERE c1=xxx FOR UPDATE ;

Oracle

PostgreSQL


lock_timeout こぼれ話

実は、PostgreSQLの内部的なtimeout frameworkが大きく改善されており、ユーザ定義のTimeout処理を設けやすくなっています。コア開発時には要チェックです！ http://git.postgresql.org/gitweb/?p=postgresql.git;a=commitdiff;h=f34c68f0

9671c4566854c7e20e9253d4f335c0b0 src/include/utils/timeout.h をよく見ておきましょう! イベント(DEADLOCK_TIMEOUT、 STANDBY_TIMEOUTなど)ごとにTimeoutIDが定め

られました。ユーザ独自定義用に使えるIDもあります。(USER_TIMEOUT) RegisterTimeout(TimeoutId id, timeout_handler handler)で登録後は用意されたAPIとアクセサを使って制御します

http://git.postgresql.org/gitweb/?p=postgresql.git;a=commitdiff;h=f34c68f09671c4566854c7e20e9253d4f335c0b0




LATERAL サポート

副問い合わせやFROM句での関数利用が捗ります副問い合わせなどでは、副問い合わせ外の条件やテーブルなどは見

えません LATERALにより、そのスコープを外に広げることができます。

=# SELECT * FROM lt, (SELECT * FROM rt WHERE lt.c1 = rt.c1)s WHERE lt.c1 < 100; ERROR: subquery in FROM cannot refer to other relations of same query level

=# SELECT * FROM lt, LATERAL (SELECT * FROM rt WHERE lt.c1 = rt.c1)s WHERE lt.c1 < 100; c1 | c2 | c1 | c2 ----+----+----+---- ・・・・・ OK！

9.2まで

9.3から


COPY TO STDOUT/FROM STDIN PROGRAM FILTER

COPYコマンドの出力元/先にPROGRAMを指定できます！通常、COPYコマンドはファイルからロード、ファイルへアンロード

今回は標準入出力前にプログラムを指定可能に！

ロードデータの圧縮/解凍やクレンジングに一役買います

COPY tbl TO PROGRAM ‘ gzip > /tmp/dump.gz’;

Tbl gzip dump.gz

edit_tbl my_dump my_edit

COPY edit_tbl FROM PROGRAM ‘ my_edit /tmp/my_dump’;

処理前処理後

圧縮前圧縮後


付録の付録


JSON型がより使いやすく

JSON型用の演算子、関数が充実！ 9.2まではJSONの複雑な関数や演算子がなかった

演算子を使用してデータを取得できるようになりました。

演算子何ができる? 例

-> JSON型の配列に入っている値、オブジェクトを返す。

SELECT '[1,2,3]'::json -> 0; SELECT '{"a": 1, "b": 2, "c": 3}'::json -> 'b';

->> JSON型の配列に入っている値、オブジェクトをTEXT型として返す。

SELECT ‘[1,2,3]'::json ->> 0; SELECT '{"a": 1, "b": 2, "c": 3}'::json ->> 'b';

#> パスを使用してJSON型のオブジェクトを返す。

SELECT '{"a": 1, "b": 2, "c": [1,2,3]}'::json #> '{c, 0}';

#>> パスを使用してJSON型のオブジェクトをTEXT型として返す。

SELECT '{"a": 1, "b": 2, "c": [1,2,3]}'::json #> '{c, 0}';


JSON型がより使いやすく

関数何ができる?

to_json 引数の要素をJSON型として返す

json_array_length JSON配列のもっとも外側にある要素が何番目なのか返す

json_each JSON型のデータをkey(TEXT型)とvalue(JSON型)をペアとして返す

json_each_text JSON型のデータをkey(TEXT型)とvalue(TEXT型)をペアとして返す

json_extract_path pathで指定したJSONオブジェクト(keyとvalue)をJSON型として返す。

json_extract_path_text pathで指定したJSONオブジェクト(keyとvalue)をTEXT型として返す。

json_object_keys JSONオブジェクトのkeyを返す。

json_populate_record JSON型のvalueを任意のデータ型として返す。

json_populate_recordset 複数のJSON型のvalueを任意のデータ型として返す。

json_array_elements JSON配列をJSON型のセットとして返す。

JSON型用の演算子、関数が充実！ 9.2まではJSONの複雑な関数や演算子がなかった

演算子を使用してデータを取得できるようになりました。

関数の数も２個(9.2)→１２個(9.3)へ増加！


PostgreSQLの歩み～8系から

2011 2012

2013

9.0 9.1

9.2

同期レプリケーション UNLOGGED TABLE SQL/MED

カスケードレプリケーション IndexOnlyScan スケーラビリティ向上

2010

非同期レプリケーションホットスタンバイ SQL構文強化

8.0

Windows対応 PITR 機能テーブルスペース

2005

9.3

Viewの改良 postgresql_fdw Fast promote ..etc

開発中


8.4

Window関数・再帰クエリ VACUUM用メモリ自動管理他DBMS互換性向上

8.3

HOT: 更新性能向上 VACUUM自動化全文テキスト検索

2008

2009 8.2

pgcrypto hstore

2007 8.1 2009

autovacuum ロール

PostgreSQL9.3新機能紹介

Technology

Transcript of PostgreSQL9.3新機能紹介