mixiの大規模障害で思ったDBMSの接続について データベースコンサルタントのノウハウちょい見せ

Oracle RDBMSなどのオラクル製品や各種インフラ技術(OS、ストレージ、ネットワーク)といった話題を取り上げます。著者は小田圭二、「門外不出のOracle現場ワザ」、「絵で見てわかるOracleの仕組み」、「絵で見てわかるOS/ストレージ/ネットワーク」などの著作もあります

ホーム > スポンサー広告 > mixiの大規模障害で思ったDBMSの接続についてホーム > アーキテクチャ > mixiの大規模障害で思ったDBMSの接続について

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。
[ --/--/-- --:-- ] スポンサー広告 | トラックバック(-) | コメント(-)

mixiの大規模障害で思ったDBMSの接続について

先日、mixiで大規模障害が起こりました。
参考: http://twitter.com/nealsato の2010年8月13日あたり。

その内容を人から教えてもらっているときに、ふと「もっと大変なのはDBMSの接続だ」と思いました。

そこで、DBMSの接続について少し書いてみたいと思います。

●DBMSの接続が多いと何が起こる?

多くても少なくても関係ないのでは?と思うかもしれませんが、そうはいきません。多いとそれだけリソースを必要としますし、さらに障害時に弱くなります。たとえば、Oracleにおいて、最大3000という設定をしたとします。普段の同時接続ユーザが最大10だから。。。と見積もっていたとします。その場合、UNDOやtempやサーバープロセスのメモリや共有プールのメモリは、x 10で見積もっていませんか(もう少し余裕を持つでしょうか)? しかし、世の中には、一時的に限界を超える(もしくは一時的ハングする)という障害もあります。その場合、処理しきれず、3000のセッションが「処理中」になるかもしれません。そうなると x3000 のリソースが無いとエラーになったりします。怖いですよ。

どうしても、処理中や溜まっている数に比例するCPUコストがあるものです。これはソースコード上、溜まっているリクエストを走査する箇所等があるからです。これも曲者で、「処理中が少ないときはサクサク動くが、処理中が多くなるととたんに鈍くなる」ことがあります。一瞬でも処理が溜まると、キューが溜まり、延々と通常のパフォーマンスに戻れなくなる現象が起きることがあります。これも怖いです。

DDLや内部的なリカバリ、メンテナンス、ノード切り替え時なども、どうしてもロックをとって各種処理をする必要があり、処理中のものの数に比例して、時間が長くなりがちです。

なお、一般的に商用DBMSは、処理中が多くても、性能劣化が少なくなるよう、ロックの粒度を細かくしたり、スキャンしなくても済むようにリスト化したり、がんばっています。

●DBMSの接続は、「重い接続」だと思います。

方式設計において、大規模システムでDBMSの接続を減らそうとすると、うまくいかないことがあります。大規模システムでは、サーバー台数が多いため、どうしてもサーバー間の接続がメッシュ(n対n)になりがちです。DBサーバーも同様で、接続が増えてしまうのです。お勧めは、APとDBの接続は絞った(1対1とか)上で、APよりフロント側(ユーザー側)でこの接続のメッシュを実装する方法です。DBMSの接続より、httpの接続の方が軽いです。他の接続方式次第ですが、フロント側でうまくキューイングさせるのはお勧めです。

方式設計においては、重い接続、軽い接続、を見極めるのも1つのコツなのだと思います。

※注:重い接続というのは、私が勝手に呼んでいるだけです。リソースを多く必要とするので、そういうイメージから呼んでいます。

スポンサーサイト
[ 2010/08/15 21:52 ] アーキテクチャ | TB(0) | CM(0)
コメントの投稿













管理者にだけ表示を許可する
プロフィール

odakeiji

Author:odakeiji
小田圭二 日本オラクルのテクノロジーソリューションコンサルティング統括本部においてデータベースのコンサルタントをしている。今までのキャリアでは、社内教育部隊で、データベースやOS、ネットワークを教える経験を5年ほど積んだり、コンサル部門で主にDB(インフラ含む)のコンサルを10年程度経験した。また、コンサルタントとして、主に大規模ミッションクリティカルシステムを担当。社内では”火消し”とも呼ばれ、システムトラブルの火消しをいくつも担当していたこともある。
ポリシーは、「OracleもOS上で動くアプリケーションにすぎない。だから、OS、ストレージ、ネットワークを学ぶべき。アーキテクチャから考えろ」。
スキル面の興味は、アーキテクチャ、DBA、インフラ技術、教育、コンサル手法など。
本ブログのポリシーは「週に1回、DBAやインフラ担当者の役に立つ記事を書きたい」です(守れるだけ、守りたい・・・・)
なお、本ブログにおいて示されている見解は、私自身の見解であって、オラクルの見解を必ずしも反映したものではありません。ご了承ください。

私の主な著書の紹介です。もしよかったら、お役立てください。他にもオライリーなどがあります

●「絵で見てわかるOS/ストレージ/ネットワーク データベースはこう使っている」小田圭二 著
私のポリシーである”DBMSもOSの動くアプリケーションに過ぎない”に基づいて、OSとDBMSの関係、ストレージとDBMSの関係、ネットワークとDBMSの関係、を解説した珍しい書籍です。DBを学んでひと段落したら、DB使いもインフラ全体を意識しなければなりませんが、そのような人にお勧めです。企業ユーザー向けのIT本としては、2008年度翔泳社No1だとか(最後は出版社談)。

●「絵で見てわかるOracleの仕組み」 小田圭二 著
教育に携わる者としての私の思い「丸暗記するな。アーキテクチャを知るべき。絵で説明すべき」を具体化した、Oracleの入門書です。Oracle初心者向きですが、Oracleの基礎となる部分の動きを解説しているため、バージョンに依存せずに何年先でも使えます。逆に、本書の内容を理解せずに、ひたすら丸暗記すると応用力が身につきません。この本を読むだけで何かできるようになるわけではありませんが、アーキテクチャを身につけて、本当の技術力を身につける第一歩として欲しいと思っています。

●「44のアンチパターンに学ぶDBシステム」 小田圭二 著
本書は、企業のDBシステムの設計/構築から運用管理、プロジェクト管理までの各フェーズにおけるトラブル(失敗)事例について、アンチパターン(べからず集)とその回避策/防止策として解説するものです。チェックリストとして使っていただいても構いません。分かっていてもアンチパターンは避けられないことも多いものです(政治とか)。そういう方には、同じ仲間は多いのだなと再認識していただくための一服の清涼剤としていただければと思います。

●「門外不出のOracle現場ワザ」 小田圭二 他 著
一番最初に出た本です。結構とがった内容を扱っています。
・パフォーマンス分析の考え方(私の担当)
・性能テストや障害テストの仕方、設計の注意点(主に私が執筆)
・コストベースオプティマイザ(10gベース)のアーキテクチャ
・コネクションプーリング
最新のOracleの内容は含んでいませんが、今でも性能の考え方やオプティマイザの考え方は使えるはずです。オプティマイザをここまで解説している本を私は知りません。

●「続・門外不出のOracle現場ワザ」 小田圭二 他 著
「続」の名前の通り、次に出た本です。ちょっと尖り過ぎたかもしれません^^; でも本当に使う内容を選んだつもりです。一流になりたい・他の人と差をつけたい人にお勧めでしょうか。
・性能の良いSQLの書き方
・文字化けの仕組み
・障害(特に性能やハング)の分析・対応方法(私が執筆)
・障害をリアルタイムに分析・対処する方法(私が執筆)
・オプティマイザの使い方ノウハウ
・アップグレードのノウハウ

●「データベース」小田圭二 他 著
私にしては堅い本です。なんせ、共同執筆者が大御所の國友義久先生です。階層型DBMS、ネットワーク型DBMS、リレーショナル型DBMS、XMLDBMS、OO(オブジェクト指向)DBMS、DBMSの持つ機能、DBMSのセキュリティ、データベースの著作権、監査、モデリング、正規化といった内容を網羅しており、深い記述は無いものの、DB技術全体を抑えるのに向いている一冊です。ある程度技術力がついたエンジニアの方が、DB全体を振り返りたい(勉強したい)というときの最初の1冊としてお勧めです。



上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。