雑多なメモ帳: セミナー

Home » Posts filed under セミナー

第3回ペパボテックカンファレンスに参加してきたメモ #pbtech

in MogileFS, PHP, S3, セミナー - on 18:13

10年動き続けているブログサービスのエンドツーエンドを書いた記録

ペパボ技術部
http://www..shu-cream.com

電車で携帯忘れたときの知見と共有
プロダクトオーナーシップに関する社内勉強会をはじめました

なぜテストを書くに至ったか

NyAh
- プレイベーとクラウド基盤へ移設する
- JUGEM移設のPO的なポジション
JUGEMU
- 10周年
- PHP/MySQL/Ruby/Perl
- 15個のリポジトリ
- サーバのロールは18ロール
- porral
- JGセット（ユーザ毎のブログでWEBとDBの組み合わせ。39セット）
- バッチ
- 外部、内部連携用API
- 顧客管理、etc
JGセットの移設
- 数が多い
- ユーザ影響が大きい
- カスタマーサポートも巻き込む必要が

エンドツーエンドでテストやってしまおう

新規構築のリリース前にしようするチェックリスト
手動、目視の350
Trnip(Ruby/自然言語)
Capybara(バックエンド)
poltergeist(PhantomJS)
どうやってテストを書いたのか
キューカンバーをイメージすると良い
自然言語でテストで書く事に意味があると感じている
識別可能な名前をユーザ目線でつけれる、共通のワード
複数の処理にまとめて日本語で名前をつけれる
実例とテクニック
- ステージング、リリース前の本番環境に実行する
- DBに直接接続しない
- debug用のステップを作る(よくおちる時の切り分け)
- ステップを再利用できるようにする
- 無料ユーザで１日の投稿上限数が決まっている場合
- DBを直接触れないのでリセットできない
- 普段は実行せずタグで制御
- データのリセットは削除操作を繰り替えす
- evaluate_scriptでjavascript経由でデータを受け取れる

取り組みのまとめ

よかった点
- アプリケーションの動作をよく理解できる
- stepをうまく作れるとシナリオをどんどん足せるので気持ちいい
つらかった点
- javascriptを多用した記事エディタの難しさ
- phantomJS or capybara-webkit
全部テストいける？
- どうしようもない部分は手で実行する必要があるとわかった
- flashができない
日本語で書けるというので外側がキレイになる

MogileFSをバックエンドとしたPrivate S3の作り方

インフラ編

private Cloud(openstack)に移行中

主に画像、容量が大きい、各サービスが個別にもっている
- 例えば30days alubum 2008年リリース / 750TB / 22億
- 横断的なオブジェクトストレージが必要
計画メンテを除いたサービス断はなし
大規模運用で安定運用するのは甘くない。swiftは見送った
MogileFSは既存で使っていた
S3はコスト面で見送った。従量だけで月数百万
Baytと名付けた

ストレージサーバとフロントエンド

nginx + ngx_mruby
インターネット、インターナルからリクエストを受ける
apiにproxy
apiだけでは出来ないあれこれ

api

rails, unicorn
その前に既存システムの安定稼働(負荷が増える/パターンも変わる)を
メトリクスの充実化、可視化(munin/kibana/big query)
storageサーバの高集積化（47でバイス, 170TB, dev/starまである）
DB(MySQL)サーバのリプレース
- 2台から3台
- 5.1->5.5
- MHA #### mogilefsdクラスタの強化
- スペックアップと台数強化

mogilefsdがスケールしない

マスタープロセスとワーカを増やすpreforkモデル
子がすくないうちは大丈夫
増やすと全体的に不全状態に
renice -20 -p 親（プロセスの優先度を最大に）
- 改善！
- ただし、副作用が
- 子が-20になる・・・
- cronで親子のnice値の面倒をみることで解決
DBが刺さる問題
- 5.5以降デッドロックが
- 負荷がじりじり上がる
- MHAマネージャからの
- 元々使われてなかったindexが使われるようになった
- drop

既存の画像配信の品質向上

30%ほど高速化（資料参照）

gateway

実URLへのreproxy処理
x-reproxyヘッダに実態のURLを２つ入れて返す
Gatewayが実態のあるURLに取りに行く
apiへproxy / ヘッダみて再プロキシ(re-proxy)
APIが返したヘッダとクライアントに返すようにしないといけない
APIに届かなかった場合のエラードキュメント(bodyだけでなくstatus codeも)
ngnx + mruby
- server: bayt
- リクエストUUIDの発行
- HMAC認証をskipさせるヘッダを付与
- ngx_mrubyのオーバーヘッドはほぼ無い
- 太らない。活発な開発。劇的改善。

既存データのインポート方法

S3互換なのでクライアントの実装はそのまま使える
ETag(md5値)保存用のカラム追加
path(object key)カラムのサイズを255->512へ
約9億レコードのテーブルへのALTERで最長25時間

今後の予定

全サービス移行
マルチロケーション
動的画像リサイズ機能

API編

オブジェクト->ストレージのデータ
MIMEだったりmysqlのデータ
GET/PUT/POST/DELETE

API設計

新しくAPIを設計する？
- 設計するのいやだな・・・（時間に耐えうる設計の重さ）
- サーバサイド＋クライアントの実装。多種多様な言語
S3互換APIにしよう
- aws-sdk等OSSクライアントを利用可能
- HMAC認証等、再実装が煩雑なものが揃っている
API実装もいろいろ
- とはいえ、mogilefsをバックエンドとして流用できるものはさすがに
S3互換の制約
- S3 APIができる事だけ提供
- API自体の拡張は難しそう。SDKをいじるのはきつい
S3はREST APIのドキュメントが公開されている
さくらのオブジェクトストレージのリファレンスを先に読むとS3互換でよい

MogileFSクライアント、MySQLクライアント

HTTPのハンドリング
XMLのパース、HMAC認証
perl-catalyst APIの稼働実績がある
ペパボでperlの継続的開発ができるか
MogileFSクライアント
- perlが本家、rubyはunicornの作者製
- ラウンドロビン機能、高速に動く工夫の観点でrubyで

S3をリファレンス実装とするとバグレポートのやり取りが楽

HMAC認証はrubyに落とす
HTTPルーティングも作る。501 Not Imprementでちゃんと返すように。
metaテーブルを扱うのは１テーブルのみ
オブジェクトのCRUD
- CRUDを1コントローラ、1トランザクションとして作る
- S3仕様のレブポンスボディ(XML)

S3にディレクトリは無い。common prefixesです

list objectはLIKE検索とNOT LIKEと ">"で
rails-apiでダイエット
APIチューニング。XMLの生成がちと遅い
builder, nokogiri, oxで比較
oxが早い
GETはmogilefsのオーバーヘッドが乗るので遅い(100ms)程度

H2OとPHPの話

H2O
- HTTPを早速サポートしている
- デフォルトで高速 − まだ情報が少ない

高速でメモする余裕がなかった資料参照(?)

歴史あるwebサービスに携わって２年半の間に起きた事やった事

カラミーショップのエンジニア − 10年続くサービス − 対部分はPHP、railsでAPI、AngularJS

入社当時（2年半前）

Trac使ってた − レビューなし − SVN＋git-svn
deployはwebistrano
素のSQL
テストは特になし

GitHub Enterpriseを使うようになった

− 全社的に導入
− SVN＋git-svnからの脱却
− レビューするようになった
− 順番にレビュー当番。共通認識。
− PSRを意識するようになった

PHP-CS-Fixer
githubで?w=つけるとレビュー便利だよ
- javascriptの else if -> elseif

テストの導入

− E2Eテストが作られた
− RSpec + capybara
- ユニットテスト
- PHPUnit

composerが導入さられた

− ライブラリを探してバージョン管理
− deploy時にcomposerインストールする

ローカル環境が構築された

vagrant + puppet
今まではMaglica上でそれぞれ作ってた

Wheneverでcronの変更を自動化

crontabを管理してくれるGem
コードにcrontabの設定を落とし込む。もちろんレビューも。

MySQLバージョンアップ

4.0->5.1->5.6
Eloquent ORM(Larvelについてくる)
もう昔の素のSQLには戻れない

画像サーバをFTPからBaytへ

− BaytとはS3互換のストレージサーバ

尋常じゃない速度でドッグフードを食べる方法

sqaleというサービスの話
ruby on railsのアプリケーションを利用するためのプラットフォーム − ドッグフーディングとは − 自社の製品を自分たちで使ってより良くしていいくこと

− 良い所・便利なところが見えてくる
− 新機能が出たらすぐに自分の小さなアプリをデプロイ

ネットが切れたので途中・・・

今夜、インターネットの片隅で。〜ウェブサービス開発ちょっといい話〜

カラミーショップ − ショッピングカートを全部作り直す − エンジニアが４人 − いい話一覧を話す

ショッピングカート

− 住所入力が2個あるとかも意味がある
− デジタルコンテンツだったらいらないのに
− その人に最適な情報入力を出せばいいじゃん
− 指針が大事。作る
− 哲学フロー開発

やぷしぃおもしろきかく！網羅パーソン総選挙

− 銅鑼で投票
− conoha(VPS)
- PHP/MySQL/KVSなし
− Nginx -> H2O

PHPでできないことは実装をあきらめる（速度重視と実装コスパ） − 1200万投票 − PHP安定してるじゃん − DBが太ってストレージが溢れる − 自動化してAPI叩きまくる人

OS X アプリケーション開発普及活動

− Cocoa Programing
- 経験は1年、teitenをリリース
− WWDC2014に参加
− NextSTEP

資料参照の方が良さそう

仮想通貨自動トレード記 Part1 〜国内Bitcoin取引所で裁定取引したら儲かるの？〜

− JUGEMの開発している人
− もっと世の中に仮想通貨のすばらしさを広めたい
− Hubotとslack
− ２つの国内取引上の板の差を判断し約定させる
- bugで損した
− 改修してみた。またBugが。
− promise/async
- hubotの開発はcloud9
- slackは絵文字でわかりやすくしよう

YAPC::Asia Tokyoでベストトークを取る方法

− 2014のベストスピーカー
− トーク「したら楽しい」「自分の特になる」人は是非やるべし
− タイトル大事。すべてをかけよ。
− 前振り、対象者の想定、実際に話すトピック、予習できる何か、意気込み
− 話題になった勝ち、ではない
− 何人にリーチするか？
- あなたブランド

資料参照

パーフェクトPHP

posted with amazlet at 15.08.29

技術評論社 (2014-10-31)
売り上げランキング: 10,488

Amazon.co.jpで詳細を見る

The Tale of Plack - YAPC::Asia Tokyo 2010 YAPC::Asia Tokyo Talk Transcript Series

posted with amazlet at 15.08.29

(2014-09-13)
売り上げランキング: 111,502

Amazon.co.jpで詳細を見る

JANOG LT Night#1に参加してきたメモ

in カンファレンスNW, セミナー, ネットワーク, フルルート - on 18:08

インフラエンジニアのスキルパターンを作ってみた話 DMM佐々木さん

DMM 1,400万突破！→中の人が大変になる
デザインパターンの手法を用いて、現場の要望
パターンは形（かた）
KJ法で分類
パターンに名前をつけてリバイスする

パターンを抽出してわかったこととサンプル

技術的知識はそれほど必要なかった 3/43
- 知識を自分自身のものとする
- 基本的技術を正しく理解している
- 隣接分野の知識を持っている
コミュニケーション
- 大声出さない、怒らない
- 積極的な声かけ
- スルー力
リーダー
- 属人化を防ぐ
- 適切な権限委譲
良し資質、正しい姿勢、仕事をうまくやるためのノウハウ

作ってて面白かったこと

現場の問題がわかった
意外な才能を発掘

ECNのあるネットワーク

使ってない理由

TCPだし
帯域使ったもん勝ちな状況
ISPもやってない

現状

Alexaトップランクの56%がサポート済み
iOS9でデフォルトサポート
フィールドはECT/CE（DSCPの後。11で輻輳）
設定の仕方はPolicy-mapとrandam-detect

まとめ

youtube/Netfixでは効果あり

サーバ屋がガチネットワークやったらこんな感じになった

所属: ssmjp

Vyosは使いやすい
BGPってなんだ？
はじめてのJUNOS
知らない単語がやまもり出てくる
BGP Activeの罠
フローってなに？
BGPとかネットフローとかネット上に情報が少ない
あれ？サーバ屋のJANOG的なものないよね

Vagrantで試験ネットワーク構築してハマった話

コントロールの試験であれば仮想ルータが利用できる
仮想なら自動化したいよね
ネットワークアダプタ作るときにsudo実行してた→対処
共有フォルダも同様→対処
Vagrantfileで設定

トラッフィクの可視化

インシデントに気付く→内容把握→対策
キャプチャを引っ張ってきて統計と中身を可視化
ROODEの配合も見えた
TOP Nも見えた
水責めも見えた（ランダムクエリ発見）

NetOps Coding#1 開催のお知らせ

ネットワーク運用自動化の勉強会はじめます！
10/30＠ビッグローブ 19:00～21:00

参加登録は9月中旬以降

インフラ運用自動化の発表増えてきた
ネットワークは除く
技術的な壁、そして組織的な壁
プログラミングのハードルの高さ、機種とOSの公開のしづらさ、リスク、開発担当アサインのむずかしさ
知見の共有・モジュールの共同開発・事例

1000BASE-Tの次の一手

10G BASE-T はまだまだ高い
Cat6からだし、100mだとCat6e
NBASE-Tアライアンス 2.5G/5G
Interopラスベガスで今年ブースでデモ
Interop東京でCat5eで5Gbps出る事をデモ。Award取った。
Cisco/Intel/Marvel/FreeScale/Aruba/Rucksなど

Routign Resilience Manifestoって知ってる？

直訳：「ルーティングの正しさの維持に向けた声明」
.orgに情報あり
ルーティングセキュリティの話
A4で2ページくらいのお願い文章
経路フィルタなどを適用して、IRRの連絡先を保つなど基本動作
Anti-spoofing/WHOIS・IRRの最新保持など
日本語版を掲示します

うちもフルルートやめました

自社内Filter方式「bgp community no-advertise」
ASBRではフルルート

なんで自社内Filter？？
- origin asがトランジットASになる
- 思わぬASのトラフィック量変化に気づかない
- このprefixほしい！と思ったときの依頼が手間
- 網内の経路削っていたけど、増やすのが怖い

default + fll routeをもらう。主要な経路とdefaultは自社内に流す。
それならNetflowでもAS見えるよね
Flowspecとかの実装予定はルータの方がよさそう
FIBの更新待ちでBGP Update遅くならない？
Defaultが救ってくれるはず
ピアしているルータのトランジットが切れたら流用0です
BGP RIBには載せるけどFIBには載せない機能も。IOS SR/Juniper/Arista
2ホップ先で全力キャプチャ→Flow案

OpenSSHの認証処理の流れから見るCVE-20150-5600

好きなポート番号は22/tcp
CVE-20150-5600ってなに？
- パスワード入力回数がサーバの制限を迂回
キーボード対話認証ってなに？
- チャレンジ・レスポンス認証の1種類
- Linuxの場合はPAM一択
MAXAuthTriesはデフォルト6回
LoginGraceTimeは2分
認証処理はクライアントが主導権を握っている
ChallengeResponseAuthが有効だとPAM経由で有効に

CONBUの道具箱

ツールではなくリアル道具箱の話
-余談：面白いプレゼン/つまらないプレゼンでトラフィックが変わる
カーペット用のケーブルガイド
- マジックテープです。若干高い。なかなか売ってない。
しめしめ45（インシュロック・タイアップ・結束バンド）
- APをくくりつける（楽譜置きのようなもの？）
ホワイトボードシート
- 静電気なのでどこでも張り付く
ポストイットの印刷シール
- すぐはがれる
タグ付きのケーブルバンド
- マーカーバンド、マーカータイ、カラーエフ
ウォーキングメジャー

カンファレンスネットワークの物品借用心得

当たり前のことをあたり前にできてますか？
借りた時よりきれいに返そう
資料参照

あるtsudaリストの憂鬱

なぜtsudaり？
クライアント：ツイタマ（ハッシュタグを自動でつけられる）、KuroTwi
ゆかりんのーとにまとめていた。togetter
知り合いが増えた。助かりますという言葉も。
疲れる。その分野の専門の方には議論に参加して！私も頑張る。

sensuでネットワーク監視をやってみた

香川からきた
サーバだけでなくネットワーク監視
Nagiosの問題点を解決。Ruby製
監視クライアントの自動登録、JOSN形式の設定ファイル、スケールアウトが簡単
Go言語でプラグインを実装（高速、簡単デプロイ）
監視ツールはKibana
ダッシュボードは自動生成。Ansibleを使用（hico-horiuchi）
Sensu Deep talks #2 9/30 or 10/2
sensu-talks,connpass.com

JANOG37のお知らせ

1/20～1/22 日本特殊陶業市民会館＠名古屋
テーマ「みんなでつくるインターネット」
ベテランだけでなく初心者も積極的に
スタッフ募集は9月半ばから、会場運営・プログラム委員・企画編成委員

マスタリングTCP/IP OpenFlow編

posted with amazlet at 15.04.23

あきみち宮永直樹岩田淳
オーム社
売り上げランキング: 134,980

Amazon.co.jpで詳細を見る

OpenFlow徹底入門

posted with amazlet at 15.04.23

翔泳社 (2013-10-30)
売り上げランキング: 16,909

Amazon.co.jpで詳細を見る

Trema Day #7 に参加してきた

in docker, Openflow, trema, セミナー - on 18:27

http://trema.connpass.com/event/16844/

OpenFlow「で」おぼえるネットワーク

はじめに

対象
- ネットワークって何？って人にネットワークって何かを伝える
- ネットワークに詳しい人は自分が説明する時のために

ネットワークのキホンのキ

誰から誰宛に情報を伝えるもの(Src/Dst)
伝える方法と伝える媒体
音声もメディアを使うよね
共有メディアで考えよう
- ある人が喋るとみんなに聞こえる(flooding)
- ある人が喋っていると他の人が喋れない(半二重)
- 一緒にみんなが喋る(コリジョン)
- 遠くの人に喋る（増幅）
- 別の部屋にも伝達（L3）

デモ

Tremaではなくmininetで（笑）
資料参照(http://www.slideshare.net/stereocat55/tremaday7)
１本のワイヤで糸電話モデル
mininet> xterm h3

今後ネタ

もっと同時に喋れる人を増やそう。共有メディアを狭めて同時に喋れる人を増やそう。

-> ブリッジ
誰がどこにいるか把握して直接くっつけてP2Pに
-> スイッチ
ARP TableはknownとしてARP Request + Unicastコントロールルールを考えてみる
learning switch
会話モデルで考えるNetwork Layer

ついにリリース! ニューTremaの紹介

ニューTremaの5つのポイント

Openflow 1.3.4対応
- trema run my_controller_rb --openflow13 -c my.conf
- パケットライブラリ trema/pio参照
Ruby化
- 旧TremaはCをRubyでラップ
- Ruby化で50,000行が5,000行くらいになった
- インストールが簡単に。gccとかいらなくなった。openvswitchだけ準備でOK。
- debugが楽に。Rubyのデバッガーだけでいい！
- Pryでデバックしてみよう(demo)
コントローラー連携
- 既存コントローラーを組み合わせ高機能なコントローラーをつくる
- 機能を拡張する
- trema/routing_switch , Path Manager + trema/topology
- def_delegators
- VLAN的な動きはSliceable SwitchはPath Managerに機能を継承してあがればできる
テスト
- outputとして標準出力にログを吐く(Cucumber)
ドキュメント
- Project:Pio
- APIドキュメントは整っている。
- 本も出るよ。原稿は近日中に公開。

(嬉しい)バグ報告・パッチPR・本のレビュー

OVS拡張を援用して簡単なOpenFlow Programming(とPioの話)

trema/pio紹介

Pioとは？

Rubyのパケットパーサ実装
使い易い、分かり易い
1.0だけでなく1.3.2も実装されている

こんな感じ

openflow
- Pio::FlowMod.new
- Pio::ICMP::Request.new
- Pio::Udp.new
- Pio::SendOutPort.new
features_reply.ports
- stateが人の目でみて扱い易い

Nicira拡張

Nicira拡張とは？

vender拡張
NXAST_LEARNが有名

openflowのキツいところ

controllerに転送処理を書く
controllerって
- 宣言的な転送ルールを事前定義できればいいのに
- BUMを例外として扱うべきか
packet_inはさせるな的な風潮
例外になる転送処理（一部）
- MAC Learning
- ARP Respond
- Routing & Egress interface lookup
- BUM
NXM_NX_REG(idx)
- Packet register fields
- pipelineフィールドでpacket_inのmatchフィールドにも入る
LOAD_REG / MOVE_REG / OUTPUT_RGE
NXAST_LEARN フロー追加するアクション

作ってみる

learning-switch -> mac_learning(table=0)
isolated learning-switch -> ingress port(table=0), ingress vid(table=1), mac-filter(table=2), unicat-l2(table=3), bum-handling(table=4)
中身は小さすぎて見えなった・・・。
基本的にエッジで使うものと考えた方が良い。ARP__RESPONDERはBUM対策で便利。

いろいろなデバイスでOpenVNetを動かしてみようとした

tremaが使われているネットワークかそうかプロダクトOpenVNetとオーバーレイの話
Raspberry PiでTremaに挑戦した話

Edge Overlayのおさらい

図で説明
openstack neutornと親和性が高い/同じ方向性のものが覇権争い

Open VNetとは

あくしゅさんが作ってる
trema-edgeを使って作られています
hypervisorの横にtremaベースのagent

作ってみた

最先端(?)の某端末で試験
OVS / trema / open vnet
デモ(見ないとわからない)

Dive into wireless openflow!

なんか繋がらない
なんか不安定
なんか遅い
無線のパケットを観測できるツールが必要
APに入ってれば・・・
openflow 1.3 + experimenter
IEEE802.11 / 6LoWPAN
デモ
- 電波強度
- AP
- AP切り替え
openflow対応方法
- netdev = openflow port
- cfg80211系ドライバ
- 物理インタフェースにnetdevを複数作れる
- ARPHRD_RADIOTAP

Lagopusで遊ぶ(仮)

はじめに

Tremaで試すFirewallいいよね
- ACLしんどい
- シュミレーション、ACL自動テスト
openflow1.0ではL4ポートのrangeが使えない

Lagopasで試すFirewall

rangeどうする？
- range -> bitmask変換のアルゴリズム
- 0111 ~ 1111を再起的にマップを処理して{011*,1***}へ
TCP/UDPのポートどうする
- 1.3.2ならmetadataコピーすればいいじゃん
- maskでlookupできるし
- 26万ルール・・・
- Lagopasは100万を超えるフローを処理
実装どうする
- table0 : L4 srcをmetadataにコピー
- table1 : L4 dstをmetadataにコピー
- table2 : range変換。マッチしたら落とす。
ルールの追加/削除が動的にできる(priorityを考える必要あり)
iptablesより早いかも
Lagopusならなんとかしてくれるはず

近頃のDockerネットワーク

Dockerとは(略)

Software Infrastructure Plumbing

libnetwork

コンテナネットワークモデル
endpoint(veth)をsandbox(コンテナ)につけたり外したり
起動 -> libnetwork driverがdocker0作成・NAT設定 -> Linux kernel
libnetwork driver(bridge / host / null / overlay / windows)
中身があるのはbridgeとoverlayくらい
overlay driver
- 1.8-experimental buildからdocker networkコマンドが追加
- libkv(consul/zookeeper/etcd等と連携)がnetwork名やIPを共有
- linux bridgeでbroadcast落としてる
- デモ
VLANドライバ作ってみた
- vlanidごとにbrを作成。bridgeドライバ流用できそう
- デモ

コンテナをネットワーク

docker on cumulus linux
制約を考えると、、RunC！
open container projextに準拠されたコンテナ管理ツール。Goでコンパイル。
デモ

質問

VNIは直書きできない？例えば箱物とかと組める？出口はgatewayの`コンテナ`を作るべし。
VXLANはmulticast / unicastのどちら？
ホワイトボックスにコンテナ入れるのは嬉しい？

クラウド時代のネットワーク技術 OpenFlow実践入門 (Software Design plus)

posted with amazlet at 15.08.08

高宮安仁鈴木一哉
技術評論社 (2013-01-09)
売り上げランキング: 93,728

Amazon.co.jpで詳細を見る

次世代ネットワーク制御技術 OpenFlow入門

posted with amazlet at 15.08.08

石井秀治大山裕泰河合栄治
アスキー・メディアワークス
売り上げランキング: 600,388

Amazon.co.jpで詳細を見る

マスタリングTCP/IP OpenFlow編

posted with amazlet at 15.08.08

あきみち宮永直樹岩田淳
オーム社
売り上げランキング: 305,938

Amazon.co.jpで詳細を見る

OpenStack最新情報セミナー(2015年4月)のメモ

in docker, nfv, Openflow, OpenStack, SDN, セミナー - on 20:31

セミナー名：「OpenStack最新情報セミナー『OpenStack再入門』＆『NFV/OPNFVとは何か？』」
日時：2015年4月28日(火) 昼の部 14時00分〜18時00分（受付13時30分より）
日時：2015年4月28日(火) 夜の部 18時30分〜20時30分（受付18時00分より）

http://virtualtech.jp/release/150427/

今さら聞けない人のためのDocker超入門

省略

OpenStackネットワーク入門

History of Neutron

2010 Nova -> L2/DHCP
2011 Quantum -> L3/L2/DHCP/FloatingIP/Security Group
2013 Neutron -> + LBasS/FWaaS/VPNaaS/DVR/L3HA

Nova Network(Flat DHCP Manager)

Linux Bridgeを複数VLAN分用意する
Routing NAT

Quantum

Network Node(DHCP/外部接続/Metadata) / Compute(L2 Agent) / Controller
DHCP / Metadata Agent

Neutron

ML2 Plugin
- Type Driver(GRE/VXLAN/FLAT)
- Mechanism Driver(OpenvSwitch/LinuxBridge/Cisco)
XaaS Agent

Neutronでユーザができること

仮想ネットワーク(L2)の作成
仮想L3ルータの作成
ネットワークとルータの接続
ルータと外部ネットワークの接続
FloatingIP
VMのポートに対してSecurityGroupを作成し適用する

Neutron環境のパケットフロー

図を見た方がよい

Network Namespace

command

ip netns
ip netns exec qrouter-*** ip link
ip netns exec qrouter-*** netstat -nr

パケットフロー

図を見た方がよい

DVR(Distribute Virtual Router)

NeutronのL3 AgentをCompute上で動作させて分散する
パケットフローは図を見た方がよい
Floating IP は Floating IP用のNamespaceを通る
現行ではSNATはNetwork NodeにあるSNAT namespaceを通る

OVS Network Node HA deployment

VRRP (Active/Standby)のみ対応

その他

Metadata Proxy/Agent <-> Nova Network
DHCPのNamespaceで取ってくることも可能

SDN

Brocade(Vyatta / VDX ..etc)
Cisco Nexus
Juniper Opencontrail
IBMSDN-VE
Midonet + Cumulus

Midonet

Midonet Agentは全体のtopologyを見てinbound時にすぐdropする
first packetの転送後はactionを記憶する
first packetの遅延はそういうこと
Provider Router / Tenant Routerなどの説明(割愛)
BGPでの冗長の説明(割愛)
midonetはBPDU透過

Recap

Overlay vs Underlay
Intelligence at Edgeの話
Network Stackの表がわかりやすい

OpenStack+Lagopusのご紹介

キャリアグレードの性能が必要
10Gbpsワイヤーレート
Openflow 1.3.4対応(MPLS, PBB)
1M フロールール
DPDK対応
dataplaneとI/O処理 Flow処理はスレッドを分離
lagopusのVM接続はこれからユースケースが出てくる
VM対応においてはLagopus以外のVMのI/Oをどうするかが課題
KVMベースのVMとして使用できるように
Intel DPDK <-> virtoio ユーザ空間で閉じるようにした
Unix domain socketを使って接続相手の状態検出

NFV/OPNFV概要

アーキテクチャ

VIマネージャにOpenstack/OpenDaylight/Controllerがあたる
別途、VNFマネージャ、オーケストレーター

OPNFV

NFVIとVIマネージャを構築

エンジニアとしての注目ポイント

資料に記載ありのため割愛

HPのOpenNFV戦略とMWCのレポート

資料参照

IETFの標準化動向とNFVのユースケース

サービスプロバイダはAggredateルータで付加価値をつけたい
お客様ごとに設定や機器が必要
LB/FWなど

NFVで実現できそうなもの

ファンクションの割り当てをルール化
サービスのスケールアウト ...etc

OPNFV詳細編

活動方針

Phase1が終わっている
OPNFVの中にコードは持たない
各コンポーネント内に実装する

プロジェクトの説明

資料参照
テクニカルな話はなかった

マスタリングTCP/IP OpenFlow編

posted with amazlet at 15.04.23

あきみち宮永直樹岩田淳
オーム社
売り上げランキング: 134,980

Amazon.co.jpで詳細を見る

OpenFlow徹底入門

posted with amazlet at 15.04.23

翔泳社 (2013-10-30)
売り上げランキング: 16,909

Amazon.co.jpで詳細を見る

Docker Meetup Tokyo #4に参加(視聴)したメモ（後半）

in docker, セミナー - on 19:27

前半はこちら
■Docker Meetup Tokyo #4に参加(視聴)したメモ（前半）

感想

途切れ途切れなことが多く少し抜けがあります。資料がアップされたら復習したいです。監視については話をあまり聞かなかったので、もっと賑わってくれればいいと思ったところです。

Docker Meetup Tokyo#4 概要

■ Docker Meetup Tokyo #4
http://connpass.com/event/10318/

17:25-18:05 LT (5min) x 8
- Development and Deployment with Docker at Dwango
- Google Container Engineについて
- DatadogさんのLT
- 共用スパコンシステム上でデータ解析 with Docker
- TBD
- Docker/ECSでIAMロールを利用する
- GitのコミットごとにQA環境を作成するプロキシを作ってみた
- tutumで雑に包んで雑にデプロイ

LT大会

Development and Deployment with Docker at Dwango

ニコニコのRecommendation API
コードレビュー/UnitTestは参照づらい。
実際のテスト環境を簡単に作りたい
pull req出したらdockerでテスト環境をデプロイしてほしい
Jenkins Pull Request Builder
「pull request/時刻」でコンテナ生成
git pullした時にbuildするrake taskを裏で実行
Deploy Manager WebUI
ログ収集はfluentd + 専用コンテナ
Deploy Manager WebUI(capistranoでStatic)

Google Container Engineについて

GKE (kubernetesの商用版)
- サポート
- microservice間の接続
fluentd + kubernetes
UI新しくなった
sample: wordpress構築

Datadog

Dockerがトラブった時にコンテナの状況が把握できているか？
Docker User Cases
- 依存関係を排除したい
- github workflow
- statelessな部品を使う
コンテナを載せるインスタンスサイズ
- m3.midiumが多い(?)
- ちっちゃなワーカープロセスをがんがん回している
- 1つのdockerホストに5つ平均
- 調査した環境内では最高で12個くらいだった
まだ導入は初期段階、いづれ増えていって平均10くらいになるのでは？
監視を考えてdocker使おう
Dockerメトリクス cgroup or cAdviser
リソース：Memory / CPU / Network / IO
イベント：run & stopped
自作派：cAdvisor / InfluxDB / Grafana
企業：sFlow / DataDog

共用スパコンシステム上でデータ解析 with Docker

データの性質が変わるのに追随
ソフトウェアとワークフローを柔軟に変更したい
既存のリソースを有効化(User管理・占有し続けたものの削除がしたい)
0から作るのは嫌なので今日の聞いた話で作るつもり

DockerAPIをGoから使う

docker remote api
kurbernetesが使っているGoのクライアントライブラリ
デモ
コンテナの起動/停止/リストなど色々いじれるので自作派には嬉しい

Docker/ECSでIAMロールを利用する

Dockerコンテナのクレデンシャル設計（ブログ）
APIのtoken keyをどこにおくか
- Dockerイメージに埋め込む
- 環境変数(docker run -env)
- クラウドサービスならクレデンシャルが外出しできる

課題

dockerコンテナとインスタンスで区別できない
docker単位の制御ができない

対策

MetaServerの自前実装(Qiita)
できた。MetaServer側でログを確認

今後の課題

自前MetaServer自体をコンテナ化
コンテナごとにロールを管理したい

Mookさん GitのコミットごとにQA環境を作成するプロキシを作ってみた（仮

Dockerを使った爆速プレビュープロキシ
サブドメインにコミットハッシュやブランチ名を入れる
Qiitaにvagrantでの使い方がある
レビュー時にURLを貼るbot付き
仕組み
- コミットに対応したコンテナがあるか
- なければリポジトリからソースを取得してdockerfileを元にデプロイ
- ビルド中はクライアントにログを残す
ホスティング版のβを2月に予定している

tutumで雑に包んで雑にデプロイ

tutumuとは？
- docker as a serviceのプロバイダ
- Open Betaで無料
- IasSのノードに対して、投下的にコンテナをデプロイできる
- AWS,GKE,DigitalOcean,さくらVPS,ConoHa,オンプレなノードにも対応
- 簡易的な監視、プライベートレジストリを無料で使える
なんでtutumu?
- ダッシュボードがシンプルで使い易い
- 特定のIaaSに縛られたくない
Dashbord -> Create Service -> image選択

Docker入門 Immutable Infrastructureを実現する

posted with amazlet at 15.02.04

技術評論社 (2014-04-25)
売り上げランキング: 2,162

Amazon.co.jpで詳細を見る

Software Design (ソフトウェアデザイン) 2014年 12月号 [雑誌]

posted with amazlet at 15.02.04

技術評論社 (2014-11-18)

Amazon.co.jpで詳細を見る

Docker Meetup Tokyo #4に参加(視聴)したメモ（前半）

in docker, セミナー - on 18:00

感想

Dockerをサービスで使う際にオーケストレーションとかDockerだけで足りない部分はどうするの？というところについて皆さん検討しているようです。CoreOSなのかKubernetesなのかECSなのか、これからどうなるか気になります。

Docker Meetup Tokyo#4 概要

■ Docker Meetup Tokyo #4
http://connpass.com/event/10318/

13:55-15:10 Talk (25min) x 3
- @deeeetさん CoreOSの基礎/CoreOSに期待すること
- @y_uuk1さん WebアプリケーションにおけるDockerパフォーマンスチューニング
- @shot6さん Amazon EC2 Container Service(ECS)
15:30-17:10 Talk (25min) x 4
@yuguiさん Kubernetesの機能とデモ、開発体制について
@ten_forwardさん cgroupによるリソース隔離入門
@yuryuさん RedHat atomic hostの話
@spesnovaさん Docker at Wantedly

(続く)

後半のLT×8は以下からどうぞ
Docker Meetup Tokyo #4に参加(視聴)したメモ（後半）

CoreOSの基礎/CoreOSに期待すること

PaaSサービスで使用

docker/CoreOS

Dockerが与えてくれないもの

オーケストレーション
サービスデリバリー
スケジューリング
死活監視
ホスト環境/ツールの統一

CoreOSについて

datacenter as a computer

CoreOSで使われている技術

etcd
- 分散キーバリューストアクラスタの基盤
- サービスの設定値の保存
- CLI: set / get、APIもある
fleet
- Dockerコンテナのスケジューリングとデプロイ(最適な)
- コンテナ状態の監視・フェイルオーバー
- 各ホストのsystemdを束ねる存在、クラスタ
- systemdのunitファイルの拡張版(X-Fleet)
- 「MAchine Metadata」でmetadataを元にコンテナをデプロイ
cloud-config
- coreOSを初期化したりカスタマイズするためのファイル
- 起動サービス、ユーザ、アップデート、metadataなどをymlで書く

CoreOSが解決すること

オーケストレーション
- etcdにコンテナの情報を保存してサブスクライブする別のコンテナを準備
サービスデリバリー
- fleet list init
スケジューリング
- fleetでできそう
死活監視
- fleetが最低限みてる
ホスト環境/ツールの統一
- cloud-configをprod/devと同じものを使う
- (参考)Playstationの動画がいい

CoreOSの運用

CoreOSはOpenstackでもEC2でもdigital-oceanでも動くよ
複数プラットフォームまたぐのを推奨
Auto Scale(webサーバ増やしてLBに追加)のデモ
- etcdのディスカバリーサービス
- IP/Portをetcdへ登録
- LBはconfdを使ってetcdの情報+テンプレートを元に設定を動的に生成
TeraHome + CoreOS
Minimal RAMの使用量は114MB
CoreOSはどこまでMinimalにできるか
パッケージマネジャーもない
OS Update
- OSアップデートは書き込み不可なRootFSを丸ごと入れ替える
- ロールバック簡単
- アプリケーションはdockerの入れ替え
- 設定値 etcd

WebアプリケーションにおけるDockerパフォーマンスチューニング

Docker Egine上でアプリケーションを動かして性能劣化しないの？
Docker Demon / クラウドのマネージサービス

1. Dockerのパフォーマンスにおいて重要なのはなに？

Linuxカーネルの名前空間機能
LXC Linux Containersのフロントエンド
Linux Containers Overhead
- 単体のLinuxカーネルで完結するので効率いい
- パケット受信してkernel割り込みからユーザランドまでの2重処理がない
Docker Filesystem

UNION Filesystem

差分管理とかいいよね
Writeは最上層へ書き込み、Read IOは探して層をもぐる
Copy On Write
Linuxカーネル標準のdevice mapperでも

Device Mapper

ブロックデバイスへのIOに暗号化、ストライプ、ミラーなどが可能
特定のファイルシステムに依存しない

Volume

コンテナ間でディレクトリーを共有
Dockerグローバルな領域
Union FS部分を通らないのでオーバーヘッドが少ない
docker run -v /var/lib/mysql mysql
- Docker Network

Portmapper(Goのパッケージ名から拝借)

ホスト側のiptablesでNAT
iptablesがない環境はdocker-proxyがユーザランドで動く

Host Networking

コンテナ用のNetwork Namespaceを使う
iptablesは不要/Portはホスト側のものを使用
docker run -net=host mysql
LXC1.0 or exec-driver=native

2.Docker化したISUCONでベンチマーク

ISUCON(Iikanjini Speed Contest)
ベンチマーカー -> Nginx -> App(+memcached) -> DB
m3.xlarge / Ubuntu 14.04 LTS Kernel 3.18.0 / Docker 1.4.1
初期で38446で予選突破レベル

ベンチマーク環境
- NginxとMySQLをそれぞれDocker化
- Nginxだけ(-net=host/-net=bridge)
- MySQL(devicemapper/overlayfs/volume ON/OFF)

Nginxはbridgeを使った方がパフォーマンス落ちる（NATのため）
Nginxにパケットが集約するのでNAPTするオーバーヘッドが高い
MySQLはvolume切っても以外と早い。ReadI/Oはメモリ、Writeは最上層。
defaultと変わらない

NAPTの高速化

デフォルトのipatablesに「!-d 127.0.0.0/8」があった。つまりdocker-proxy使っている。
ベンチマークのソースをいじったらdefaultに合った

Amazon EC2 Container Service(ECS)

コンテナのマネージメント(今はpreview)
オーケストレーションやクラスタ
pure docker / vpcとかautoscaleとかも
limited previewでUSのみ

ECSの仕組み

Container Instance

EC2(VPC) / Docker / ECS agent
Amazon Linux / 他ECS agentが動けば
ECS Agentとは
- Apacheオープンソース
- go
- Docker Hubにも登録されている

Cluster

リソースプール
リージョンに閉じている

Task

関係するコンテナの集合
Container Instance上で稼働
Jsonで記述
- 今までのAWSライクに使える(Security Group/VPC/MultiAZ)
- パブリック・プライベートレポジトリ使える
- ECS Command Line Tool

Clusterを作成
- ARN(Amazon Resource Name)
EC2をContainer Instance として起動
- CoreOSも使える
- ブートストラップでECSの設定を書き込む
- IAM profileでecsをつけておく

1と2をコマンドで用意しておけばOK

taskの走らせ方
- ECSのスケジューラー
- 手動

Kubernetesの機能とデモ、開発体制について

コンテナ渡すだけで動いてくれるDockerってすばらしい
だけど他の発表者と同様にオーケストレーションなど足りてないとろこはまだある
LB / デプロイ時のポート競合 / リソース / レプリなど自動がやってほしい
kubernetes(ギリシャ語)がやってくれる
- Google主導
- オープンソース*
Service / ReplicationController / Pod
Pod ≠ Container
Podは同じインスタンスで走らせるようにしたいコンテナの集まり
Podの定義はymlかjsonで書く
Client -> API -> etcd <- Controller Manager -> scheduler -> etcd -> Instance
etcdが中央にありそれを各コンポーネントがwatchして自分のtaskに関連するものを拾って制御をするイメージ（図があったので後日資料参照がオススメ）
Minion(インスタンス)でkubrenetdが動いている
Networking
- 基本はiptables
- kube proxyというアンバサダーがいる(etcdも見ている)
- 一つのインスタンス内でポート衝突する可能性があるものも動く

まとめ

開発は結構Active
技術的にはオープンなものを選択(ex:Fluentd/kibana)
Well designed by Google

その他

Namespaces -> multitenat
internal DNS
Master as a Service(まだシングルなので)

cgroupによるリソース隔離入門

Cgroupについて

Namespaceとは？
- OS/カーネルリソースを隔離
Cgroupとは？
- コンピュータが持つ物理リソースを隔離
Cgroupとは
- プロセスをグループ化
- Cgroup内のプロセスに対してまとめてリソース隔離
- tasksというファイルにpidを記入 / 稼働中に動的に変更

dockerでの使い方

dockerでの使い方
- docker runのオプションかjsonファイル
cgroupから直接でも
- dockerコンテナのcgroupの場所を見つけて直接書く
systemd配下で動いている場合
- ユニットファイルにcgroupの設定を書いて起動
- パラメータがまだまだ少ない

Docker on RedHat & Project Atomic入門

RHELとCentOSってどう違うの？

communityの主体の違い
リリースもメンテナンスの期間も違う
Fedora -> RHEL -> CentOS

RHELとDocker

RHELへの移植
systemd統合
SELinux対応
kubeの開発も参加
RHEL7で正式サポート(Extras)
頻繁にrebase/リリースされるのでミッションクリティカル非推奨＆サポート限定的(RHEL7.1から制限なくなる予定)
コンテナの互換性（サポートの観点）
- x86_64のみ
- RHEL6/7のコンテナのみ
コンテナの互換性（その他）
- /procや/sysに依存するアプリケーションに注意
- A kernel chenge breaks GlusterFS
- firewalldをdisableにすること

Project Atomic

コンテナのためのホスト
CentOS Atomic HostとRHEL Atomic Hostはベースが違う
- CentOSをベースにRHEL Atomic Hostの変更をマージ
似てるもの
- Ubuntu CoreはホストOSじゃない
- CoreOSは良く似ている(CoreOSは一から/Atomicはベースがある)
RHELとAtomicの違い
- yumがない
- docker/etcd/kubernetesが標準で入る
- cloud-init / cockpitも標準
リソース消費量の比較
- CoreOS 46MB / Atomic Host 144MB
http://buildlogs.centos.org/rolling/7/iso/x86_64/
- qcow2
- metadata / cloud-init
vagrantで作ったよ（非公式）
- vagrant init yuryu/centos-atomic
- id:centosm password:vagrant
- 20141129版を元に作っている

Docker at Wantedly

最初はherokuを使っていた
東京リージョンがないからパフォーマンスが・・・
AWS + Docker

色々試した

Elastic beanstalk
Centurion
Chef with Docker

これにした

Capistrano3
Chef
Packer

Ubuntu / Private Registry(S3)
dockerレジストリは認証回避と可用性のため全ホストに配備
Capistrano3でスタティックオーケストレーション
- デプロイ
- コンテナの操作
- ホストの操作(scale)
デプロイ
- Dockerfileでビルド
- WebはNginxで新旧コンテナ切り替え
ChefとPacker
- dockerのホストのAMI
- 過去のレシピを再利用
Datadogでモニタリング
- 何時何分にどのインスタンスでコンテナが立ち上がったか
Logentries gemでログ収集
Chef+PackerでなくDockerfileでビルド使用
- ツールの観点
- キャッシュがほしい
でもDockerfileで書くのはツライ
- そういうアプリは、おそらくコンテナに向かない
- そもそもDockerは小さいアプリをのっける向けと感じた
「シンプルさを保つための制約を受け入れる」
Dockerホストは軽量にしよう
- AMI焼いてdocker pullで結構大変
- ホストに色々入れると単純に管理台数倍増する
herokuから学んだ事
- on-offコンテナという使い方
- 設定を環境変数で渡す
- コンテナを載せる基盤に必要なもの
その他
- 1コンテナ1プロセス
- ログはstdout/stderrへ
- モニタリング・ログ収集は専用コンテナでホストに入れると・・・
- Private Registryはオススメしない(早いが不安定な経験)
- capistranoは台数増えると遅い

後半のLT×8は以下からどうぞ
Docker Meetup Tokyo #4に参加(視聴)したメモ（後半）

Docker入門 Immutable Infrastructureを実現する

posted with amazlet at 15.02.04

技術評論社 (2014-04-25)
売り上げランキング: 2,162

Amazon.co.jpで詳細を見る

Software Design (ソフトウェアデザイン) 2014年 12月号 [雑誌]

posted with amazlet at 15.02.04

技術評論社 (2014-11-18)

Amazon.co.jpで詳細を見る

道玄坂LT祭りに参加してきた

in aurora, presto, REHL7, セミナー - on 22:44

前半だけしかも途中参加ですが少しだけ参加してきましたのでメモです。

■ 道玄坂LT祭り(ミドル・インフラ)
https://atnd.org/events/59894

「ミドルやインフラもカジュアルに語りたい」ということでLT祭りでした。

さくっとわかるAurora

クラウド用に再設計したリレーショナルデータベース
MySQL 5.6.1.0ベース
US East Limited Preview
RDBとストレージ部分が明確に分離
キャッシュの層は独自
ログストレージは独自実装
複数AZをまたいで共有型
S3への高速差分バックアップ
AZは3つ全部使う
RDSとの違い。実行容量が課金対象。
キャッシュがMySQLでなく独自で抱えているので、リカバリも高速
最大レプリカは15個まで（RDSは5個）
レプリカラグは約10〜20msec
キャッシュのヒットRatioも見れる。取れるメトリックスが増えた。

Presto＋MySQLで分散SQL

workerがconnector pluginを経由してデータストアをつつく
connector pluginはいろいろ使える（Hive・MySQL・PostgreSQLなど）
connector pluginは複数合わせ技で使える
demo:prest+MySQL+HiveでJoin
prestogres query -> presto -> Hive/MySQL
presto meetup 1/20

RHEL/CentOS 7 に移行しよう！

OSメジャーバージョンアップは宿命
新機能XFS/GRUB2/Network Manager/firewalld/OpenLMIなど
systemdを覚えないとREHL7は使えない？→serviceコマンドも使えるよ
徐々に新機能を使おう（無理して使わなくて良い）
- XFS->ext4
- systemd,journald->OK
- GRUB2->調べながらつかう
- ifconfigなど互換パッケージ使おう
- NW,FW->Disable
- OpenLMI->使わなくても支障なし
- 大量の更新されたパッケージ->コンテナをうまく使おう。違うOSバージョンの混在が可能。
むしろ性能向上に目を向けよう
- スケジューリングよくなった
- bonding強化
- 電力利用効率向上
- 40GbE
- bondingの強化などなど

その他の勉強会参加エントリーです。

日本OpenStackユーザ会(Neutron deep dive)に参加してきた - ぽぽぽぽーんのネットワークとOSS

第20回の日本OpenStackユーザ会(Neutron deep dive)に参加してきた際のメモです。当日取ったメモなので荒いです。日本仮想化技術さんのセミナーにも参加しました。 OpenStack最新情報セミナー＠渋谷に参加してきた | komei.com 12/1 Openstackユーザ会 19:00～ …

Jenkinsユーザ・カンファレンス2015東京に参加してきた | ぽぽぽぽーんのNWとOSS

2014/12/04＠日本仮想化技術のOpenstack最新情報セミナーに参加しました。Ustreamでの参加だったので少し途切れている部分があるかもしれません。

日本Jenkinsユーザ会主催のJenkinsユーザ・カンファレンス2015東京に参加してきましたので、そのメモです。登録人数は723人でした。400人くらい来てた(運営談)

サーバ/インフラ徹底攻略 (WEB+DB PRESS plus)

posted with amazlet at 15.02.04

伊藤直也片山暁雄平山毅舟崎健治吉荒祐一今井雄太八木橋徹平安川健太宮下剛輔田中慎司久保達彦道井俊介飯田祐基桑野章弘松浦隼人中村俊之福永亘杉山仁則
技術評論社
売り上げランキング: 10,164

Amazon.co.jpで詳細を見る

サーバ/インフラエンジニア養成読本ログ収集~可視化編 [現場主導のデータ分析環境を構築!] (Software Design plus)

posted with amazlet at 15.02.04

鈴木健太吉田健太郎大谷純道井俊介
技術評論社
売り上げランキング: 12,879

Amazon.co.jpで詳細を見る

Jenkinsユーザ・カンファレンス2015東京に参加してきた

in docker, jenkins, セミナー - on 17:02

< 概要 >

日時 2015/01/11 (日)
場所法政大学市ヶ谷キャンパス外濠校舎
セッション/LT

http://build-shokunin.org/juc2015/

< タイムテーブル >

12:10~13:00 基調講演
- Jenkinsプロジェクトの現状とワークフロー
13:30~14:20
- 組み込み環境でのJenkinsによる多段階CIシステムask the speaker(川口耕介)
- はてなにおける継続的デプロイメントの現状とDockerの導入
- JenkinsとSeleniumの活用事例：試験自動化のプロジェクトへの導入
14:30~15:20
- JenkinsとPuppet+ServerspecでインフラCI
- クックパッドにおけるJenkinsの活用
- Jenkinsを使ったコンシューマゲームでのデプロイとテスト
15:40~16:30
- 「Infrastructure as a CodeにおけるJenkinsの役割」〜環境構築も継続的インテグレーションを行う時代です〜
- Jenkins導入する本当の理由を考えてみた
- おばかXFDコンテスト
16:30~17:20 LT大会

基調講演 Jenkinsプロジェクトの現状とワークフロー

参加できず・・・

情報募集中

13:30~14:20 はてなにおける継続的デプロイメントの現状とDockerの導入

< Agenda >

はてなのサービス開発とJenkins
ジャンプルーキーの開発フローとJenkins
Dockerコンテナによる環境開発とJenkins

1. はてなのサービス開発とJenkins

利用しているサービスについて

ブックマーク・ブログなど
- Perlで書かれている。そのためコンパイルは不要。
- テストの実行や静的ファイル生成、デプロイなどでJenkinsを活用
Mackerel
- サーバ管理サービス
- Scaraで書かれている
- 過去のプレゼン資料がsperkerdockに上がっている

Jenkinsの活用方法について

各サービスとjenkins
- サービスごとにJenkinsを準備
- あるサービス用の変更による別のサービスのテストが動かなくなる
- 関係者が少ない方がメンテしやすい
なんのためのJenkins??
- ソフトウェア進化を継続するため
- 意識しなくてもテストが実行される環境
- 面倒な手順の自動化
特にテスト
- 開発は各自のマシンで
- 本番に近い環境でのテストの実行と自動化のためにJenkins
Jenkins自体の管理
- Chefで環境構築
- プロダクトの本番サーバも同じ
Jenkins使用の方針
- Jenkinsの設定を複雑にしない（秘伝のタレ問題）
- シェルスクリプトをリポジトリに入れてJenkinsから誰でも実行できるように
スマホアプリとJenkins
- AndroidはGradleが標準になり、ビルドとテストがしやすくなった
- Android emulater pluginを使用

2. ジャンプルーキーの開発フローとJenkins

少年ジャンプルーキーって？

2014年リリース
漫画投稿サービス
250万ダウンロード

開発規模と環境

開発・運用：はてな
-　ディレクター１人、デザイナ１人
-　エンジニア数名（開発・運用）
-　最近のはてなでの開発・運用を踏襲／改善
サーバサイド
- perl
- mysql
- redis
フロント
- htmlは生
- TypeScript -> JS -> minified JS(ビルドプロセスが必要（開発者の手元＋Jenkins))
- LESS -> CSS(ビルドプロセスが必要（開発者の手元＋Jenkins))
ビルドツールやデプロイツール
ビルドツール
- gulp(Node.jp)
- TS -> JSやLESS -> CSS
- JSテスト実行
- 静的ファイルにダイジェストハッシュ付与デプロイツール
- デプロイ：Capistrano3(Ruby)
- Github Enterprise

開発プロセス

開発に用いるツール
- 日記+Wiki
- Slack
- Trello
- Github Enterprise
- Jenkins
開発プロセス
- スクラム、2週間①スクリプト
- リリースは毎週。とはいえ常に最新をリリースできるようにはしておく。
ブランチモデル
- GitFlowに近い
- master / staging /devel / features
- 基本はdevelブランチから切る。緊急リリースはmaterからブランチを切る
- Pull Requestはとりあえず開発中でも上げておく(議論のため)

開発時のJenkins

Jenkinsでやっていること
- pushされるごとにライブラリ更新、JS minify
- pushされるごとにテストとを実行
- 動作確認のために開発用ホスト(doceker)にデプロイ
- Github Plugin + script/jenkins.sh
- GH;Eの通知はシェルスクリプト内
課題
- slackとGH;Eだけなので弱い？->XFD?
- GH;Eへの通知がビルド処理の中にある

その他

開発が完了したらコードレビュー(develブランチ)
- Pull Requestに残す
- レビュアにとってテスト結果がGH;Eで通ったかが確認できるのは楽
デプロイ
- 本番リリース用のpull requestを作成(devel -> staging -> prod)
- リリースチェックリストをpull request
今後
- Jenkins Workflow Plugin（scripted control flow、ユーザのインタラクション機能もある）を検討

3. Dockerコンテナによる環境開発とJenkins

背景と利用環境

開発した機能の確認が遅れると困る
- 無駄な手戻り
- 開発スピードの低下
- 特にUI/UX
目的
- 開発中の機能(develブランチにマージする前)の動作やUIを手軽に確認したい
Devhostは誰のため？
- 開発者以外のチームメンバー
- 社外のメンバー（ドメインを用意する必要性）
既存の方法
- 1ホストに複数環境をデプロイ
- Nginxでドメイン別にポート番号ごとに振り分け
- ポート管理が手間、ライブラリが共有・・・
DockerによるDevhost
- Proxy用Plackアプリケーション+DockerAPIでポート番号を解決
- ゲストは80番で待ち受け
- ブランチからイメージをビルドする際にタグを付けておき、ドメイン名からブランチ名を取得->APIを叩いて対応するタグのポート番号を取得

やっていること

課題と対策
- dockerイメージのビルドに時間がかかる
- Dockerイメージのビルドにキャッシュが効く（プロジェクト全体をコピーする前に初期化スクリプトを実行しておく）
Jenkins上でのビルドとデプロイ
- Jenkins上でdocker build、docker rm -f(同じブランチのコンテナを止める)、docker run
- 実際のコマンドはrakeタスクにしてある
- タグを認識して変換する必要がある
- ビルド開始方法は現在手動(ブランチ名はビルドパラメータで受け渡し)
なぜJenkinsでビルドするのか
- 同じ環境でビルド処理を行わせたい
今後
- develブランチの手動でプロ胃
- pull requestとの関連付けの強めたい（コメントから作成、マージ後に自動破棄）
その他
- faviconで確認環境と他の環境を視覚的に変える

質疑応答

dockerでコンテナを作った時のテストデータはどうしているのか？
- ->データベースは一つを共有。スキーマ変更もやっている。
Pull Request時に何をテストしているのか？
- ->マージ後のものをJenkinsで実行はしていない

14:30~15:20 クックパッドにおけるJenkinsの活用

はじめに

宣伝：クックパッドのプレミアム会員になろう。レシピ意外にもサービス色々あるよ。

Ruby 2.0 + Ruby on Rails 4.1
Amazon Web Service

難しい事はしていないので、シンプルに説明をしていく

クックパッドでのJenkinsの使用環境

※ jenkinsではなく「おむきんす」を使用している

マスタースレーブ構成
- Puppet / Itamae(独自:Lightweightなchefを目指す)
- クラウドとオンプレミス(MAC OS/IOS環境のビルドなど)管理
- ラベルでノードを管理
ci-slave-ruby
- AWS上で6ノード、夜間は2ノードに縮退
- rbenvを使用
- テストはrspec
ci-slave-docker
- microserviceを進めている背景
- Go + Docker Engine用のCI環境
- ビルド・テスト・レジストリ登録
- GitHub Enterpriseを使用
ci-slave-android/ios
- オフィスのサーバルーム
- Androidは実機、Xcodeのバージョン管理で苦慮

なぜCIをしているのか？

< ユーザの要求を手元に届けるまでのサイクルを圧倒的なスピードで回したい >

CIで守れる価値
1. 意図しない変更を予防
2. 再現可能で自動化されている
3. リソースや情報を集約できる

意図しない変更を予防

意図しない変更が起きた時に開発者がすぐ取り組む文化が必要。

CIツールの速度改善への取り組み
- マルチプロセス化 -> 分散化 -> rrrspec(開発者ブログ参照)
通知について
- Failしたらhipchatへ通知する
- その通知時にmentionも使っている
- 誰がどこを失敗させたのか
- HipChat Pluginではなくjenkins-hipchat-publisher（独自）を使用している。失敗時のメンションと成功ビルドを通知しない機能
偽陽性を避ける
- 時間に依存するもの
- 組み合わせに依存するもの
- 性能に依存するもの
偽陽性があると・・・
- エラーを気にしなくなってしまう
- 本物のエラーを見逃してしまう
偽陽性への対処
- 最後に成功したビルドを夜間に繰り返し実行してみる
- 翌月初にシステム時間を変更して実行してみる
- 失敗したテストを再実行してみる

再現可能で自動化されている

CIでの自動化
- テストの自動化
- アセットの生成と管理
１日あたり10デプロイくらい
デプロイはhubot経由で

リソースや情報を集約できる

アセットの生成と管理
- コンパイルはrrrspecで実施している
静的解析
記録と可視化
- GrowthForecastでsuccess rateなどを管理

質疑応答

デプロイが１日１０回というのはどの範囲？
- -> 全社でフロントだけでなくバッチなども含む

15:40~16:30「Infrastructure as a CodeにおけるJenkinsの役割」〜環境構築も継続的インテグレーションを行う時代です〜

< Agenda >

サーバ構築フローとJenkinsの役割
サーバ構築の実践例とCI環境

サーバ構築フローとJenkinsの役割

女性向け恋愛ソーシャルゲームの開発
- 9コンテンツ／40サイトを自社運用
- イベントなどで急増するアクセス
- chefまわりは以前の発表がある。「slideshare autoscale ゲーム」で検索
構成管理ツールだけに頼ってた時の課題
- コードの複雑化
- Cookbook同士が疎結合になってない / 自動化できないので漏れ発生
- 実行結果を追跡しづらい
Provisioning Toolchainでサーバ構築を概念化
- Bootstrapping
- Configuration
- Orchestration

各レイヤーでやっていること

Bootstrapping
- OSインストールとサーバ起動
Configuration
- ミドルウェアの設定
- サーバの役割に基づいた設定
Orchestartion
- GlusterFSのClusterに追加
- zabbix-agentの起動
- jeninsからソースコードデプロイ
Releasalization (独自)
- 外部サービスとの連携
- LBへの追加など
- 変なサーバを本番環境に入れないようにする

Jenkinsの役割

ソースコードのデプロイ管理
ユニットテスト
サーバ構築の全体管理(new)

構築管理の変化

chefのRoleをJenkinsにパラメータとして渡しJOBの条件分岐
Build Flow Pluginを使用して可視化

サーバ構築の実践例とCI環境

各レイヤーについて

configration
- chef-soloを使っている。jenkinsからknife soloを打つ。
- jenkinsでGUI化できて楽になった
- chef実行結果のログを集約
- jenkins + serf(Go言語製オーケストレーションツール)
- serf はnodeでやりたい処理を実行
- jenkinsはイベント検知(serf join)とビルド
orachestation
- configuration -> orchestrationの橋渡しもserf(+tag)
- serfのtagはRoleをjson形式で要約
- serf queryで成功/失敗の判断と処理中断
- SSHが必要ない
Releasalization
- orchestationの内容をテスト
- 問題なければLBに追加して本番に入るようにしている
- serverspec

課題と改善策

chefのテストが簡単に行えない問題
- まっさらな状態がすぐ作りたい
- serverspecですぐテストしたい
改善策
- dcoker + chef zero
- jenkins pullrequest builder plugin
- feature = role名
- chef repoをmount

冗長化
- serfで通知
- jenkins起動
- EIP変更
- heartbeatなどは使用していない。100台のclusterで2秒(?)

Jenkinsでやってみた結果

JenkinsでChefの役割をシンプルにできた
ビルドの使い方次第でレイヤーが明確化される
JOBのログが残る/可視化
Build Flowを途中で止められる/不完全なものを本番に入れない

質疑応答

Auto Scaleは全体でどのくらい時間かかる？
- 前は20分くらいかかってた。AWSはAMIにほとんど仕込んでいるので最新のコードを引っ張ってくるのみで５分くらい。
Jenkinsの冗長構成のデータ同期は？
- GlusterFSはうまくいかなかった。Lsyncdを検討。今は同じ設定にしている。
今後やりたいことは？
- Autoscaleをもっと早くしたい

16:30~17:20 LT大会

1. Jenkinsを使った継続的Webセキュリティテスト

セキュリティテスト(脆弱性)
継続的なセキュリティテストを実施すべき
vaddy
- 無料プランのみ、何度でも
- SQLインジェクション、XSS
- Jenkinsプラグイン提供中
MeetUp 2/19(木) 新宿(doorkeeper)

2. Jenkinsおじさん、お堅いメガバンクに就職

配布ソフト(有償)が参照するレポジトリにプッシュしている
知識がない人でも簡単に作業が出来るようになった

3. Jenkinsおじさんと楽しい連携ツールたち

slackでビルド結果の通知を行う
- Emojiで少し工夫
Gitlab
- MergeRequestでmasterにマージする前にビルド、静的解析、テスト
- GitLab MergeRequest Builder Plugin
deploygate
- iOS/Androidアプリのテスト版アプリの配信
- gradle-deploygate-plugin(proxy使えるようになった)

4. ゲーム業界の人がJenkinsさん3Dモデルで遊んでみた

3Dロゴが出た
3D空間に出してみたのデモ
実際の画面でみないとわからないでのメモ断念。高級感溢れるおじさん。増えるおじさん。爆発するおじさん。REST API経由で赤く光るJenkinsおじさん。

5. CI”じゃない方”のJenkins

パッチ処理
- 結果の履歴残る
- cronより柔軟
- ssh/scpも不要
多システムの連携
- APIあればコントロールできる
負荷テストツール
- インスタンス + jmeter

秘蔵のシェルスクリプトをJenkins登録して表に出そう。

プルリクとかGitHub Flowから勉強したい人はこちらから。

GitHubでPull Requestを使わないのはもったいないと思ったので簡単な使い方をメモしておく - ぽぽぽぽーんのネットワークとOSS

GitHubでチーム開発なんて考えだすと、commitやpushだけではレビューをする時にもどかしさを感じることがあるかと思います。 GitHubやGitコマンドは使ったことあるけど、Pull Requestは使ったことない。という人向けに簡単に使い方をメモしておきます。 GitHubの基本的な使い方から学びたい場合は…

Jenkins実践入門　～ビルド・テスト・デプロイを自動化する技術 (WEB+DB PRESS plus)

posted with amazlet at 15.02.04

佐藤聖規和田貴久河村雅人米沢弘樹山岸啓
技術評論社
売り上げランキング: 32,766

Amazon.co.jpで詳細を見る

チーム開発実践入門 ~共同作業を円滑に行うツール・メソッド (WEB+DB PRESS plus)

posted with amazlet at 15.02.04

池田尚史藤倉和明井上史彰
技術評論社
売り上げランキング: 5,606

Amazon.co.jpで詳細を見る

ネットワークプログラマビリティ勉強会#2@六本木に参加してきた

in docker, OpenStack, セミナー, ネットワークプログラマビリティ - on 21:14

ネットワークプログラマビリティ勉強会 2回目

ネットワークプログラマビリティ勉強会 2回目に参加した際のメモです。

12/16
19:00-19:05 はじめに
19:05-20:00 結局、OpenStackとは何なのか？
20:15-21:00 Docker入門: コンテナ型仮想化技術の仕組みと使い方

http://network-programmability.connpass.com/event/10338/

結局、OpenStackとは何なのか？ユーザ会中嶋氏

今回は、OpenStackって何？という入門の話です。

■自己紹介

日本OpenStackユーザ会長
@IT OpenStack超入門

■日本OpenStacckユーザ会とは

日本は世界で最も活発なコミュニティの一つ

22団体
約1800名
メーリングリスト
ローカライズ、翻訳

■OpenStackの概要

概要

OSSで開発されるCloudOS
IaaSからPaaS
Juno→Kilo
コンポーネント紹介（図）
機能で分割したマイクロコード構造
Pythonで実装

ネットワーク例

Linux Bridge/OVSを使った場合のネットワーク例の紹介（Virtual/Physical）
操作イメージ（Neutron API/SDK）

■エコシステム

どんな人が何のために使っているの？

当初、RackspaceがAWSに対抗するために始めたもの

Phase1 IaaS基盤
- PublicをターゲットにしたIaaS基盤を作りたい
- 研究開発に大規模なリソースを使いたい
Phase2 サービス基盤
- 標準化による効率化を目的として、自社サービス基盤として採用
- 現在、最も活発に活用されている領域
Phase3 クラウドネイティブ
- フルプログラマビリティな世界

事例に関して

公式サイトのユーザストーリーに事例が多数あり
Marketplaceでも登録したユーザを多数確認可能
BMW
BestBuyなど

ディズニーの話。

Good/Cheap/Fast→Fast/Fast/Fastへの転換。

■よくある質問

一般的なk草加ソフトウェアとどう違うの？
どんなメリットがあるの？
非IT企業で使うメリットは？
ミッションクリティカルなところは・・・

→回答略

■OpenStackって何なのか？

横に見るのではなく

個別の技術要素（コンポーネント）をそれぞれ見ても・・・

縦に見る

人での作業から解放する

抽象化と標準化を進めてくれる

抽象化と標準化を良しとする

当然、HyperVでもVMWareでもKVMでも
細かい機能を細かく使うのではない
結果、完全な自動化を実現していこう

■まとめ

とりあえず触ってみる(BMWがそうだった)
OpenStack Days 2015 2/3-4
OpenStack Summit 2015/OctはTokyo

■質問

規模が大きく開発チームが必要なイメージがあるがどうか？
→ 規模が大きいと大変。ただし小規模からスタートして行くことが大事である。
OpenStackを意識して開発しておくべきか
→ PublicからPrivateに持っていくのもAPIに準拠していれば簡単です。逆も簡単です。
IaaSからPaaSまでのPaaSってどのあたりまで？HerokuだとGitとの連携などあるけど。
→ プロジェクトが増えてきている。今回紹介したのはコアコンポーネントでPaaSでいうとHeat/Sahara/Troveあたり。
エッジオーバーレイの話はNeutronのAPIを持っているものが多いが、ネットワーク系のデファクトはNeutornになってきている？
→ NFVはOpenStackに近づいてきている。そんな印象を受けます。
NovaとNeutronが連携してサーバ/NWのプロビジョニングはKVMだけという話を聞いたが、他の事例は？
→ HyperVは7から盛り上がっている。VMは楽天が使っている。
→ VMだとNSX使わない場合、裏で作り込みが必要と聞いたが？
→ KVMが一番実績がある

Openstackはリソースを調達するとこまで、アプリケーションの管理はDockerという流れもある。

Docker入門: コンテナ型仮想化技術の仕組みと使い方 Cisco TAC伊藤氏

Docker入門: コンテナ型仮想化技術の仕組みと使い方 from Yuichi Ito

Dockerの基礎です。

Dockerって何？
なぜNEがDocker？
基本的な使い方と応用例
次回あれば：Dockerとその足回りと実運用

■自己紹介

Cisco TAC
Docker仕事ではなく個人利用
最近作ったサービスとして「ゆくも」を紹介
「ゆくも」の裏ではDockerが動いている

■Dockerの概要

Dockerって何？

Linuxで利用される仮想化技術です
コンテナと呼ばれる仮想化技術を使う

コンテナ型って何？

OSの一部のみを仮想化
LinuxのKernelの機能でリソースを分離
JVMとJarに近い
実際はnamespacesやcgroupsをまとめている

Infrastructure as a Code

サーバのイメージがCodeとして扱われる
Codeをコンテナとしてイメージ化
コンテナ切り替えが容易

Dockerの強み

OS on OSではないのでオーバーヘッドが少ない
- Linpackを使った演算性能測定でNativeとパフォーマンスが近い結果が
「コード」でインフラの構成を管理

なぜNetwork EngineerがなぜDockerをやるか

ネットワーク機器への接続を意識する
Ambassadorパターン
コンテナがネットワーク機器の内部で使われる可能性があるよね
トラフィックジェネレータとしてのDocker

■Dockerの使い方のデモ

Dockerのコンポーネント

Docker Client:Daemonに対して命令を与える
Docker Daemon:コンテナを実際に動かす
Docker Repository:イメージを保存

Dockerの状態遷移

running
paused
stopped
image
removed

Dockerのイメージ取扱い

docker run
docker build
docker commit
docker push
docker pull
docker rmi
import

Docker Demo

まずはdocker searchコマンドでイメージを探す
docker pullでイメージを取ってくる
docker imageで確認
docker run ubuntu:14.04 echo “hello docker”で応答を確認
docker run ubuntu:14.04 cat /etc/issue でOSも確認
docker run ubuntu:14.04 cat uname -a とするとカーネルは同じに見える
docker run -t -i ubuntu:14.04 /bin/bash でシェルに入る(tty/interactive)
新しいコンテナを立ち上げると別のコンテナでの操作は見えない
docker run -d -p 80:5000 コンテナ名で外と中をマッピングして導通確認
docker ps で状態確認 -aで停止中のコンテナも表示
docker stop / start の紹介
docker commitでイメージ化（IDを指定）
docker pushでレポジトリへ追加する
docker fileからイメージを作成。Scriptファイルのようなもの。docker buildで実行。

■Dockerのネットワーク

Dockerのネットワーク構成

docker0 Bridgeにvethが接続されている。
vethの先にコンテナのeth0が接続
eth0は不定のIPが割り当てられる
物理NICでNAPT

DockerのPort Forwarding

外部からのNAT越えはポートフォワードする
docker run -p Port_X:PORT_Y

DockerでのIP不定対策

IPではなく「Link」
–linkを使用
envで参照可能

3階層の例

Nginx Python MySQL
階層間の接続には必ずLinkを使う
イメージ化しましょう
各コンテナにサービスをすべて入れて、Nginxでドメイン振り分け

■まとめ

従来の仮想化と違いリソースを効率的に利用
環境を適度に分離する
不変なイメージをコンテナ化する
大規模環境ではKubernetesのようなオーケストレーションツールで管理する必要性が高まる
Dockerを挟むとベンダ依存が減る
コンテナ間の連携は苦労する。DNSによる連携の補足スライドあり（パフォーマンス面で難あり）

質問は大分聞き逃したので省略します・・・

次回はOpenDayLightの話を予定しています

その他のセミナー参加メモ

日本OpenStackユーザ会(Neutron deep dive)に参加してきた
- http://komeiy.hatenablog.com/entry/2014/12/02/224940
OpenStack最新情報セミナー＠渋谷に参加してきた
- http://komeiy.blogspot.jp/2014/12/openstack.html

紹介がありましたがOpenStackは日本語の参考書も出ています。勉強しておいた方が良いと思います

オープンソース・クラウド基盤 OpenStack入門構築・利用方法から内部構造の理解まで

posted with amazlet at 15.02.04

中井悦司中島倫明
KADOKAWA/アスキー・メディアワークス
売り上げランキング: 33,738

Amazon.co.jpで詳細を見る

OpenStackクラウドインテグレーションオープンソースクラウドによるサービス構築入門

posted with amazlet at 15.02.04

日本OpenStackユーザ会
翔泳社
売り上げランキング: 2,697

Amazon.co.jpで詳細を見る

OpenStack最新情報セミナー＠渋谷に参加してきた

in Neutron, OpenStack, セミナー - on 12:05

2014/12/04＠日本仮想化技術のOpenstack最新情報セミナーに参加しました。Ustreamでの参加だったので少し途切れている部分があるかもしれません。

openstack管理者入門-Midokura宮原氏

宣伝

Openstackディストリビューションの違いを徹底検証
http://thinkit.co.jp/story/2014/10/28/5310

本題

環境設定したけどその先はまだという方向け
Openstackのユーザ権限
マルチテナント前提
admin, demoが用意される
ロールの定義はpolicy.jsonを触る

Openstack ユーザの追加

操作方法デモ

事前にプロジェクトの追加をしておく。ユーザ作成時に＋ボタンから追加することも可能
管理タブ→認証パネル→ユーザ→ユーザの作成
ユーザ/パスワード/主プロジェクト
GUIもCLIもほぼ一緒。APIをどこから叩くか。
ほんと一握りがCLIのみ

新しいユーザでログイン。最初にログインすると。

パブリックなイメージが存在
ネットワークトポロジーはext-netのみ存在
ネットワーク、ルータは何も設定されていない

テナントのリソース制限

adminユーザで設定可能
管理→プロジェクト→クォータの変更
デフォルトのセキュリティグループは何も設定されていない

Openstack ネットワーク作成

インスタンス(DHCP) – demo-net-subet(10.5.5.0/24) – demo router – ext-net-subnet(10.0.0.0/24) – client
※demo routerがFloating IPへの変換を行う。実際はNetwork Nodeのiptablesで実現
ネットワーク作成デモ

ネットワーク名
サブネット名
- ネットワークアドレス
- ゲートウェイ
- DNS(サブネットの詳細タブ)※見落としがち

※ゲートウェイを省略すると.1が採用される
外部ネットワークとの接続

ゲートウェイの設定→ext-netを選択

内部ネットワークとの接続

ルータ名をクリックしインタフェースを追加

各種公式OSイメージのダウンロード
- http://docs.openstack.org/ja/image-guide/content/
※独自OSイメージを作成した場合はcloud-initの導入をおすすめ。というよりスタンダード。

イメージからボリュームを作成し、そのボリュームから起動することも可能LVMでやっている。iscsi。

鍵の登録

アクセスとセキュリティ→キーペア
公開鍵をペースト

Compute Nodeの追加

仮想マシンインスタンスの起動はスケジューラーが自動的に空きCompute Nodeを選択
ノードを指定できるスケジューラもある
/etc/nova/nova.confを設定（my_ip, vncserver_proxyclient_address）
/etc/neutron/plugins/openvswitch/ovs_neutron_plugin.ini
Compute Nodeの削除はNovaコマンドから実施

Openstackの監視監視

各コンポーネント毎にポート監視、プロセス監視を行う。
swift、neutronをはじめ1つのコンポーネントが多数のプロセスで動いているので逐一監視をする
コマンドのマニュアルを読もう
Open vSwitch以外のSDNとの連携
Juno版手順書絶賛改訂中

OpenStack運用管理最前線ミラクル・リナックス林氏

宣伝

Hatohol + OpenStack

本題

議題
Openstack Summit Parisで聴講運用管理３つの事例
　１．大量のVMの一斉起動の高速化（CERN）
　２．Ceilometerを使った不適切行為の検出（Cisco、Kent Unlv）
　３．大規模環境の監視における大量アラートの対策（RackSpace）
- Openstack Summit Parisでの発表のフィードバック
運用管理っていうと何？

監視
障害対応
パフォーマンス
HA
DR

１．大量のVMの一斉起動の高速化（CERN）

1秒間に40テラのデータが生成される環境。パラレルで計算するために1000台くらいのサーバを用意
課題

起動時間がVMの同時起動と正比例に増加
当初、1200VMで4時間かかってしまった
スケジューラとGlanceがボトルネック
　- スケジューラがNOVAへリクエストを送る
　- リクエストを受け取ったNOVAはGlanceを参照し仮想ディスクを取得
解析ソフトウェアのVMイメージの更新が頻繁でキャッシュの効率が悪い

対策

VMイメージをNovaのキャッシュに事前配布
Glace –> Apache + Squid –> Nova

Squidに入れば再配布される、他にも圧縮している
gzip-6が速度と圧縮率のバランスが良い

２．Ceilometerを使った不適切行為の検出（Cisco、Kent Unlv）

Ceilometer + データマイニングでリアルタイムで検出
学習段階

適切な使用時のホスト情報
- ベンチマーク(HBench)
- 高負荷状態（CPU）
- アイドル状態
不適切な使用時のホスト情報
- DDOS
- 仮想通貨のマイニングツール

分類

OSSのデータマイニングツール「Orange」を使用
アルゴリズムで最適解を求めて検出

３．大規模環境の監視における大量アラートの対策（RackSpace）

（監視による）対策

障害発生後、素早く原因を特定
- 相関と抑制(Alertの相関関係マッピングを作成)
- Apacheが落ちたらHorizon AuthやHorizon Contentも落ちるよね
  　
リソース枯渇の事前防止
- 増加率を計測して時期を予測

Hatohol + OpenStack

様々なOSSと連携してくれる統合監視

統合監視

ZabbixやNagiosなどとCeilometerを併用する
管理画面を統合

インシデント管理

redmine

問題切り分け

zabbix
fluentd

その他

OpenStack Days 2015に出展・デモ
OpenStack監視用のZabbixテンプレートを公開
Zabbix/Hatoholも含めた構築手順書

Openstack Neurtonの機能概要 Juniper中嶋氏

コンポーネントの説明（略）

Neutronの実現するネットワークとは

マルチテナントネットワーク
API経由の制御
ネットワーク抽象化
ベンダー固有のコンフィグ排除

Neutronの基本的なモデル

図による説明のため割愛

Neutronの実装

L2ネットワーク
L3ネットワーク
DHCPサーバ
メタデータ（メタデータサーバのProxy）

コンポーネント

API Client
Neutron Server
- neutron api
- neutorn plugin
- neutron api extentions
- db
Nova Compute

ML2Plugin

複数のプラグインの機能を同時利用可能
Type Driver
　ネットワークの方式を決定（Flat,VLAN,GRE,VXLAN）
Mechanism Driver
　- Open vSwich
　- Linux Bridge
　- L2 Population
　- Vender(Ciscoとか)

各コンポーネントの実装

Network node
- neutron openvswitch agent
- l3Agent
- dhcp agent
- metadata-agent
Compute Node
- Nova compute
- neutron openvswitch agent
Controller Node
- neutron-server

qrouterはNamespaceで作られているよ

ip netns
ip netns exec qrouter-XXXX ip addr
dhcpやSNATも同じように確認できる

icehouce以前のまとめ

ペースメーカーで冗長化が手間問題
トラフィック集中問題
dnsmsqプロセス集中問題

L3HA

NetworkノードをVRRPで冗長化
keepalived
実MAC使用
GARPで切り替え

DVR

DirectにCompute Nodeがルーティングする
br-extとqrouterが各Compute Nodeにできる
Holizon上のパッと見は変わらない。マウスオーバーすると。
dhcpは変わらない

バグ？

fipのnamespaceはあるが、qrouterに飛んでいっている。
使う時はfipのnamespaceを確認してみる。qrouterのiptablesを確認

Ml2-Plugin IPv6

サポートするようになった
仮想マシンへのアドレス割当方法
　- SLAAC
　- DHCPv6 Stateful
　- DHCPv6 Stateless
※動かない時があるのでバグFix待ったほうがいいかも
　
プロセス大量問題とNameSpace大量問題が残る

OpenContrail

やれることはML2と同様
Service Chainingが付加価値
ゲートウェイルータとの動的連携
アナリティクス機能

BGPベースのVPN

Network Node→OpenContrail Controller

Configuration Node
Analytics Node
Control Node

Compute Node

Nova compute
vRouter Agent

その他

dhcpはvRouter Agent
snatはSNATのname spaceを使用
snatはAct-StbなのでNodeまたぐ通信が発生する

サービスチェイニング

仮想ネットワークとルートターゲット

アナリティクス機能

仮想マシン/仮想ネットワーク単位
フローの収集
syslog

まとめ

プロセス大量問題とNameSpace大量問題を解決
オープンソース
ヨーロッパのtcp cloudで事例あり

OpenStack Fast Track 若葉マークStackerのStacker教習所サイバーエージェント長谷川氏、田上氏

Openstackを組んだことがある人会場は8割くらい？

スペック

Compute Node
E5-2470v220Core / 16GB / 480GB SSD *4 / Intel X540 *1
1020C/2040T 8TB Memory

設計

公式のInstall Documentationに従って作れば一応動く
できるだけ従った方がよい

公式から変更した点

コントロールプレーンを冗長
データプレーンを冗長しない（で済むようにする）
データプレーンをソフトウェアで冗長するのは非常に大変
冗長化されたL2スイッチ・L3スイッチ・アプライアンスLB

必要な周辺機能

ベアメタルプロビジョニング
パッケージレポジトリ
DNS
syslog

パッケージレポジトリはローカルに持った方がよい。インターネット負荷の観点。
アンダークラウド

Openstackのコントロールプレーン
共有ストレージ無しでライブマイグレーション

Computeまわり

KVM、Open vSwitch
オーバーコミットしない。パフォーマンスのリクエストを考慮した。

フレーバー

CPUが2倍ならメモリも2倍でディスクも2倍。余りが無いように。

ネットワーク

L3 Agentは使わない
Neurtonの標準機能のみ
VLAN Type Driver
Metadata Agentが使えないため、自前で169.254.169.254を対処

ストレージ

ブロックストレージはなし
インスタンスストアはSSDのRAID5
Gralceの冗長化のためにSwiftが必要なため準備した

MariaDB

MariaDB ClusterはVIPで冗長
常に1台だけ使う設計にした方がベター
複数のDBにかかれるとロールバックが頻発しログが大変なことに
Openstack側にtimeout設定は入れておいた方がよい

RabbitMQ

公式のHighAvailavilityGuideをみよ

Openstackコンポーネント

VIPで
glance-apiはデフォルトはfileになってしまうのでバックエンドSwiftにした
nova-consoleauthはmemcachedを指定しておこう
neutron-dhcp-agentは3つ起動

構築

汎用ツールで作りましょう

構成管理

SCMにコミット
複数環境に対応
冪等
完全自動化

運用

jenkins
- ビルドトリガの観点
- ローカルのマシンからAnsible流していると・・・
- ロギングの観点
- ワークフロー作成
  　
  初期設定はShelscriptで別に実施

Q＆A

VLAN4096についてどんな考え？
　　-> VLAN設計から4096まで必要なかった
VLANを使うとL3Agentを使わない理由は？
　　-> 物理の世界が機能を持っているから
　　
外部と内部のIPマッピングは？
　　-> グローバルとプライベートは外部でNAT。楽。
　　-> テナントが好きにできる構成ではない
　　
Novaネットワーク/Linux Bridgeの選択は？
　　-> Novaネットワークの寿命を考慮。Linux Bridgeでも良かったといえば良かったが、管理面ではOVSで正解と感じている
　　-> VLANでやる限りはOVSでも問題にはなっていない。
　　
Memorryが10枚なのはなぜ？4チャネル単位は？
　　-> コスト的な判断。メモリ使い回ししたいので16GBのみで検討
　　-> パブリックとのコスト比較を考えると、コストは重要と判断
　　
これからは？
　　-> ネットワークのテナント隔離、ストレージはブロックストレージをソフトウェアで

NTTドコモ様検証事例：OpenStack Summit 2014 Paris 講演「Design and Operation of OpenStack Cloud on 100 Physical Servers (NTT DOCOMO)」

課題

高可用性
Neutronの組み方

環境

トータル3200vCPU / 12.8TB Memorry

ネットワーク冗長

Nova Computeから外に出ていく部分をどうするか
Multi-Chassis LAG＋Bonding / ECMP(quagga)
ECMPが意外と楽だったが、パフォーマンスに難あり

VXLAN

OVSでVXLANは500VM to 500VMで10Gbpsくらいしか出なかった
mellanoxを使用した
MTU9000にするとでも1.5～1.6倍は効果があった
オフロードは1.3～5.5倍

LBベース
冗長化とってるが1台しかサービスしていない（Act-stbの4台構成）
MySQLの競合が起きるのでそれを避けるため
SSD使ってない場合切り替わりに大幅な差が出た
L3Agentは冗長できないため、マイグレーションできるようにした
仮想ルータの復旧は10秒程度

その他

デフォルトのセキュリティグループは削除する
全Nodeのiptablesの書き換えが発生する

openstackは日本語の参考書も出ています。勉強しておいた方が良いと思います

オープンソース・クラウド基盤 OpenStack入門構築・利用方法から内部構造の理解まで

posted with amazlet at 14.12.13

中井悦司中島倫明
KADOKAWA/アスキー・メディアワークス
売り上げランキング: 18,659

Amazon.co.jpで詳細を見る

OpenStackクラウドインテグレーションオープンソースクラウドによるサービス構築入門

posted with amazlet at 14.12.13

日本OpenStackユーザ会
翔泳社
売り上げランキング: 16,976

Amazon.co.jpで詳細を見る

雑多なメモ帳

第3回ペパボテックカンファレンスに参加してきたメモ #pbtech

10年動き続けているブログサービスのエンドツーエンドを書いた記録

なぜテストを書くに至ったか

エンドツーエンドでテストやってしまおう

取り組みのまとめ

MogileFSをバックエンドとしたPrivate S3の作り方

インフラ編

private Cloud(openstack)に移行中

ストレージサーバとフロントエンド

api

mogilefsdがスケールしない

既存の画像配信の品質向上

gateway

既存データのインポート方法

今後の予定

API編

API設計

MogileFSクライアント、MySQLクライアント

S3をリファレンス実装とするとバグレポートのやり取りが楽

S3にディレクトリは無い。common prefixesです

H2OとPHPの話

歴史あるwebサービスに携わって２年半の間に起きた事やった事

入社当時（2年半前）

GitHub Enterpriseを使うようになった

テストの導入

composerが導入さられた

ローカル環境が構築された

Wheneverでcronの変更を自動化

MySQLバージョンアップ

画像サーバをFTPからBaytへ

尋常じゃない速度でドッグフードを食べる方法

今夜、インターネットの片隅で。 〜ウェブサービス開発ちょっといい話〜

ショッピングカート

やぷしぃおもしろきかく！網羅パーソン総選挙

OS X アプリケーション 開発普及活動

仮想通貨自動トレード記 Part1 〜 国内Bitcoin取引所で裁定取引したら儲かるの？ 〜

YAPC::Asia Tokyoでベストトークを取る方法

JANOG LT Night#1に参加してきたメモ

インフラエンジニアのスキルパターンを作ってみた話 DMM佐々木さん

パターンを抽出してわかったこととサンプル

作ってて面白かったこと

ECNのあるネットワーク

使ってない理由

現状

まとめ

サーバ屋がガチネットワークやったらこんな感じになった

Vagrantで試験ネットワーク構築してハマった話

トラッフィクの可視化

NetOps Coding#1 開催のお知らせ

1000BASE-Tの次の一手

Routign Resilience Manifestoって知ってる？

うちもフルルートやめました

OpenSSHの認証処理の流れから見るCVE-20150-5600

CONBUの道具箱

カンファレンスネットワークの物品借用心得

あるtsudaリストの憂鬱

sensuでネットワーク監視をやってみた

JANOG37のお知らせ

Trema Day #7 に参加してきた

OpenFlow「で」おぼえるネットワーク

はじめに

ネットワークのキホンのキ

デモ

今後ネタ

ついにリリース! ニューTremaの紹介

ニューTremaの5つのポイント

OVS拡張を援用して簡単なOpenFlow Programming(とPioの話)

trema/pio紹介

Pioとは？

こんな感じ

Nicira拡張

Nicira拡張とは？

openflowのキツいところ

作ってみる

いろいろなデバイスでOpenVNetを動かしてみようとした

Edge Overlayのおさらい

Open VNetとは

作ってみた

Dive into wireless openflow!

今夜、インターネットの片隅で。〜ウェブサービス開発ちょっといい話〜

OS X アプリケーション開発普及活動

仮想通貨自動トレード記 Part1 〜国内Bitcoin取引所で裁定取引したら儲かるの？〜