yamamanx

growing hard days

*

Innovation EGG 第8回 『可視化・課題と支える技術』に行ってきました

      2016/09/18


Innovation EGG 第8回 『可視化・課題と支える技術』に行ってきました。

「何を見たいか」
「なぜ見たいか」
「その先にあるアクションは何か」

これらを考え、そして可視化の先には自動化があり、そのための判定基準を設けるために、仮設を証明するために可視化していく、という事が大切なんだなと思いました

ぶっちゃけAWSでリアルタイム可視化の仕組みってどうやって構築

デジタルキューブ 堀家さん

Social Realtime Monitor

iegg-1

Kinesis
– ストリーミングデータを処理
– 処理系(lambda)が扱いやすいようにデータを保存

Lambda
– Kinesisから受け取ったデータをSNSへ渡す
– イベントドリブン

SNS
– HTTPエンドポイントに通知メッセージを送信
– HTTP POSTリクエストをひたすら送信

iegg-2

socket.io
– ブラウザにデータを送信
– WebSocketによるブラウザとサーバーの双方向通信

D3.js
– ブラウザ上で描画、データヴィジュアライゼーションエンジン
– グラフ描画ライブラリではない、D3をベースにしたグラフ描画ライブラリは多数ある

DynamoDB Stream
– レコードが追加された時にストリームデータとして配信できる
– トリガーを作成してトリガーファンクションとしてlambdaを選択できる
– Twitter のユーザー名をハッシュキー、タイムスタンプをレンジキーでやった

CloudFormation
– アーキテクチャをアーカイブして再利用
– 同じ構成をいくつでも立ち上げられる

AWS IoT
– MQTT over Websocketがある

可視化から始めるDevOps

cloudpack 青池さん、高橋さん

  • 不要なアラートは発生させない
  • 本当に対策対応が必要なアラートに絞る
  • Nagios -> pagerduty
  • メールで来たものがpagerdutyに登録されているかをlambdaで検知してslackへ通知する
  • lambdaが動いているかはcloudwatchでslackへ通知する

面倒なタイプのログを可視化した話とメトリクスを時系列データにするススメ。それとその先。

HiganWorks 沢登さん

  • Kinensis Firehose
  • Delivery Stream
  • AWS Data Pipeline
  • Re:Dash
  • GoogleBigQuery->DynamoDB
  • 時系列にデータを取っておけば役に立つ
  • Librato – 数字を放り込めばグラフに出来るサービス

性能テストの評価と可視化

ロックオン 松本さん

  • 平均値はデータ群をあらわす新たな数値
  • 見えると可視化、見えていると見ているは違う
  • データ全体を俯瞰する ヒストグラム、箱ひげ図
  • 標準誤差
  • 統計確率的に600回
  • t検定
  • 何を知りたいか
  • それは数字でどう表現出来るか
  • その数字はどう作るか
  • グラフにするなら見て1秒でわかるグラフ、そのための表現方法を知っておく

クラウドサービスを運営する上で活用している可視化のためのサービス・ツール

ヴェルク 田向さん

boardを運営する中で必要な可視化を広く浅く紹介

CloudWatch

  • 基本的な死活監視、負荷状況の監視、インフラレイヤ

NewRelic

  • パフォーマンスの可視化
  • AWS外からの死活監視
  • 週次でレポート

Airbreak

  • アプリケーションエラー通知

Scutum

  • WAF
  • 攻撃の可視化

Vuls

  • 脆弱性の可視化

Vaddy

  • アプリケーション脆弱性の可視化

Intercom

  • サポートの可視

セキュリティの可視化 狙われる日本

MOTEX中本さん

iegg-3

iegg-4

  • カスペルスキー社のリアルタイム攻撃の可視化

iegg-5

  • 攻撃者は59万円投資して840万円のリターン

iegg-6

iegg-7

  • ランサムウェアがビジネス化、マーケット化してきている。

iegg-8

  • データ分析は仮設証明

Githubで地理情報可視化

デジタルキューブ 岡本さん

GEOJson

  • Githubではそのまま使える
  • GEOJson-with-spec

iegg-9

AWS(Amazon Redshift)とTableauではじめるビッグデータ分析

クラスメソッド しんやさん

iegg-10

Redshift

  • 超高速、フルマネージドDWH
  • 最小サイズ 160GB

Tableau

  • スムーズな操作感
  • 直感で可視化
  • 描画の自由度が高い

iegg-11

iegg-12

iegg-13

iegg-14

何を見たいか、なぜ見たいかを問いかけながら進めていくことが大事

@yamamanx
開発ベンダー5年、ユーザ企業システム部門通算8年目のSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

 - study

ad

ad

Message

メールアドレスが公開されることはありません。

  関連記事

Java SE 7 Silver対策勉強をしながらメモ 2015/2/4

本日は継承をどっぷりと。 一気に詰め込んで正解だったかも。 いつものごとくマーク …

JAWS-UG Osaka 第15回勉強会 AWS Summit Tokyo 2016 アップデート追っかけ会

「JAWS-UG Osaka 第15回勉強会 AWS Summit Tokyo …

DevLOVE関西「SIerから飛び出して、それからどうするの?」に行ってきました

DevLOVE関西「SIerから飛び出して、それからどうするの?」に行ってきまし …

東大阪メーカーズ・ミートアップ Vol.2に行ってきました

今回初参加で行ってきました。 東大阪メーカーズ・ミートアップとは 「主に東大阪の …

AWS Cloud Roadshow 2016 Osaka Night Event ミッドナイトJAWS

AWS Cloud Roadshow Osaka 2016のナイトイベントでミッ …

Java SE 7 Silver対策勉強をしながらメモ 2015/2/1

本日は繰り返し処理。 配列や演算でひっかけてくる問題に苦戦。 繰り返しだけに頭を …

Innovation EGG 第7回 『クラウドネィティブ化する世界』に行ってきました

Innovation EGG 第7回 『クラウドネィティブ化する世界』に行ってき …

MonotaRO TechTalk #4「データ分析」に行ってきました

本日の一杯目。MonotaRO TechTalk #4「データ分析」もちろん呑み …

JAWS FESTA 東海道 2016に行ってきました

JAWS FESTA 2016に行ってきました。 今回はボランティアスタッフ参加 …

「TwilioJP-UG大阪+AWScean合同勉強会」に行ってきました

ノンEC2のススメ アイレット河村さん EC2は柔軟すぎる PaaSの良いところ …