ヤマムギ

growing hard days.

*

Innovation EGG 第8回 『可視化・課題と支える技術』に行ってきました

      2016/09/18


Innovation EGG 第8回 『可視化・課題と支える技術』に行ってきました。

「何を見たいか」
「なぜ見たいか」
「その先にあるアクションは何か」

これらを考え、そして可視化の先には自動化があり、そのための判定基準を設けるために、仮設を証明するために可視化していく、という事が大切なんだなと思いました

ぶっちゃけAWSでリアルタイム可視化の仕組みってどうやって構築

デジタルキューブ 堀家さん

Social Realtime Monitor

iegg-1

Kinesis
– ストリーミングデータを処理
– 処理系(lambda)が扱いやすいようにデータを保存

Lambda
– Kinesisから受け取ったデータをSNSへ渡す
– イベントドリブン

SNS
– HTTPエンドポイントに通知メッセージを送信
– HTTP POSTリクエストをひたすら送信

iegg-2

socket.io
– ブラウザにデータを送信
– WebSocketによるブラウザとサーバーの双方向通信

D3.js
– ブラウザ上で描画、データヴィジュアライゼーションエンジン
– グラフ描画ライブラリではない、D3をベースにしたグラフ描画ライブラリは多数ある

DynamoDB Stream
– レコードが追加された時にストリームデータとして配信できる
– トリガーを作成してトリガーファンクションとしてlambdaを選択できる
– Twitter のユーザー名をハッシュキー、タイムスタンプをレンジキーでやった

CloudFormation
– アーキテクチャをアーカイブして再利用
– 同じ構成をいくつでも立ち上げられる

AWS IoT
– MQTT over Websocketがある

可視化から始めるDevOps

cloudpack 青池さん、高橋さん

  • 不要なアラートは発生させない
  • 本当に対策対応が必要なアラートに絞る
  • Nagios -> pagerduty
  • メールで来たものがpagerdutyに登録されているかをlambdaで検知してslackへ通知する
  • lambdaが動いているかはcloudwatchでslackへ通知する

面倒なタイプのログを可視化した話とメトリクスを時系列データにするススメ。それとその先。

HiganWorks 沢登さん

  • Kinensis Firehose
  • Delivery Stream
  • AWS Data Pipeline
  • Re:Dash
  • GoogleBigQuery->DynamoDB
  • 時系列にデータを取っておけば役に立つ
  • Librato – 数字を放り込めばグラフに出来るサービス

性能テストの評価と可視化

ロックオン 松本さん

  • 平均値はデータ群をあらわす新たな数値
  • 見えると可視化、見えていると見ているは違う
  • データ全体を俯瞰する ヒストグラム、箱ひげ図
  • 標準誤差
  • 統計確率的に600回
  • t検定
  • 何を知りたいか
  • それは数字でどう表現出来るか
  • その数字はどう作るか
  • グラフにするなら見て1秒でわかるグラフ、そのための表現方法を知っておく

クラウドサービスを運営する上で活用している可視化のためのサービス・ツール

ヴェルク 田向さん

boardを運営する中で必要な可視化を広く浅く紹介

CloudWatch

  • 基本的な死活監視、負荷状況の監視、インフラレイヤ

NewRelic

  • パフォーマンスの可視化
  • AWS外からの死活監視
  • 週次でレポート

Airbreak

  • アプリケーションエラー通知

Scutum

  • WAF
  • 攻撃の可視化

Vuls

  • 脆弱性の可視化

Vaddy

  • アプリケーション脆弱性の可視化

Intercom

  • サポートの可視

セキュリティの可視化 狙われる日本

MOTEX中本さん

iegg-3

iegg-4

  • カスペルスキー社のリアルタイム攻撃の可視化

iegg-5

  • 攻撃者は59万円投資して840万円のリターン

iegg-6

iegg-7

  • ランサムウェアがビジネス化、マーケット化してきている。

iegg-8

  • データ分析は仮設証明

Githubで地理情報可視化

デジタルキューブ 岡本さん

GEOJson

  • Githubではそのまま使える
  • GEOJson-with-spec

iegg-9

AWS(Amazon Redshift)とTableauではじめるビッグデータ分析

クラスメソッド しんやさん

iegg-10

Redshift

  • 超高速、フルマネージドDWH
  • 最小サイズ 160GB

Tableau

  • スムーズな操作感
  • 直感で可視化
  • 描画の自由度が高い

iegg-11

iegg-12

iegg-13

iegg-14

何を見たいか、なぜ見たいかを問いかけながら進めていくことが大事

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITトレーナー1年目のSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

 - study

ad

ad

  関連記事

LINEとAWSとTwilioとkintoneでBOTを作ってみるハンズオン (2)LambdaからSlackへ通知する2

作る部分 この部分のLambdaを作成します。 手順1でSlackのIncomi …

「Amazon SageMaker|機械学習エンジニア向けセッション+体験ハンズオン」に行ってきました

残念ながらハンズオンまではいれませんでしたが、前半のSageMakerの解説を聞 …

AWS Summit Tokyo 2017 聴講したセッションのメモ

2017年6月に参加しましたAWS Summitで聴講したセッションのメモを記し …

東大阪メーカーズ・ミートアップ Vol.2に行ってきました

今回初参加で行ってきました。 東大阪メーカーズ・ミートアップとは 「主に東大阪の …

「JAWS-UG大阪 第18回勉強会 サーバーレス」の運営をしました

JAWS-UG大阪 第18回勉強会 サーバーレスを開催、運営しました〜。 事の発 …

Developers Summit 2018 「Kubernetesを用いた最強のマイクロサービス環境をGKEで実現しよう」を聞きました

以下は、思ったことや気になったことをメモしていますので、必ずしも登壇者の発表内容 …

Java SE 7 Silver対策勉強をしながらメモ 2015/2/1

本日は繰り返し処理。 配列や演算でひっかけてくる問題に苦戦。 繰り返しだけに頭を …

DevLOVE関西「SIerから飛び出して、それからどうするの?」に行ってきました

DevLOVE関西「SIerから飛び出して、それからどうするの?」に行ってきまし …

Developers Summit 2018 「自然言語処理・機械学習を活用したファクトチェック業務の支援」を聞きました

以下は、思ったことや気になったことをメモしていますので、必ずしも登壇者の発表内容 …

JAWS DAYS 2018で初めてのランチタイムセッションをやってみました

日本のAWSユーザーグループはJAWS-UGと言います。 JAWS-UGでは年に …