IPython Notebookで梅田のラーメン屋さんの統計情報を抽出するというハンズオンに行ってきました

2016/01/23 2016/09/18

IPython Notebookで梅田のラーメン屋さんの情報をWebスクレイピングして抽出して統計情報にするというハンズオンに行ってきました。

環境構築はLinux Mint 17 MATE 64bit にIPython Notebookをインストールするをご参照ください。
※Mac、Windowsでの環境はWeb検索でお願いいたします。。。。。

ハンズオン本編

Webスクレイピングに必要なライブラリをインポートします

import scrapelib
from bs4 import BeautifulSoup

import scrapelib

from bs4 import BeautifulSoup

お店ごとの要素を配列にします

URLを見れば丸わかりですがとあるサイトから情報をとっています

s = scrapelib.Scraper(requests_per_minute=10)
r = s.get('http://tabelog.com/osaka/A2701/A270101/rstLst/ramen/')
soup = BeautifulSoup(r.text, "lxml")
omises = soup.find_all("li", class_="js-cassette js-rstlst-cassete list-rst is-blocklink js-bookmark")

s = scrapelib.Scraper(requests_per_minute=10)

r = s.get('http://tabelog.com/osaka/A2701/A270101/rstLst/ramen/')

soup = BeautifulSoup(r.text, "lxml")

omises = soup.find_all("li", class_="js-cassette js-rstlst-cassete list-rst is-blocklink js-bookmark")

お店情報の要素配列をループして欲しい情報だけの配列にします

for omise in omises:
    omise_tsuika = {}
    namae = omise.find("a", class_="list-rst__rst-name-target js-click-rdlog")
    omise_tsuika["name"] = namae.string
    point_strong = omise.find_all("span", class_="list-rst__rating-val tb-rating__val tb-rating__val--strong")
    if len(point_strong) > 0:
        if(point_strong[0].string != "-"): 
            omise_tsuika["point_gokei"] = float(point_strong[0].string)
    comment = omise.find("em",class_="list-rst__rvw-count-num")
    if(comment.string != "-"):
                              omise_tsuika["comment"] = int(comment.string)
    data.append(omise_tsuika)

for omise in omises:

omise_tsuika = {}

namae = omise.find("a", class_="list-rst__rst-name-target js-click-rdlog")

omise_tsuika["name"] = namae.string

point_strong = omise.find_all("span", class_="list-rst__rating-val tb-rating__val tb-rating__val--strong")

if len(point_strong) > 0:

if(point_strong[0].string != "-"):

omise_tsuika["point_gokei"] = float(point_strong[0].string)

comment = omise.find("em",class_="list-rst__rvw-count-num")

if(comment.string != "-"):

omise_tsuika["comment"] = int(comment.string)

data.append(omise_tsuika)

データ配列を見てみます

print(data)

1 2	print(data)

こんなデータが取れました。

comment : コメント数
name : 店名
point_gokei : 評価点

Screenshot-DataSicenceStudy01-2

統計分析に必要なライブラリをインポートします

%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np
from pandas import Series,DataFrame
import pandas as pd

%matplotlib inline

import matplotlib.pyplot as plt

import numpy as np

from pandas import Series,DataFrame

import pandas as pd

データフレームを作成します

df = DataFrame(data,
              columns=['name',
                      'point_gokei','comment'])

df = DataFrame(data,

columns=['name',

'point_gokei','comment'])

要約統計量を計算します

df.describe()

1 2	df.describe()

Screenshot-DataSicenceStudy01-3

相関係数を計算します

df.point_gokei.corr(df.comment)

1 2	df.point_gokei.corr(df.comment)

0.54091975491834943

散布図を出力します

plt.scatter(df.comment,df.point_gokei)

1 2	plt.scatter(df.comment,df.point_gokei)

Screenshot-DataSicenceStudy01 -4

面白い！

最後までお読みいただきましてありがとうございました！

「AWS認定資格試験テキスト＆問題集　AWS認定ソリューションアーキテクト - プロフェッショナル改訂第2版」という本を書きました。

「AWS認定資格試験テキスト AWS認定クラウドプラクティショナー改訂第3版」という本を書きました。

「ポケットスタディ AWS認定デベロッパーアソシエイト［DVA-C02対応］」という本を書きました。

「要点整理から攻略するAWS認定ソリューションアーキテクト-アソシエイト」という本を書きました。

「AWSではじめるLinux入門ガイド」という本を書きました。

@yamamanx

開発ベンダー5年、ユーザ企業システム部門通算9年、ITインストラクター5年目でプロトタイプビルダーもやりだしたSoftware Engineerです。
質問はコメントかSNSなどからお気軽にどうぞ。
出来る限りなるべく答えます。

このブログの内容/発言の一切は個人の見解であり、所属する組織とは関係ありません。
このブログは経験したことなどの共有を目的としており、手順や結果などを保証するものではありません。
ご参考にされる際は、読者様自身のご判断にてご対応をお願いいたします。

また、勉強会やイベントのレポートは自分が気になったことをメモしたり、聞いて思ったことを書いていますので、登壇者の意見や発表内容ではありません。

- Python, study data, python

: 「機械学習・データサイエンス基礎講座（１）」に参加しました

異業種データサイエンス研究会を主宰されている井伊さんが開催される連続の基礎講座の …

: 「streamlit勉強会」に参加しました

streamlitってなんだろう？と思いながら参加しまししました。 fin-p …

: SQLAlchemy Session.executeでinsertしてAUTO INCREMENTでセットされたプライマリキーを取得したい

PythohのORMライブラリSQLAlchemyでMySQLにインサートしたレ …

: 「Serverless Days Tokyo 2023 サーバーレスで負荷試験を行う必要性と実践的プラクティスの紹介」を見ました

2023/9/23にServerless Days Tokyo 2023に参加し …

: 「はじめての Amazon Lookout for Vision ハンズオン」に参加しました

Amazon Lookout for Visionのハンズオンに参加しました。 …

: 「JAWS-UG Osaka AWSデビューするなら大阪から！大阪リージョン触ろうの会」に参加しました

3/2に大阪リージョンがオープンしたことを受けて、大阪リージョンでサーバーレスア …

: 「Fin-JAWS 第20回〜Go to Fin-JAWS School! 2021〜」で発表しました

2021/3/22の「Fin-JAWS 第20回〜Go to Fin-JAWS …

: 「CLS高知2023戻り鰹編」に参加しました

12回目のCLS高知、2023戻り鰹編に参加しました。高知駅付近から弁天座へ自 …

: Developers Summit 2018 「本番環境で使うContainer – Amazon ECS, AWS Fargate, Amazon EKS」を聞きました

※写真は展示のAmazon Echo とルンバです。以下は、思ったことや気にな …

: ヤマムギ vol.10 (AWS)EC2モニタリングハンズオン手順

このブログは2020/5/6に開催しました、「ヤマムギ vol.10 (AWS) …

PREV: Linux Mint 17 MATE 64bit にTensorFlowをインストールする
NEXT: PentahoでMySQLテーブルデータソースを作成しようとした時のエラー対応

IPython Notebookで梅田のラーメン屋さんの統計情報を抽出するというハンズオンに行ってきました

ハンズオン本編

Webスクレイピングに必要なライブラリをインポートします

お店ごとの要素を配列にします

お店情報の要素配列をループして欲しい情報だけの配列にします

データ配列を見てみます

統計分析に必要なライブラリをインポートします

データフレームを作成します

要約統計量を計算します

相関係数を計算します

散布図を出力します

ad

ad

関連記事

「機械学習・データサイエンス基礎講座（１）」に参加しました

「streamlit勉強会」に参加しました

SQLAlchemy Session.executeでinsertしてAUTO INCREMENTでセットされたプライマリキーを取得したい

「Serverless Days Tokyo 2023 サーバーレスで負荷試験を行う必要性と実践的プラクティスの紹介」を見ました

「はじめての Amazon Lookout for Vision ハンズオン」に参加しました

「JAWS-UG Osaka AWSデビューするなら大阪から！大阪リージョン触ろうの会」に参加しました

「Fin-JAWS 第20回〜Go to Fin-JAWS School! 2021〜」で発表しました

「CLS高知2023戻り鰹編」に参加しました

Developers Summit 2018 「本番環境で使うContainer – Amazon ECS, AWS Fargate, Amazon EKS」を聞きました

ヤマムギ vol.10 (AWS)EC2モニタリングハンズオン手順