WEBデータの取得方法｜VBAサンプル集

最終更新日：2019-10-25

WEBデータの取得方法

WEBページのデータを取得して、エクセルのデータとして取り込みたいとの要望が多いようです。

マクロVBAでWEBページのデータを取得する方法はいろいろあります。
QueryTables
InternetExplorer
MSHTML
MSXML2
順番に、以下で説明します。

サンプルページ

まず、サンプルページとして、ヤフーファイナンスの、以下のページを使います。

http://info.finance.yahoo.co.jp/ranking/?kd=1&mk=1&tm=d&vl=a
このページの一覧表の部分をエクセルに取り込みます。
このページは、ランキングですので、複数ページあります。
上のURLは、最初のページです。
では２ページ目はと言うと、
http://info.finance.yahoo.co.jp/ranking/?kd=1&tm=d&vl=a&mk=1&p=2
このようなURLになります。
この場合、最期のp=2がページ数になっています。
これを変更すれば、各ページが取得できます。
p=1なら、最初のページも取得可能です。
従って、以降のマクロでは
http://info.finance.yahoo.co.jp/ranking/?kd=1&tm=d&vl=a&mk=1&p=1
として取得しています。
この数値を順次変更して取得すれば、複数ページの取得も可能です。

ただし、このページは近年アクセス方法に制限が書けられています。
そこで、制限のない当サイトの祝日一覧のページもサンプルとして使います。

QueryTables

まずは、
エクセル本来の機能で、Webクエリです。


  
    
      Sub sample1()

      　　With ActiveSheet.QueryTables.Add(Connection:= _

      　　　　"URL;http://info.finance.yahoo.co.jp/ranking/?kd=1&tm=d&vl=a&mk=1&p=1", _

      　　　　Destination:=Range("$A$1"))

      　　　　.Name = "?kd=1&tm=d&vl=a&mk=1&p=1"

      　　　　.FieldNames = True

      　　　　.RowNumbers = False

      　　　　.FillAdjacentFormulas = False

      　　　　.PreserveFormatting = True

      　　　　.RefreshOnFileOpen = False

      　　　　.BackgroundQuery = True

      　　　　.RefreshStyle = xlInsertDeleteCells

      　　　　.SavePassword = False

      　　　　.SaveData = True

      　　　　.AdjustColumnWidth = True

      　　　　.RefreshPeriod = 0

      　　　　.WebSelectionType = xlAllTables

      　　　　.WebFormatting = xlWebFormattingNone

      　　　　.WebPreFormattedTextToColumns = True

      　　　　.WebConsecutiveDelimitersAsOne = True

      　　　　.WebSingleBlockTextImport = False

      　　　　.WebDisableDateRecognition = False

      　　　　.WebDisableRedirections = False

      　　　　.Refresh BackgroundQuery:=False

      　　End With

      End Sub

太字のxlAllTablesの指定で、tableのみ取得しています。
これで済む場合は、これが最も簡単です。
マクロの記録を使えば、そのまま使えます。
上記も、マクロの記録のままです。

InternetExplorer

次は、
InternetExplorerを、VBAから操作します。


  
    
      Sub sample2()

      　　Dim i As Long

      　　Dim j As Long

      　　

      　　Dim objITEM As Object

      　　Dim objIE As New InternetExplorer

      　　objIE.Visible = False

      　　

      　　objIE.Navigate "http://info.finance.yahoo.co.jp/ranking/?kd=1&tm=d&vl=a&mk=1&p=1"

      　　Call untilReady(objIE)

      　　

      　　Range("A1").CurrentRegion.Offset(1, 0).ClearContents

      　　i = 2

      　　j = 1

      　　For Each objITEM In objIE.Document.getElementsByTagName("td")

      　　　　Cells(i, j) = objITEM.innerText

      　　　　j = j + 1

      　　　　If j > 10 Then

      　　　　　　j = 1

      　　　　　　i = i + 1

      　　　　End If

      　　Next

      　　objIE.Quit

      　　Set objITEM = Nothing

      　　Set objIE = Nothing

      End Sub


      Sub untilReady(objIE As Object, Optional ByVal WaitTime As Integer = 10)

      　　Dim starttime As Date

      　　starttime = Now()

      　　Do While objIE.Busy = True Or objIE.ReadyState <> READYSTATE_COMPLETE

      　　　　DoEvents

      　　　　If Now() > DateAdd("S", WaitTime, starttime) Then

      　　　　　　Exit Do

      　　　　End If

      　　Loop

      　　DoEvents

      End Sub

※「Microsoft Internet Control」を参照設定して下さい。

問題は、HTMLを取得後の解析になります。
For Each objITEM In objIE.Document.getElementsByTagName("td")
Tableのtrの中のtdで、必要なデータのみ取得しています。
これについては、VBAの知識ではなく、HTMLの知識が必要になります。
Table、tr、td等が分からない場合は、HTMLの勉強をして頂く必要があります。
ここでは、HTMLの解説は省略します。

※注意

untilReady内のループでは、本来なら、Sleepさせた方が良いのですが、
APIの使用になるので、ここでは省略しています。
Declare Sub Sleep Lib "kernel32" (ByVal dwMilliseconds As Long)
を先頭に記述し、
ループ内で、適宜、
Sleep 100
程度を入れておくと良いでしょう。

MSHTML

さらに、
MSHTML.HTMLDocumentを使った方法です。


  
    
      Sub sample3()

　　Dim i As Long

　　Dim j As Long

　　Dim objXML As New MSHTML.HTMLDocument

　　Dim htmlDoc As New MSHTML.HTMLDocument

　　Dim objITEM As Object


　　Set htmlDoc = objXML.createDocumentFromUrl("https://excel-ubara.com/EXCEL/EXCEL910.html", vbNullString)

　　Call untilReady(htmlDoc)


　　Range("A1").CurrentRegion.Offset(1, 0).ClearContents

　　i = 2

　　j = 1

　　For Each objITEM In htmlDoc.getElementsByTagName("td")

　　　　Cells(i, j) = objITEM.innerText

　　　　j = j + 1

　　　　If j > 3 Then

　　　　　　j = 1

　　　　　　i = i + 1

　　　　End If

　　Next


　　Set objITEM = Nothing

　　Set htmlDoc = Nothing

　　Set objXML = Nothing

End Sub

Sub untilReady(htmlDoc As MSHTML.HTMLDocument, Optional ByVal WaitTime As Integer = 10)

　　Dim starttime As Date

　　starttime = Now()

　　Do Until htmlDoc.ReadyState = "complete"

　　　　DoEvents

　　　　If Now() > DateAdd("S", WaitTime, starttime) Then

　　　　　　Exit Do

　　　　End If

　　Loop

　　DoEvents

End Sub

※「Microsoft HTML Object Library」を参照設定して下さい。

先のヤフーファイナンスでは、この方法ではアクセスできなくなっています。
以前は、この方法でも取得できたのですが、近年はいろいろ制限のあるページが増えてきたようです。
そこで、当サイトの祝日一覧のページを取得するようにしています。

InternetExplorerの部分がMSHTML.HTMLDocumentになった程度で、
後は、ほとんど同じです。

MSXML2

さらに、
MSXML2.XMLHTTPを使った場合です。


  
    
      Sub sample4()

　　Dim i As Long

　　Dim j As Long

　　Dim objXML As New MSXML2.XMLHTTP

　　Dim htmlDoc As Object

　　Set htmlDoc = New MSHTML.HTMLDocument

　　Dim objITEM As Object


　　With objXML

　　　　.Open "GET", "https://excel-ubara.com/EXCEL/EXCEL910.html", False

　　　　.send (Null)

　　　　htmlDoc.write .responseText

　　End With

　

　　Range("A1").CurrentRegion.Offset(1, 0).ClearContents

　　i = 2

　　j = 1

　　For Each objITEM In htmlDoc.getElementsByTagName("td")

　　　　Cells(i, j) = objITEM.innerText

　　　　j = j + 1

　　　　If j > 3 Then

　　　　　　j = 1

　　　　　　i = i + 1

　　　　End If

　　Next


　　Set objITEM = Nothing

　　Set htmlDoc = Nothing

　　Set objXML = Nothing

End Sub

※「Microsoft XML, v3.0」（v3.0以上を指定して下さい）を参照設定して下さい。

サンプルとして書いてみましたが、HTMLの解析ができないので、
結局、MSHTML.HTMLDocumentを使う事になってしまいました。
また、
Dim htmlDoc As New MSHTML.HTMLDocument
としたのでは、
htmlDoc.writeでエラーになってしまいますので、ちょっと面倒です。
結果的には、MSHTML.HTMLDocumentの方で良いのではないかという気がします。

WEBデータの取得方法の最後に

番外編としては、Seleniumを使う方法もあります。
VBAのスクレイピングを簡単楽にしてくれるSelenium

VBAでWebスクレイピングする方法としてIE自動操作がありますが、VBA記述が結構面倒になります、もっと簡単にスマートにVBAを書きたいと思ったら…SeleniumBasicを使ってみましょう。SeleniumBasicは、エクセルVBAでのWeb閲覧を自動化することを強力かつ簡単に実現してくれます。

VBA+SeleniumBasicで検索順位チェッカー作成

VBAでSeleniumBasicを使って検索順位チェッカーを作ってみます。SEO対策として各キーワードでの検索順位チェックは欠かせませんが、簡単に使えてキーワードを大量に指定できる良いツールがなかなかありません。Google検索をスクレイピングすることは、Google利用規約に反する可能性があります。

VBA+SeleniumBasicで検索順位チェッカー（改）

VBAでSeleniumBasicを使って検索順位チェッカーを作り、Google検索順位の履歴を管理します、既に作成解説した、VBA+SeleniumBasicで検索順位チェッカー作成こちらの改訂版になります。Google検索をスクレイピングすることは、Google利用規約に反する可能性があります。

いずれの方法にしても、
最初のWebクエリ以外では、HTMLの知識が必要になります。
ここが書けない場合は、Webクエリでシートに貼り付けた後で、
シート内のデータを解析して、必要なデータだけに編集する等が良いでしょう。

同じテーマ「マクロVBAサンプル集」の記事

ストップウォッチ（1/100秒）（Timer）
ストップウォッチ改（1/100秒）（Timer）
重複の無いユニークなデータ作成
WEBデータの取得方法
右クリックメニューの変更（CommandBars）
エクセルのアイコン取得（FaceID）
素数を求めるマクロ
 入力規則のリスト入力の妥当性判定
 配色を使用したカラー設定を固定カラーに変更
 指定セルに名前定義されているか判定する
 Excel2003(xls)を2007以降(xlsx,xlsm)に変換する（HasVBProject）

アクセスランキング・・・ランキング一覧を見る

1.最終行の取得（End,Rows.Count）｜VBA入門
2.RangeとCellsの使い方｜VBA入門
3.変数宣言のDimとデータ型｜VBA入門
4.セルのコピー&値の貼り付け（PasteSpecial）｜VBA入門
5.マクロって何？VBAって何？｜VBA入門
6.繰り返し処理（For Next)｜VBA入門
7.Range以外の指定方法（Cells,Rows,Columns）｜VBA入門
8.セルに文字を入れるとは（Range,Value）｜VBA入門
9.とにかく書いてみよう（Sub,End Sub）｜VBA入門
10.マクロはどこに書くの（VBEの起動）｜VBA入門

このサイトがお役に立ちましたら「シェア」「Bookmark」をお願いいたします。

記述には細心の注意をしたつもりですが、
間違いやご指摘がありましたら、「お問い合わせ」からお知らせいただけると幸いです。
掲載のVBAコードは動作を保証するものではなく、あくまでVBA学習のサンプルとして掲載しています。
掲載のVBAコードは自己責任でご使用ください。万一データ破損等の損害が発生しても責任は負いません。

VBAサンプル集
WEBデータの取得方法