您现在的位置：程式師世界 >> 編程語言 > >> 更多編程語言 >> Python

用Python展示全國高校的分布情況

編輯：Python

用Python展示全國高校的分布情況

6月是畢業季，高考生正在准備填志願。本文用Python展示了全國高校的分布情況，全國的高校哪些地方多，哪些地方少，可以一目了然地看到。
數據獲取
要展示高校的分布情況，就得先獲取全國高校的位置數據。本文的數據來源於掌上高考網(https://www.gaokao.cn/school/search)。

在2022年6月寫本文時，共獲取到了2822所高校的信息。檢查了數據，除了極個別空值外，整份數據是非常完整的，不影響使用。數據一共有44個字段，本文只會用幾個字段，可以不做處理，使用時按需獲取即可。

數據獲取方法介紹（基礎爬蟲知識）：
1.注冊登錄掌上高考網。在<查學校>頁面選擇全部學校。
2.按F12鍵，點擊到 Network > Fetch/XHR，然後點擊幾次<查學校>頁面的<上一頁>、<下一頁>按鈕，在XHR的頁面會顯示訪問的API等信息。
3.將每次翻頁時的API復制出來進行對比，發現翻頁時變化的參數有兩個：page和signsafe，page為當前訪問的頁數，signsafe是一個md5值，沒法反解，但可以把前面幾次的值保存下來，後面隨機變化使用。有了這個信息，不斷改變訪問的頁數和signsafe值，就可以獲取到所有的學校數據。
Response中的numFound參數值是學校總數，除以每頁顯示的學校個數可以得到總頁數，也可以直接點擊頁面的<尾頁>查看總頁數，這樣就確定了訪問的次數。
4.因為網站需要登錄才能使用，所以還要獲取訪問時的Headers，如Request Method(此次用POST)、User-Agent等。
5.有了上面的信息，循環拼接出所有頁面的url，用requests發送請求即可獲取到所有高校的數據，然後用pandas將數據寫到excel中。

溫馨提示：獲取數據時需遵守網站的相關聲明，爬蟲代碼盡量設置一定的時間間隔，不要在訪問高峰期運行爬蟲代碼。

補充說明：
人民網最新公布：全國的普通高校數是2759所，與本文從掌上高考網獲取的2822所相差63所，主要是部分學校的分校統計方式不同造成的差異。本文所展示的是分布情況，這個差異的影響不大。

經緯度獲取
掌上高考網是為高考填志願服務的網站，雖然獲取的數據有44個字段，但裡面並沒有學校的經緯度。為了更好地在地圖上展示高校位置，需要根據學校的地址獲取對應的經緯度。
本文使用百度地圖開放平台：https://lbsyun.baidu.com/apiconsole/center#/home，可以用百度地圖的開放接口獲取地理位置的經緯度。
使用步驟為：
1.注冊登錄百度賬號，這個賬號可以是整個百度生態通用的賬號（如網盤、文庫等的賬號是通用的）。
2.登錄到百度地圖開放平台，點擊進入<控制台>，然後在<應用管理>中點擊<我的應用>，再點擊<創建應用>創建一個應用。應用名稱自定義，其他信息按提示和要求填寫完整，並進行實名認證，成為個人開發者。

3.創建應用完成後，會獲得一個應用的<訪問應用（AK）>，用這個AK值可以調用百度的API，參考代碼如下。

import requests
def baidu_api(addr):
url = "http://api.map.baidu.com/geocoding/v3/?"
params = {

"address": addr,
"output": "json",
"ak": "復制你創建的應用AK到此"
}
req = requests.get(url, params)
res = req.json()
if len(res["result"]) > 0:
loc = res["result"]["location"]
# print(loc)
return loc
else:
print("獲取{}經緯度失敗".format(addr))
return {
'lng': '', 'lat': ''}

4.成功調用百度地圖API後，讀取所有高校的位置，依次調用上面的函數，獲取所有高校的經緯度，重新寫入excel中。

import pandas as pd
import numpy as np
def get_lng_lat():
df = pd.read_excel('school.xlsx')
lng_lat = []
for row_index, row_data in df.iterrows():
addr = row_data['address']
if addr is np.nan:
addr = row_data['city_name'] + row_data['county_name']
# print(addr)
loc = baidu_api(addr.split(',')[0])
lng_lat.append(loc)
df['經緯度'] = lng_lat
df['經度'] = df['經緯度'].apply(lambda x: x['lng'])
df['緯度'] = df['經緯度'].apply(lambda x: x['lat'])
df.to_excel('school_lng_lat.xlsx')

最終數據結果如下圖：

個人開發者使用百度地圖開放平台時需注意，每天有額度限制，所以調試代碼時先不要用所有數據，先用demo跑通，否則得等一天或購買額度。

高校位置展示
數據准備好了，接下來將他們展示到地圖上。
本文使用百度開源的數據可視化工具Echarts，Echarts為Python語言提供了pyecharts庫，使用很方便。
安裝命令：

pip install pyecharts

1.標注高校的位置

from pyecharts.charts import Geo
from pyecharts import options as opts
from pyecharts.globals import GeoType
import pandas as pd
def multi_location_mark():
"""批量標注點"""
geo = Geo(init_opts=opts.InitOpts(bg_color='black', width='1600px', height='900px'))
df = pd.read_excel('school_lng_lat.xlsx')
for row_index, row_data in df.iterrows():
geo.add_coordinate(row_data['name'], row_data['經度'], row_data['緯度'])
data_pair = [(name, 2) for name in df['name']]
geo.add_schema(
maptype='china', is_roam=True, itemstyle_opts=opts.ItemStyleOpts(color='#323c48', border_color='#408080')
).add(
'', data_pair=data_pair, type_=GeoType.SCATTER, symbol='pin', symbol_size=16, color='#CC3300'
).set_series_opts(
label_opts=opts.LabelOpts(is_show=False)
).set_global_opts(
title_opts=opts.TitleOpts(title='全國高校位置標注圖', pos_left='650', pos_top='20',
title_textstyle_opts=opts.TextStyleOpts(color='white', font_size=16))
).render('high_school_mark.html')

從標注結果來看，高校主要分布沿海、中部和東部，西部尤其是高海拔地區分布相對較少。
2.繪制高校分布熱力圖

from pyecharts.charts import Geo
from pyecharts import options as opts
from pyecharts.globals import ChartType
import pandas as pd
def draw_location_heatmap():
"""繪制熱力圖"""
geo = Geo(init_opts=opts.InitOpts(bg_color='black', width='1600px', height='900px'))
df = pd.read_excel('school_lng_lat.xlsx')
for row_index, row_data in df.iterrows():
geo.add_coordinate(row_data['name'], row_data['經度'], row_data['緯度'])
data_pair = [(name, 2) for name in df['name']]
geo.add_schema(
maptype='china', is_roam=True, itemstyle_opts=opts.ItemStyleOpts(color='#323c48', border_color='#408080')
).add(
'', data_pair=data_pair, type_=ChartType.HEATMAP
).set_series_opts(
label_opts=opts.LabelOpts(is_show=False)
).set_global_opts(
title_opts=opts.TitleOpts(title='全國高校分布熱力圖', pos_left='650', pos_top='20',
title_textstyle_opts=opts.TextStyleOpts(color='white', font_size=16)),
visualmap_opts=opts.VisualMapOpts()
).render('high_school_heatmap.html')

從熱力圖看，高校分布較集中的地方主要是沿海、北上廣、長江黃河流域，西部較多的地方只有川渝。
3.繪制按省劃分的分布密度圖

from pyecharts.charts import Map
from pyecharts import options as opts
import pandas as pd
def draw_location_density_map():
"""繪制各省高校分布密度圖"""
map = Map(init_opts=opts.InitOpts(bg_color='black', width='1200px', height='700px'))
df = pd.read_excel('school_lng_lat.xlsx')
s = df['province_name'].value_counts()
data_pair = [[province, int(s[province])] for province in s.index]
map.add(
'', data_pair=data_pair, maptype="china"
).set_global_opts(
title_opts=opts.TitleOpts(title='全國高校按省分布密度圖', pos_left='500', pos_top='70',
title_textstyle_opts=opts.TextStyleOpts(color='white', font_size=16)),
visualmap_opts=opts.VisualMapOpts(max_=200, is_piecewise=True, pos_left='100', pos_bottom='100', textstyle_opts=opts.TextStyleOpts(color='white', font_size=16))
).render("high_school_density.html")