PostgreSQL 9.3 用了一種新的聯合類型! Lateral聯合的推出比較低調,但它實現了之前需要使用編寫程序才能獲得的強大的新查詢. 在本文中, 我將會介紹一個在 PostgreSQL 9.2 不可能被實現的渠道轉換分析.
什麼是 LATERAL 聯合?
對此的最佳描述在文檔中 可選 FROM 語句清單 的底部:
LATERAL 關鍵詞可以在前綴一個 SELECT FROM 子項. 這能讓 SELECT 子項在FROM項出現之前就引用到FROM項中的列. (沒有 LATERAL 的話, 每一個 SELECT 子項彼此都是獨立的,因此不能夠對其它的 FROM 項進行交叉引用.)
…
當一個 FROM 項包含 LATERAL 交叉引用的時候,查詢的計算過程如下: 對於FROM像提供給交叉引用列的每一行,或者多個FROM像提供給引用列的行的集合, LATERAL 項都會使用行或者行的集合的列值來進行計算. 計算出來的結果集像往常一樣被加入到聯合查詢之中. 這一過程會在列的來源表的行或者行的集合上重復進行.
這種計算有一點密集。你可以比較松散的將 LATERAL 聯合理解作一個 SQL 的foreach 選擇, 在這個循環中 PostgreSQL 將循環一個結果集中的每一行,並將那一行作為參數來執行一次子查詢的計算.
我們可以用這個來干些什麼?
看看下面這個用來記錄點擊事件的表結構:
CREATE TABLE event ( user_id BIGINT, event_id BIGINT, time BIGINT NOT NULL, data JSON NOT NULL, PRIMARY KEY (user_id, event_id) )
每一個事件都關聯了一個用戶,擁有一個ID,一個時間戳,還有一個帶有事件屬性的JSON blob. 在堆中,這些屬性可能包含一次點擊的DOM層級, 窗口的標題,會話引用等等信息.
加入我們要優化我們的登錄頁面以增加注冊. 第一步就是要計算看看我們的哪個渠道轉換上正在丟失用戶.
示例:一個注冊流程的個步驟之間的渠道轉換率.
假設我們已經在前端配備的裝置,來沿著這一流程來記錄事件日志,所有的數據都會保存到上述的事件數據表中.[1] 最開始的問題是,我們要計算有多少人查看了我們的主頁,而他們之中有百分之多少在那次查看了主頁之後的兩個星期之內輸入了驗證信息. 如果我們使用 PostgreSQL 較老的版本, 我們可能需要使用PL/pgSQL這一PostgreSQL內置的過程語言 來編寫一些定制的函數. 而在 9.3 中, 我們就可以使用一個 lateral 聯合,只用一個搞笑的查詢就能計算出結果,不需要任何擴展或者 PL/pgSQL.
SELECT user_id, view_homepage, view_homepage_time, enter_credit_card, enter_credit_card_time FROM ( -- Get the first time each user viewed the homepage. SELECT user_id, 1 AS view_homepage, min(time) AS view_homepage_time FROM event WHERE data->>'type' = 'view_homepage' GROUP BY user_id ) e1 LEFT JOIN LATERAL ( -- For each row, get the first time the user_id did the enter_credit_card -- event, if one exists within two weeks of view_homepage_time. SELECT 1 AS enter_credit_card, time AS enter_credit_card_time FROM event WHERE user_id = e1.user_id AND data->>'type' = 'enter_credit_card' AND time BETWEEN view_homepage_time AND (view_homepage_time + 1000*60*60*24*14) ORDER BY time LIMIT 1 ) e2 ON true
沒有人會喜歡30多行的SQL查詢,所以讓我們將這些SQL分成片段來分析。第一塊是一段普通的 SQL:
SELECT user_id, 1 AS view_homepage, min(time) AS view_homepage_time FROM event WHERE data->>'type' = 'view_homepage' GROUP BY user_id
也就是要獲取到每個用戶最開始觸發 view_homepage 事件的時間. 然後我們的 lateral 聯合就可以讓我們迭代結果集的每一行,並會在接下來執行一次參數化的子查詢. 這就等同於針對結果集的每一行都要執行一邊下面的這個查詢:
SELECT 1 AS enter_credit_card, time AS enter_credit_card_time FROM event WHERE user_id = e1.user_id AND data->>'type' = 'enter_credit_card' AND time BETWEEN view_homepage_time AND (view_homepage_time + 1000*60*60*24*14) ORDER BY time LIMIT 1
例如,對於每一個用戶,要獲取他們在觸發 view_homepage_time 事件後的兩星期內觸發 enter_credit_card 事件的時間. 因為這是一個lateral聯合,我們的子查詢就可以從之前的子查詢出引用到 view_homepage_time 結果集. 否則,子查詢就只能單獨執行,而沒辦法訪問到另外一個子查詢所計算出來的結果集.
之後哦我們整個封裝成一個select,它會返回像下面這樣的東西:
user_id | view_homepage | view_homepage_time | enter_credit_card | enter_credit_card_time ---------+---------------+--------------------+-------------------+------------------------ 567 | 1 | 5234567890 | 1 | 5839367890 234 | 1 | 2234567890 | | 345 | 1 | 3234567890 | | 456 | 1 | 4234567890 | | 678 | 1 | 6234567890 | | 123 | 1 | 1234567890 | | ...
因為這是一個左聯合,所以查詢結果集中會有不匹配 enter_credit_card 事件的行,只要有 view_homepage 事件就行. 如果我們匯總所有的數值列,就會得到渠道轉換的一個清晰匯總:
SELECT sum(view_homepage) AS viewed_homepage, sum(enter_credit_card) AS entered_credit_card FROM ( -- Get the first time each user viewed the homepage. SELECT user_id, 1 AS view_homepage, min(time) AS view_homepage_time FROM event WHERE data->>'type' = 'view_homepage' GROUP BY user_id ) e1 LEFT JOIN LATERAL ( -- For each (user_id, view_homepage_time) tuple, get the first time that -- user did the enter_credit_card event, if one exists within two weeks. SELECT 1 AS enter_credit_card, time AS enter_credit_card_time FROM event WHERE user_id = e1.user_id AND data->>'type' = 'enter_credit_card' AND time BETWEEN view_homepage_time AND (view_homepage_time + 1000*60*60*24*14) ORDER BY time LIMIT 1 ) e2 ON true
… 它會輸出:
viewed_homepage | entered_credit_card -----------------+--------------------- 827 | 10
我們可以向這個渠道中填入帶有更多lateral聯合的中間步驟,來得到流程中我們需要重點改進的部分. 讓我們在查看主頁和輸入驗證信息之間加入對使用示例步驟的查詢.
SELECT sum(view_homepage) AS viewed_homepage, sum(use_demo) AS use_demo, sum(enter_credit_card) AS entered_credit_card FROM ( -- Get the first time each user viewed the homepage. SELECT user_id, 1 AS view_homepage, min(time) AS view_homepage_time FROM event WHERE data->>'type' = 'view_homepage' GROUP BY user_id ) e1 LEFT JOIN LATERAL ( -- For each row, get the first time the user_id did the use_demo -- event, if one exists within one week of view_homepage_time. SELECT user_id, 1 AS use_demo, time AS use_demo_time FROM event WHERE user_id = e1.user_id AND data->>'type' = 'use_demo' AND time BETWEEN view_homepage_time AND (view_homepage_time + 1000*60*60*24*7) ORDER BY time LIMIT 1 ) e2 ON true LEFT JOIN LATERAL ( -- For each row, get the first time the user_id did the enter_credit_card -- event, if one exists within one week of use_demo_time. SELECT 1 AS enter_credit_card, time AS enter_credit_card_time FROM event WHERE user_id = e2.user_id AND data->>'type' = 'enter_credit_card' AND time BETWEEN use_demo_time AND (use_demo_time + 1000*60*60*24*7) ORDER BY time LIMIT 1 ) e3 ON true
這樣就會輸出:
viewed_homepage | use_demo | entered_credit_card -----------------+----------+--------------------- 827 | 220 | 86
從查看主頁到一周之內使用demo,再到一周以內向其輸入信用卡信息,這就向我們提供了三個步驟的通道轉換. 從此,功能強大的 PostgreSQL 使得我們可以深入分析這些數據結果集,並對我們的網站性能進行整體的分析. 接著我們可能會有下面這些問題要解決:
這些問題的答案會直接影響到產品的改進,它們可以從 PostgreSQL 數據庫中找到答案,因為現在它支持 lateral 聯合.
沒有 lateral 聯合,我們就只能借助 PL/pgSQL 來做這些分析。或者,如果我們的數據集很小,我們可能就不會碰這些復雜、低效的查詢. 在一項探索性數據研究使用場景下,你可能只是將數據從 PostgreSQL 裡面抽取出來,並使用你所選擇的腳本語言來對其進行分析。但是其實還存在更強大的理由來用SQL表述這些問題, 特別是如果你正想要把整個全封裝到一套易於理解的UI中,並向非技術型用戶發布功能 的時候.
注意這些查詢可以被優化,以變得更加高效. 在本例中,如果我們在 (user_id, (data->>'type'), time)上創建一個btree索引, 我們只用一次索引查找就能針對每一個用戶計算每一個渠道步驟. 如果你使用的是SSD,在上面做查找花費是很小的,那這就足夠了。而如果不是,你就可能需要用稍微不同的手段來圖示化你的數據,詳細的內容我會留到另外一篇文章之中進行介紹.