SQL中去除重復(fù)數(shù)據(jù)的幾種方法匯總(窗口函數(shù)對數(shù)據(jù)去重)
目錄
- 方法1:distinct
- 方法2:group by
- 方法3:窗口函數(shù)
使用SQL對數(shù)據(jù)進行提取和分析時,我們經(jīng)常會遇到數(shù)據(jù)重復(fù)的場景,需要我們對數(shù)據(jù)進行去重后分析。
以某電商公司的銷售報表為例,常見的去重方法我們用到distinct 或者group by 語句, 今天介紹一種新的方法,利用窗口函數(shù)對數(shù)據(jù)去重。
【字段解釋】
訪客id:進入店鋪瀏覽寶貝的客戶
瀏覽時間:訪客進入店鋪瀏覽頁面的日期
瀏覽時常:訪客進入店鋪瀏覽頁面的時長
現(xiàn)在需要知道店鋪里每個訪客和對應(yīng)的瀏覽日期(每個訪客同一天瀏覽多次算做一次記錄)
【解題思路】
方法1:distinct
SQL書寫如下:
select distinct 訪客id ,瀏覽時間 from 淘寶日銷售數(shù)據(jù)表;
查詢結(jié)果:
這里用distinct語句多字段進行去重的時候,需要特別注意2點:
1)distinct語法規(guī)定對單字段、多字段去重,必須放在第一個查詢字段前。
2)如果對表中多列字段進行去重,去重的過程就是將多字段作為整體去重,比如上面的例子,我們將訪客id和瀏覽時間為整體去去重,而不是對訪客id單獨去重后再對姓名單獨去重,所以會出現(xiàn)相同的訪客id對應(yīng)不同的瀏覽時間。
方法2:group by
SQL書寫如下:
select 訪客id ,瀏覽時間 from 淘寶日銷售數(shù)據(jù)表group by 訪客id ,瀏覽時間;
查詢結(jié)果:
group by對訪客id 和瀏覽時間進行分組,分組匯總后改變了表的行數(shù),一行只有一個類別,這里使用group by后會將訪客id 和瀏覽時間作為一個類別保留,重復(fù)的就會不顯示。
方法3:窗口函數(shù)
使用窗口函數(shù)進行去重時,比distinct和group by稍微復(fù)雜些,窗口函數(shù)不會減少原表中的行數(shù),而是對字段進行分組后排序。詳細的窗口函數(shù)講解
窗口函數(shù)的基本語法如下:
<窗口函數(shù)> over (partition by <用于分組的列名>order by <用于排序的列名>)
根據(jù)題目要求得出每個訪客和對應(yīng)的瀏覽日期,我們對訪客id ,瀏覽時間進行分組,對瀏覽時長(秒)進行排序。
SQL書寫如下:
select 訪客id ,瀏覽時間 ,row_number()over(partition by 訪客id ,瀏覽時間order by 瀏覽時長(秒)) as 排名 from 淘寶日銷售數(shù)據(jù)表;
查詢結(jié)果:
窗口函數(shù)查詢按照每個客戶和瀏覽日期分組,如果同一天有幾次瀏覽,會根據(jù)點贊數(shù)排序,篩選排名為1,即可得出每個訪客和對應(yīng)的瀏覽日期。
SQL書寫如下:
select 訪客id ,瀏覽時間 ,row_number()over(partition by 訪客id ,瀏覽時間order by 瀏覽時長(秒)) as 排名 from 淘寶日銷售數(shù)據(jù)表;
查詢結(jié)果:
去除重復(fù)項的三種操作,你get了嗎?歡迎評論區(qū)補充你的去重辦法~
到此這篇關(guān)于SQL中去除重復(fù)數(shù)據(jù)的幾種方法,我一次性都告你?的文章就介紹到這了,更多相關(guān)sql去除重復(fù)數(shù)據(jù)內(nèi)容請搜索以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持!
