老鐵們,大家好,相信還有很多朋友對于groupby函數(shù)的用法和sort_values函數(shù)的相關(guān)問題不太懂,沒關(guān)系,今天就由我來為大家分享分享groupby函數(shù)的用法以及sort_values函數(shù)的問題,文章篇幅可能偏長,希望可以幫助到大家,下面一起來看看吧!
在數(shù)據(jù)庫中order by和group by的區(qū)別
orderby用于排序,一般與asc升序或desc降序一起使用.例:select*from表Aorderby列agroupby用于分類匯總,一般與聚合函數(shù)(比如avg平均、sum合計、max最大、min最小、count計算行)一起使用。
例:select月份,sum(工資)as總工資from工資表groupby月份此語句用于統(tǒng)計每個月的日總工資在使用groupby的語句中,只能select用于分類的列(表達(dá)式),或聚合函數(shù)。
where條件用于groupby之前,having用于groupby之后對結(jié)果進(jìn)行篩選。
SQL中GroupBy用法是什么
在日常查詢中,索引或其他數(shù)據(jù)查找的方法可能不是查詢執(zhí)行中最高昂的部分,例如:MySQLGROUPBY可能負(fù)責(zé)查詢執(zhí)行時間90%還多。MySQL執(zhí)行GROUPBY時的主要復(fù)雜性是計算GROUPBY語句中的聚合函數(shù)。UDF聚合函數(shù)是一個接一個地獲得構(gòu)成單個組的所有值。這樣,它可以在移動到另一個組之前計算單個組的聚合函數(shù)值。當(dāng)然,問題在于,在大多數(shù)情況下,源數(shù)據(jù)值不會被分組。來自各種組的值在處理期間彼此跟隨。因此,我們需要一個特殊的步驟。
處理MySQLGROUPBY讓我們看看之前看過的同一張table:mysql>showcreatetabletblG***************************1.row***************************Table:tblCreateTable:CREATETABLE`tbl`(`id`int(11)NOTNULLAUTO_INCREMENT,`k`int(11)NOTNULLDEFAULT'0',`g`int(10)unsignedNOTNULL,PRIMARYKEY(`id`),KEY`k`(`k`))ENGINE=InnoDBAUTO_INCREMENT=2340933DEFAULTCHARSET=latin11rowinset(0.00sec)
并且以不同方式執(zhí)行相同的GROUPBY語句:
1、MySQL中的IndexOrderedGROUPBY
mysql>selectk,count(*)cfromtblgroupbykorderbyklimit5;
+---+---+
|k|c|
+---+---+
|2|3|
|4|1|
|5|2|
|8|1|
|9|1|
+---+---+
5rowsinset(0.00sec)
mysql>explainselectk,count(*)cfromtblgroupbykorderbyklimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:index
possible_keys:k
key:k
key_len:4
ref:NULL
rows:5
filtered:100.00
Extra:Usingindex
1rowinset,1warning(0.00sec)
在這種情況下,我們在GROUPBY的列上有一個索引。這樣,我們可以逐組掃描數(shù)據(jù)并動態(tài)執(zhí)行GROUPBY(低成本)。當(dāng)我們使用LIMIT限制我們檢索的組的數(shù)量或使用“覆蓋索引”時,特別有效,因為順序索引掃描是一種非常快速的操作。
如果您有少量組,并且沒有覆蓋索引,索引順序掃描可能會導(dǎo)致大量IO。所以這可能不是最優(yōu)化的計劃。
2、MySQL中的外部排序GROUPBY
mysql>explainselectSQL_BIG_RESULTg,count(*)cfromtblgroupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:ALL
possible_keys:NULL
key:NULL
key_len:NULL
ref:NULL
rows:998490
filtered:100.00
Extra:Usingfilesort
1rowinset,1warning(0.00sec)
mysql>selectSQL_BIG_RESULTg,count(*)cfromtblgroupbyglimit5;
+---+---+
|g|c|
+---+---+
|0|1|
|1|2|
|4|1|
|5|1|
|6|2|
+---+---+
5rowsinset(0.88sec)
如果我們沒有允許我們按組順序掃描數(shù)據(jù)的索引,我們可以通過外部排序(在MySQL中也稱為“filesort”)來獲取數(shù)據(jù)。你可能會注意到我在這里使用SQL_BIG_RESULT提示來獲得這個計劃。沒有它,MySQL在這種情況下不會選擇這個計劃。
一般來說,MySQL只有在我們擁有大量組時才更喜歡使用這個計劃,因為在這種情況下,排序比擁有臨時表更有效(我們將在下面討論)。
3、MySQL中的臨時表GROUPBY
mysql>explainselectg,sum(g)sfromtblgroupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:ALL
possible_keys:NULL
key:NULL
key_len:NULL
ref:NULL
rows:998490
filtered:100.00
Extra:Usingtemporary
1rowinset,1warning(0.00sec)
mysql>selectg,sum(g)sfromtblgroupbygorderbynulllimit5;
+---+------+
|g|s|
+---+------+
|0|0|
|1|2|
|4|4|
|5|5|
|6|12|
+---+------+
5rowsinset(7.75sec)
在這種情況下,MySQL也會進(jìn)行全表掃描。但它不是運(yùn)行額外的排序傳遞,而是創(chuàng)建一個臨時表。此臨時表每組包含一行,并且對于每個傳入行,將更新相應(yīng)組的值。很多更新!雖然這在內(nèi)存中可能是合理的,但如果結(jié)果表太大以至于更新將導(dǎo)致大量磁盤IO,則會變得非常昂貴。在這種情況下,外部分揀計劃通常更好。請注意,雖然MySQL默認(rèn)選擇此計劃用于此用例,但如果我們不提供任何提示,它幾乎比我們使用SQL_BIG_RESULT提示的計劃慢10倍。您可能會注意到我在此查詢中添加了“ORDERBYNULL”。這是為了向您展示“清理”臨時表的唯一計劃。沒有它,我們得到這個計劃:mysql>explainselectg,sum(g)sfromtblgroupbyglimit5G***************************1.row***************************id:1select_type:SIMPLEtable:tblpartitions:NULLtype:ALLpossible_keys:NULLkey:NULLkey_len:NULLref:NULLrows:998490filtered:100.00Extra:Usingtemporary;Usingfilesort1rowinset,1warning(0.00sec)
在其中,我們獲得了temporary和filesort“兩最糟糕的”提示。MySQL5.7總是返回按組順序排序的GROUPBY結(jié)果,即使查詢不需要它(這可能需要昂貴的額外排序傳遞)。ORDERBYNULL表示應(yīng)用程序不需要這個。您應(yīng)該注意,在某些情況下-例如使用聚合函數(shù)訪問不同表中的列的JOIN查詢-使用GROUPBY的臨時表可能是唯一的選擇。
如果要強(qiáng)制MySQL使用為GROUPBY執(zhí)行臨時表的計劃,可以使用SQL_SMALL_RESULT提示。
4、MySQL中的索引基于跳過掃描的GROUPBY前三個GROUPBY執(zhí)行方法適用于所有聚合函數(shù)。然而,其中一些人有第四種方法。
mysql>explainselectk,max(id)fromtblgroupbykG
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:range
possible_keys:k
key:k
key_len:4
ref:NULL
rows:2
filtered:100.00
Extra:Usingindexforgroup-by
1rowinset,1warning(0.00sec)
mysql>selectk,max(id)fromtblgroupbyk;
+---+---------+
|k|max(id)|
+---+---------+
|0|2340920|
|1|2340916|
|2|2340932|
|3|2340928|
|4|2340924|
+---+---------+
5rowsinset(0.00sec)
此方法僅適用于非常特殊的聚合函數(shù):MIN()和MAX()。這些并不需要遍歷組中的所有行來計算值。他們可以直接跳轉(zhuǎn)到組中的最小或最大組值(如果有這樣的索引)。如果索引僅建立在(K)列上,如何找到每個組的MAX(ID)值?這是一個InnoDB表。記住InnoDB表有效地將PRIMARYKEY附加到所有索引。(K)變?yōu)?K,ID),允許我們對此查詢使用Skip-Scan優(yōu)化。僅當(dāng)每個組有大量行時才會啟用此優(yōu)化。否則,MySQL更傾向于使用更傳統(tǒng)的方法來執(zhí)行此查詢(如方法#1中詳述的索引有序GROUPBY)。雖然我們使用MIN()/MAX()聚合函數(shù),但其他優(yōu)化也適用于它們。例如,如果您有一個沒有GROUPBY的聚合函數(shù)(實際上所有表都有一個組),MySQL在統(tǒng)計分析階段從索引中獲取這些值,并避免在執(zhí)行階段完全讀取表:mysql>explainselectmax(k)fromtblG***************************1.row***************************id:1select_type:SIMPLEtable:NULLpartitions:NULLtype:NULLpossible_keys:NULLkey:NULLkey_len:NULLref:NULLrows:NULLfiltered:NULLExtra:Selecttablesoptimizedaway1rowinset,1warning(0.00sec)
過濾和分組
我們已經(jīng)研究了MySQL執(zhí)行GROUPBY的四種方式。為簡單起見,我在整個表上使用了GROUPBY,沒有應(yīng)用過濾。當(dāng)您有WHERE子句時,相同的概念適用:mysql>explainselectg,sum(g)sfromtblwherek>4groupbygorderbyNULLlimit5G***************************1.row***************************id:1select_type:SIMPLEtable:tblpartitions:NULLtype:rangepossible_keys:kkey:kkey_len:4ref:NULLrows:1filtered:100.00Extra:Usingindexcondition;Usingtemporary1rowinset,1warning(0.00sec)
對于這種情況,我們使用K列上的范圍進(jìn)行數(shù)據(jù)過濾/查找,并在有臨時表時執(zhí)行GROUPBY。在某些情況下,方法不會發(fā)生沖突。但是,在其他情況下,我們必須選擇使用GROUPBY的一個索引或其他索引進(jìn)行過濾:
mysql>altertabletbladdkey(g);
QueryOK,0rowsaffected(4.17sec)
Records:0Duplicates:0Warnings:0
mysql>explainselectg,sum(g)sfromtblwherek>1groupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:index
possible_keys:k,g
key:g
key_len:4
ref:NULL
rows:16
filtered:50.00
Extra:Usingwhere
1rowinset,1warning(0.00sec)
mysql>explainselectg,sum(g)sfromtblwherek>4groupbyglimit5G
***************************1.row***************************
id:1
select_type:SIMPLE
table:tbl
partitions:NULL
type:range
possible_keys:k,g
key:k
key_len:4
ref:NULL
rows:1
filtered:100.00
Extra:Usingindexcondition;Usingtemporary;Usingfilesort
1rowinset,1warning(0.00sec)
根據(jù)此查詢中使用的特定常量,我們可以看到我們對GROUPBY使用索引順序掃描(并從索引中“放棄”以解析WHERE子句),或者使用索引來解析WHERE子句(但使用臨時表來解析GROUPBY)。根據(jù)我的經(jīng)驗,這就是MySQLGROUPBY并不總是做出正確選擇的地方。您可能需要使用FORCEINDEX以您希望的方式執(zhí)行查詢。
關(guān)于vf中的group by
GROUPBY是分組查詢,一般GROUPBY是和聚合函數(shù)配合使用,你可以想想
你用了GROUPBY按ITEM.ITEMNUM這個字段分組,那其他字段內(nèi)容不同,變成一對多又改如何顯示呢,比如下面所示
AB
1abc
1bcd
1asdfg
selectA,BfromtablegroupbyA
你說這樣查出來是什么結(jié)果,
AB
abc
1bcd
asdfg
右邊3條如何變成一條,所以需要用到聚合函數(shù),比如
selectA,count(B)數(shù)量fromtablegroupbyA
這樣的結(jié)果就是
A數(shù)量
13
groupby有一個原則,就是select后面的所有列中,沒有使用聚合函數(shù)的列,必須出現(xiàn)在groupby后面
groupby后面能跟什么
groupby是數(shù)據(jù)庫里有聚合函數(shù)時用于分組的,后面跟需要分組的字段。比如,要查詢銷售表中2021年每個月的銷售量,就需要對月份分組:
selectmonth,sum(num)assalenumfromsale
whereyear=2021
groupbymonth
groupby 參數(shù)詳解
groupby是Pandas庫中常用的分組函數(shù),其常用參數(shù)包括:by、axis、level、sort、group_keys、as_index等。
其中,by參數(shù)用于指定分組的列名,axis參數(shù)用于指定分組軸,level參數(shù)用于指定分組層級,sort參數(shù)用于指定是否對結(jié)果進(jìn)行排序,group_keys參數(shù)用于指定是否在結(jié)果中添加分組鍵,as_index參數(shù)用于指定是否使用分組鍵作為結(jié)果的索引。通過這些參數(shù)的設(shè)置,可以實現(xiàn)不同的分組操作。
OK,關(guān)于groupby函數(shù)的用法和sort_values函數(shù)的內(nèi)容到此結(jié)束了,希望對大家有所幫助。