小編給大家分享一下pandas.cut與pandas.qcut怎么用,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
創(chuàng)新互聯(lián)公司是少有的成都網(wǎng)站設(shè)計(jì)、做網(wǎng)站、營(yíng)銷型企業(yè)網(wǎng)站、小程序定制開發(fā)、手機(jī)APP,開發(fā)、制作、設(shè)計(jì)、外鏈、推廣優(yōu)化一站式服務(wù)網(wǎng)絡(luò)公司,成立于2013年,堅(jiān)持透明化,價(jià)格低,無(wú)套路經(jīng)營(yíng)理念。讓網(wǎng)頁(yè)驚喜每一位訪客多年來(lái)深受用戶好評(píng)pandas.cut:
pandas.cut(x, bins, right=True, labels=None, retbins=False, precision=3, include_lowest=False)
參數(shù):
1. x,類array對(duì)象,且必須為一維,待切割的原形式
2. bins, 整數(shù)、序列尺度、或間隔索引。如果bins是一個(gè)整數(shù),它定義了x寬度范圍內(nèi)的等寬面元數(shù)量,但是在這種情況下,x的范圍在每個(gè)邊上被延長(zhǎng)1%,以保證包括x的最小值或大值。如果bin是序列,它定義了允許非均勻bin寬度的bin邊緣。在這種情況下沒有x的范圍的擴(kuò)展。
3. right,布爾值。是否是左開右閉區(qū)間
4. labels,用作結(jié)果箱的標(biāo)簽。必須與結(jié)果箱相同長(zhǎng)度。如果FALSE,只返回整數(shù)指標(biāo)面元。
5. retbins,布爾值。是否返回面元
6. precision,整數(shù)。返回面元的小數(shù)點(diǎn)幾位
7. include_lowest,布爾值。第一個(gè)區(qū)間的左端點(diǎn)是否包含
返回值:
若labels為False則返回整數(shù)填充的Categorical或數(shù)組或Series
若retbins為True還返回用浮點(diǎn)數(shù)填充的N維數(shù)組
demo:
>>> pd.cut(np.array([.2, 1.4, 2.5, 6.2, 9.7, 2.1]), 3, retbins=True) ... ([(0.19, 3.367], (0.19, 3.367], (0.19, 3.367], (3.367, 6.533], ... Categories (3, interval[float64]): [(0.19, 3.367] < (3.367, 6.533] ... ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ >>> pd.cut(np.array([.2, 1.4, 2.5, 6.2, 9.7, 2.1]), ... 3, labels=["good", "medium", "bad"]) ... [good, good, good, medium, bad, good] Categories (3, object): [good < medium < bad] ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ >>> pd.cut(np.ones(5), 4, labels=False) array([1, 1, 1, 1, 1])
pandas.qcut
pandas.qcut(x, q, labels=None, retbins=False, precision=3, duplicates='raise')
參數(shù):
1.x
2.q,整數(shù)或分位數(shù)組成的數(shù)組。
3.labels,
4.retbins
5.precisoon
6.duplicates
結(jié)果中超過(guò)邊界的值將會(huì)變成NA
demo:
>>> pd.qcut(range(5), 4) ... [(-0.001, 1.0], (-0.001, 1.0], (1.0, 2.0], (2.0, 3.0], (3.0, 4.0]] Categories (4, interval[float64]): [(-0.001, 1.0] < (1.0, 2.0] ... ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ >>> pd.qcut(range(5), 3, labels=["good", "medium", "bad"]) ... [good, good, medium, bad, bad] Categories (3, object): [good < medium < bad] ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ pd.qcut(range(5), 4, labels=False) array([0, 0, 1, 2, 3])
補(bǔ)充拓展:解決 Python 中 qcut() 運(yùn)行報(bào)錯(cuò): Bin edges must be unique和drop duplicate edges by setting 'duplicates' kwarg
本次糾錯(cuò)背景,來(lái)源于互金領(lǐng)域信用風(fēng)控建模中的變量分箱處理。(附在文末)
解決 Python 中 qcut() 函數(shù)運(yùn)行報(bào)錯(cuò):
Bin edges must be unique和 You can drop duplicate edges by setting the ‘duplicates' kwarg
首先,報(bào)錯(cuò)如下:
然后,在qcut() 函數(shù)中設(shè)置duplicates參數(shù)為“drop”(不能設(shè)置為“raise”),解決(如下)。
本次糾錯(cuò)背景,來(lái)源于互金領(lǐng)域信用風(fēng)控建模中的變量分箱處理。如下:
# 五、變量選擇 # 特征變量選擇(排序)對(duì)于數(shù)據(jù)分析、機(jī)器學(xué)習(xí)從業(yè)者來(lái)說(shuō)非常重要。 # 好的特征選擇能夠提升模型的性能,更能幫助我們理解數(shù)據(jù)的特點(diǎn)、底層結(jié)構(gòu),這對(duì)進(jìn)一步改善模型、算法都有著重要作用。 # 至于Python的變量選擇代碼實(shí)現(xiàn)可以參考結(jié)合Scikit-learn介紹幾種常用的特征選擇方法。 # 在本文中,我們采用信用評(píng)分模型的變量選擇方法,通過(guò)WOE分析方法,即是通過(guò)比較指標(biāo)分箱和對(duì)應(yīng)分箱的違約概率來(lái)確定指標(biāo)是否符合經(jīng)濟(jì)意義。 # 首先我們對(duì)變量進(jìn)行離散化(分箱)處理。
# 5.1 分箱處理 # 變量分箱(binning)是對(duì)連續(xù)變量離散化(discretization)的一種稱呼。 # 信用評(píng)分卡開發(fā)中一般有常用的等距分段、等深分段、最優(yōu)分段。 # 其中等距分段(Equval length intervals)是指分段的區(qū)間是一致的,比如年齡以十年作為一個(gè)分段; # 等深分段(Equal frequency intervals)是先確定分段數(shù)量,然后令每個(gè)分段中數(shù)據(jù)數(shù)量大致相等; # 最優(yōu)分段(Optimal Binning)又叫監(jiān)督離散化(supervised discretizaion),使用遞歸劃分(Recursive Partitioning)將連續(xù)變量分為分段,背后是一種基于條件推斷查找較佳分組的算法。
# 我們首先選擇對(duì)連續(xù)變量進(jìn)行最優(yōu)分段,在連續(xù)變量的分布不滿足最優(yōu)分段的要求時(shí),再考慮對(duì)連續(xù)變量進(jìn)行等距分段。最優(yōu)分箱的代碼如下:
# 定義自動(dòng)分箱函數(shù) from scipy import stats def mono_bin(Y, X, n = 20): r = 0 good=Y.sum() bad=Y.count()-good while np.abs(r) < 1: d1 = pd.DataFrame({"X": X, "Y": Y, "Bucket": pd.qcut(X, n,duplicates="drop")}) # 后面報(bào)錯(cuò)You can drop duplicate edges by setting the 'duplicates' kwarg,所以回到這里補(bǔ)充duplicates參數(shù) # pandas中使用qcut(),邊界易出現(xiàn)重復(fù)值,如果為了刪除重復(fù)值設(shè)置 duplicates=‘drop',則易出現(xiàn)于分片個(gè)數(shù)少于指定個(gè)數(shù)的問(wèn)題 d2 = d1.groupby('Bucket', as_index = True) r, p = stats.spearmanr(d2.mean().X, d2.mean().Y) n = n - 1 d3 = pd.DataFrame(d2.X.min(), columns = ['min']) d3['min']=d2.min().X d3['max'] = d2.max().X d3['sum'] = d2.sum().Y d3['total'] = d2.count().Y d3['rate'] = d2.mean().Y d3['woe']=np.log((d3['rate']/(1-d3['rate']))/(good/bad)) d4 = (d3.sort_index(by = 'min')).reset_index(drop=True) print("=" * 60) print(d4) return d4 # 此定義函數(shù)暫未理解通透,暫且保留。這里先直接使用。 # 原帖代碼沒有導(dǎo)入scipy.stats模塊,會(huì)導(dǎo)致下一條語(yǔ)句運(yùn)行報(bào)錯(cuò),上面補(bǔ)上,搞定。 # 原帖代碼qcut()函數(shù)中沒有設(shè)置duplicates參數(shù),上面補(bǔ)上,搞定。
# 自定義函數(shù)分箱RevolvingUtilizationOfUnsecuredLines時(shí)報(bào)錯(cuò)You can drop duplicate edges by setting the 'duplicates' kwarg # 所以先回來(lái)刪除重復(fù)值。刪除后發(fā)現(xiàn)沒有解決問(wèn)題,真正解決問(wèn)題是在qcut()函數(shù)中沒有設(shè)置duplicates參數(shù)為“drop”(不能設(shè)置為“raise”) data=data.drop_duplicates(subset=None,keep='first',inplace=False) data.shape
(119703, 11)
# 針對(duì)我們將使用最優(yōu)分段對(duì)于數(shù)據(jù)集中的RevolvingUtilizationOfUnsecuredLines、age、DebtRatio和MonthlyIncome進(jìn)行分類。
mono_bin(data.SeriousDlqin2yrs,data.RevolvingUtilizationOfUnsecuredLines)
============================================================ min max sum total rate woe 0 0.000000 0.035034 29333 29926 0.980184 1.298275 1 0.035037 0.176771 29205 29926 0.975907 1.098457 2 0.176777 0.577036 28305 29925 0.945865 0.257613 3 0.577040 50708.000000 24607 29926 0.822262 -1.071254
min | max | sum | total | rate | woe | |
---|---|---|---|---|---|---|
0 | 0.000000 | 0.035034 | 29333 | 29926 | 0.980184 | 1.298275 |
1 | 0.035037 | 0.176771 | 29205 | 29926 | 0.975907 | 1.098457 |
2 | 0.176777 | 0.577036 | 28305 | 29925 | 0.945865 | 0.257613 |
3 | 0.577040 | 50708.000000 | 24607 | 29926 | 0.822262 | -1.071254 |
mono_bin(data.SeriousDlqin2yrs,data.age)
============================================================ min max sum total rate woe 0 21 30 7913 8885 0.890602 -0.506093 1 31 34 6640 7383 0.899363 -0.412828 2 35 38 7594 8386 0.905557 -0.342447 3 39 41 7131 7849 0.908523 -0.307262 4 42 43 4890 5362 0.911973 -0.265031 5 44 46 8163 8868 0.920501 -0.153830 6 47 48 5776 6274 0.920625 -0.152133 7 49 51 8545 9280 0.920797 -0.149768 8 52 53 5454 5901 0.924250 -0.101453 9 54 56 7922 8463 0.936075 0.080980 10 57 59 7517 7946 0.946011 0.260466 11 60 61 4942 5200 0.950385 0.349567 12 62 64 7464 7776 0.959877 0.571844 13 65 68 6968 7212 0.966167 0.748916 14 69 75 7911 8141 0.971748 0.934931 15 76 103 6620 6777 0.976833 1.138606
min | max | sum | total | rate | woe | |
---|---|---|---|---|---|---|
0 | 21 | 30 | 7913 | 8885 | 0.890602 | -0.506093 |
1 | 31 | 34 | 6640 | 7383 | 0.899363 | -0.412828 |
2 | 35 | 38 | 7594 | 8386 | 0.905557 | -0.342447 |
3 | 39 | 41 | 7131 | 7849 | 0.908523 | -0.307262 |
4 | 42 | 43 | 4890 | 5362 | 0.911973 | -0.265031 |
5 | 44 | 46 | 8163 | 8868 | 0.920501 | -0.153830 |
6 | 47 | 48 | 5776 | 6274 | 0.920625 | -0.152133 |
7 | 49 | 51 | 8545 | 9280 | 0.920797 | -0.149768 |
8 | 52 | 53 | 5454 | 5901 | 0.924250 | -0.101453 |
9 | 54 | 56 | 7922 | 8463 | 0.936075 | 0.080980 |
10 | 57 | 59 | 7517 | 7946 | 0.946011 | 0.260466 |
11 | 60 | 61 | 4942 | 5200 | 0.950385 | 0.349567 |
12 | 62 | 64 | 7464 | 7776 | 0.959877 | 0.571844 |
13 | 65 | 68 | 6968 | 7212 | 0.966167 | 0.748916 |
14 | 69 | 75 | 7911 | 8141 | 0.971748 | 0.934931 |
15 | 76 | 103 | 6620 | 6777 | 0.976833 | 1.138606 |
mono_bin(data.SeriousDlqin2yrs,data.MonthlyIncome)
============================================================ min max sum total rate woe 0 0.0 3400.0 27355 30073 0.909620 -0.293996 1 3401.0 5400.0 27655 30008 0.921588 -0.138884 2 5401.0 8200.0 27925 29725 0.939445 0.138736 3 8201.0 49750.0 28515 29897 0.953775 0.423899
min | max | sum | total | rate | woe | |
---|---|---|---|---|---|---|
0 | 0.0 | 3400.0 | 27355 | 30073 | 0.909620 | -0.293996 |
1 | 3401.0 | 5400.0 | 27655 | 30008 | 0.921588 | -0.138884 |
2 | 5401.0 | 8200.0 | 27925 | 29725 | 0.939445 | 0.138736 |
3 | 8201.0 | 49750.0 | 28515 | 29897 | 0.953775 | 0.423899 |
看完了這篇文章,相信你對(duì)“pandas.cut與pandas.qcut怎么用”有了一定的了解,如果想了解更多相關(guān)知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝各位的閱讀!
網(wǎng)站欄目:pandas.cut與pandas.qcut怎么用-創(chuàng)新互聯(lián)
分享URL:http://redsoil1982.com.cn/article8/idjip.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供云服務(wù)器、網(wǎng)站策劃、網(wǎng)站建設(shè)、手機(jī)網(wǎng)站建設(shè)、ChatGPT、虛擬主機(jī)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容