programing

두 날짜 사이의 데이터 프레임 행 선택

newsource 2022. 9. 21. 00:07

두 날짜 사이의 데이터 프레임 행 선택

다음과 같이 csv에서 Data Frame을 만듭니다.

stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)

Data Frame에는 날짜 열이 있습니다.지정된 날짜 범위 내 또는 두 개의 지정된 날짜 값 사이에 있는 날짜 값을 가진 행만 포함하는 새 데이터 프레임을 만드는 방법(또는 기존 데이터 프레임 덮어쓰기)이 있습니까?

다음 두 가지 해결 방법이 있습니다.

  • 부울 마스크를 사용한 다음df.loc[mask]
  • 날짜 열을 날짜/시간으로 설정합니다.색인화 후 사용df[start_date : end_date]

부울 마스크 사용:

확신해주다df['date']dtype을 가진 시리즈입니다.datetime64[ns]:

df['date'] = pd.to_datetime(df['date'])  

부울 마스크를 만듭니다. start_date그리고.end_date수 있습니다.datetime.datetimes,np.datetime64s,pd.Timestamps 또는 datetime 문자열:

#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)

서브 데이터 프레임을 선택합니다.

df.loc[mask]

또는 에 재접속합니다.df

df = df.loc[mask]

예를들면,

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])

수율

            0         1         2       date
153  0.208875  0.727656  0.037787 2000-06-02
154  0.750800  0.776498  0.237716 2000-06-03
155  0.812008  0.127338  0.397240 2000-06-04
156  0.639937  0.207359  0.533527 2000-06-05
157  0.416998  0.845658  0.872826 2000-06-06
158  0.440069  0.338690  0.847545 2000-06-07
159  0.202354  0.624833  0.740254 2000-06-08
160  0.465746  0.080888  0.155452 2000-06-09
161  0.858232  0.190321  0.432574 2000-06-10

날짜/시간 사용색인:

날짜별로 많은 선택을 할 경우 다음 설정을 하는 것이 더 빠를 수 있습니다.date열을 인덱스로 지정합니다.그런 다음 다음을 사용하여 날짜별 행을 선택할 수 있습니다.df.loc[start_date:end_date].

import numpy as np
import pandas as pd

df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])

수율

                   0         1         2
date                                    
2000-06-01  0.040457  0.326594  0.492136    # <- includes start_date
2000-06-02  0.279323  0.877446  0.464523
2000-06-03  0.328068  0.837669  0.608559
2000-06-04  0.107959  0.678297  0.517435
2000-06-05  0.131555  0.418380  0.025725
2000-06-06  0.999961  0.619517  0.206108
2000-06-07  0.129270  0.024533  0.154769
2000-06-08  0.441010  0.741781  0.470402
2000-06-09  0.682101  0.375660  0.009916
2000-06-10  0.754488  0.352293  0.339337

반면 Python 목록 인덱싱은 다음과 같습니다.seq[start:end]포함한다start하지만 아니다end반면에, 판다들은df.loc[start_date : end_date]는 인덱스에 있는 경우 결과에 양쪽 엔드포인트를 포함합니다.둘 다 아니다.start_date도 아니다end_date그러나 인덱스에 있어야 합니다.


또한 에는 parameter를 사용하여 parameter를 해석할 수 있습니다.date로서 칼럼에 올리다.datetime64s. 따라서,parse_dates, 를 사용할 필요가 없습니다.df['date'] = pd.to_datetime(df['date']).

loc 기능을 사용하는 것보다 직접 체크하는 것이 가장 좋은 방법이라고 생각합니다.

df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]

저는 좋아요.

슬라이스를 사용한 loc 함수의 주요 문제는 실제 값에 제한이 있어야 한다는 것입니다. 그렇지 않으면 KeyError가 발생합니다.

를 사용할 수도 있습니다.between:

df[df.some_date.between(start_date, end_date)]

를 사용할 수 있습니다.isin의 메서드date이와 같은 칼럼df[df["date"].isin(pd.date_range(start_date, end_date))]

주의: 이 기능은 날짜(질문에 따라)에만 적용되며 타임스탬프는 적용되지 않습니다.

예:

import numpy as np   
import pandas as pd

# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]

print(in_range_df)  # print result

그러면

           0         1         2       date
14  0.960974  0.144271  0.839593 2017-01-15
15  0.814376  0.723757  0.047840 2017-01-16
16  0.911854  0.123130  0.120995 2017-01-17
17  0.505804  0.416935  0.928514 2017-01-18
18  0.204869  0.708258  0.170792 2017-01-19
19  0.014389  0.214510  0.045201 2017-01-20

심플하고 버마적인 방법으로, 이것을 시험해 보는 것을 추천합니다.

자주 이 작업을 수행할 경우 가장 좋은 해결책은 먼저 날짜 열을 인덱스로 설정하고 DateTime에서 열을 변환하는 것입니다.인덱스를 작성하고 다음 조건을 사용하여 날짜 범위를 잘라냅니다.

import pandas as pd

data_frame = data_frame.set_index('date')

df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]

pandas0.22에는between()기능.이 질문에 대한 답변을 쉽고 읽기 쉬운 코드로 만듭니다.

# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})

예를 들어 2018년 11월 27일부터 2019년 1월 15일까지의 날짜를 파악하려고 합니다.

# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)

0    False
1    False
2    False
3    False
4    False

# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]

    dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02

주의:inclusive논쟁.범위를 명확하게 하고 싶을 때 매우 유용합니다.True로 설정하면 2018년 11월 27일에도 다음과 같이 반환됩니다.

df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]

    dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01

은 앞서 더 빠릅니다.isin★★★★

%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)


%%timeit -n 5

df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)

그러나 마스크가 이미 생성된 경우에만 unutbu에서 제공하는 현재 수락된 답변보다 빠르지 않습니다.그러나 마스크가 동적이어서 반복적으로 재할당해야 하는 경우에는 내 방법이 더 효율적일 수 있습니다.

# already create the mask THEN time the function

start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)

%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)

또 다른 방법은 방법을 사용하는 것입니다.다음 데이터 프레임의 예를 보여드리겠습니다.df.

>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
      col_1       date
0  0.015198 2020-01-01
1  0.638600 2020-01-02
2  0.348485 2020-01-03
3  0.247583 2020-01-04
4  0.581835 2020-01-05

인수로서 다음과 같은 필터링 조건을 사용합니다.

>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
      col_1       date
1  0.244104 2020-01-02
2  0.374775 2020-01-03
3  0.510053 2020-01-04

경계를 포함하지 않으려면 다음과 같이 조건을 변경하십시오.

>>> print(df.query('date > @start_date and date < @end_date'))
      col_1       date
2  0.374775 2020-01-03

는 이 말을 않다.df.

옵션으로는 다음 명령어를 취득하는 것이 있습니다.indexstart ★★★★★★★★★★★★★★★★★」end 삭제:

import numpy as np   
import pandas as pd

#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')

#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]

#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]

그 결과, 다음과 같습니다.

     0   1   2       date
6  0.5 0.8 0.8 2017-01-07
7  0.0 0.7 0.3 2017-01-08
8  0.8 0.9 0.0 2017-01-09
9  0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14

날짜 열을 인덱스로 변환하는 것이 좋습니다.그렇게 하면 많은 편의를 얻을 수 있습니다.하나는 두 날짜 사이의 행을 쉽게 선택하는 것입니다. 예를 들어 다음과 같습니다.

import numpy as np   
import pandas as pd

# Dataframe with monthly data between 2016 - 2020
df = pd.DataFrame(np.random.random((60, 3)))
df['date'] = pd.date_range('2016-1-1', periods=60, freq='M')

" " 사이의 2017-01-01 ★★★★★★★★★★★★★★★★★」2019-01-01이 필요한 「」, 「」, 「」date에서 열로 바꿉니다.index:

df.set_index('date', inplace=True)

슬라이스만 하면 됩니다.

df.loc['2017':'2019']

컬럼은 csv 파일 인덱스로 할 수 .df.set_index():

df = pd.read_csv('file_name.csv',index_col='date') 

unutbu에서 영감을 얻다

print(df.dtypes)                                 #Make sure the format is 'object'. Rerunning this after index will not show values.
columnName = 'YourColumnName'
df[columnName+'index'] = df[columnName]          #Create a new column for index
df.set_index(columnName+'index', inplace=True)   #To build index on the timestamp/dates
df.loc['2020-09-03 01:00':'2020-09-06']          #Select range from the index. This is your new Dataframe.

잘라내기 방법을 사용할 수 있습니다.

dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data={'A': 1})

            A
2016-01-01  1
2016-01-02  1
2016-01-03  1
2016-01-04  1
2016-01-05  1
2016-01-06  1

두 날짜 사이의 데이터 선택:

df.truncate(before=pd.Timestamp('2016-01-02'),
            after=pd.Timestamp('2016-01-4'))

출력:

            A
2016-01-02  1
2016-01-03  1
2016-01-04  1

pd.date_range() 및 Timestamp를 사용하여 실행할 수 있습니다.parse_dates 옵션을 사용하여 날짜 열이 있는 csv 파일을 읽었다고 가정합니다.

df = pd.read_csv('my_file.csv', parse_dates=['my_date_col'])

다음으로 날짜 범위 인덱스를 정의할 수 있습니다.

rge = pd.date_range(end='15/6/2020', periods=2)

다음으로 맵을 사용하여 날짜별로 값을 필터링합니다.

df.loc[df['my_date_col'].map(lambda row: row.date() in rge)]
import pandas as pd

technologies = ({
    'Courses':["Spark","PySpark","Hadoop","Python","Pandas","Hadoop","Spark"],
    'Fee' :[22000,25000,23000,24000,26000,25000,25000],
    'Duration':['30days','50days','55days','40days','60days','35days','55days'],
    'Discount':[1000,2300,1000,1200,2500,1300,1400],
    'InsertedDates':["2021-11-14","2021-11-15","2021-11-16","2021-11-17","2021-11-18","2021-11-19","2021-11-20"]
               })
df = pd.DataFrame(technologies)
print(df)

판다를 이용해서.DataFrame.loc에서 날짜별로 행을 필터링합니다.

방법 1:

    mask = (df['InsertedDates'] > start_date) & (df['InsertedDates'] <= end_date)

    df2 = df.loc[mask]
    print(df2)

방법 2:.

    start_date = '2021-11-15'
    end_date = '2021-11-19'
    after_start_date = df["InsertedDates"] >= start_date
    before_end_date = df["InsertedDates"] <= end_date
    between_two_dates = after_start_date & before_end_date


    df2 = df.loc[between_two_dates]
    print(df2)

판다를 이용해서.데이터 프레임query()를 사용하여 Data Frame 행을 선택합니다.

start_date = '2021-11-15'
end_date   = '2021-11-18'
df2 = df.query('InsertedDates >= @start_date and InsertedDates <= @end_date')
print(df2)

DataFrame을 사용하여 두 날짜 사이의 행을 선택합니다.쿼리()

start_date = '2021-11-15'
end_date = '2021-11-18'
df2 = df.query('InsertedDates > @start_date and InsertedDates < @end_date')
print(df2)

팬더 시리즈between() 함수 두 날짜 사용

df2 = df.loc[df["InsertedDates"].between("2021-11-16", "2021-11-18")]
print(df2)

DataFrame.isin()을 사용하여 두 날짜 사이의 DataFrame 행을 선택합니다.

df2 = df[df["InsertedDates"].isin(pd.date_range("2021-11-15", "2021-11-17"))]
print(df2)

언급URL : https://stackoverflow.com/questions/29370057/select-dataframe-rows-between-two-dates