
상황
RAGchain searchQA benchmark preprocessing하던중 두 dataframe이 길이가 같고 null값이 하나도 없음에도 이상하게 concat만 하면 null값이 생겼다. 왜 그런거지?
결론
두 dataframe이 길이도 같은데 null값이 생긴다? 서로 index가 맞지 않는다면 concat할때 null값이 생길 수 있다. reset_index하세유~
- 꼭 dataframe preprocessing할때는 reset index 해야할때를 유념하자
- dataframe prerpocessing할때뿐만 아니라 테스트 코드는 데이터 크기가 크고 코드의 규모가 커질수록 필수이다.