- 상태
- 운영 중
- 쓴 기술
- Go · PostgreSQL · 크롤러 · 메신저 알림
- 분류
- 크롤링 · 파이프라인 · 메신저 알림
어떤 상황이었나
여러 소스에 흩어진 뉴스와 공시를 사람이 일일이 챙겨봐야 했고, 같은 내용이 중복으로 올라와 걸러내는 데 시간이 들었습니다.
만든 것
- 다중 소스 수집기
- 중복 제거
- 키워드 매칭
- 메신저 요약 전달
어떻게 돌아가나
수집중복 제거키워드 매칭요약전달
주기 실행으로 무인 운영되고, 결과는 메신저로 바로 들어옵니다.
하지 않는 것
- 수집 대상 사이트의 요청 간격을 지키며 점진적으로 모읍니다. 한 번에 대량으로 긁지 않습니다.
의뢰처와 내부 구성은 공개하지 않습니다. 이 글은 일반화한 설명입니다.
비슷한 걸 만들어야 한다면
어떤 상황인지 알려주시면 비슷한 구성부터 정리해서 회신드립니다.