doksam.com
만들어 온 것들

뉴스·공시 수집 파이프라인

흩어진 소스를 모아 중복을 걸러 메신저로 보내는 수집기

상태
운영 중
쓴 기술
Go · PostgreSQL · 크롤러 · 메신저 알림
분류
크롤링 · 파이프라인 · 메신저 알림

어떤 상황이었나

여러 소스에 흩어진 뉴스와 공시를 사람이 일일이 챙겨봐야 했고, 같은 내용이 중복으로 올라와 걸러내는 데 시간이 들었습니다.

만든 것

  • 다중 소스 수집기
  • 중복 제거
  • 키워드 매칭
  • 메신저 요약 전달

어떻게 돌아가나

수집중복 제거키워드 매칭요약전달

주기 실행으로 무인 운영되고, 결과는 메신저로 바로 들어옵니다.

하지 않는 것

  • 수집 대상 사이트의 요청 간격을 지키며 점진적으로 모읍니다. 한 번에 대량으로 긁지 않습니다.

의뢰처와 내부 구성은 공개하지 않습니다. 이 글은 일반화한 설명입니다.

비슷한 걸 만들어야 한다면

어떤 상황인지 알려주시면 비슷한 구성부터 정리해서 회신드립니다.

문의하기