전체 글
-
[논문리뷰-DQN] Deep Q-NetworkPapers Review 2024. 5. 9. 22:20
목차- 논문 : Playing Atari with Deep Reinforcement Learning (paper)- 핵심 내용 : 딥러닝 기반의 강화학습을 진행한다. 데이터를 랜덤하게 샘플링하는 방식과, Q-network 추가로 DQN 모델을 완성한다. 사실 정확하게 말하면 논문 리뷰라기 보다는, DQN이 어떤 알고리즘인지 백그라운드와 핵심 포인트를 리뷰한 글. 1. Reinforcement Learning일단 가장 먼저 강화학습이란 무엇인가?환경(Environment)과 상호작용하는 모델(Agent)를 학습시키는 것주어진 상태(State)에서 행동(Action)을 취하여 그에 상응하는 보상(Reward)를 받게 된다.최종적인 보상값을 최대화 하도록 행동을 강화한다.게임, 로보틱스, 자율주행 분야에서 ..
-
[논문리뷰-CDN] Empowering Long-tail Item Recommendation through Cross Decoupling Network (KDD 2023)Papers Review 2024. 3. 11. 22:29
목차 - 논문 : Empowering Long-tail Item Recommendation through Cross Decoupling Network (paper) - 모델 : long-tail problem 을 해결하기 위하여 item, user 각각 학습하는 two-tower 모델로 이루어져 있으며, 각 tower에서 데이터를 다시 decoupling 하여 학습한다. item 데이터에서는 unique한 정보를 학습하는 memorization expert와 공유 가능한 정보를 학습하는 generalization exeprt 로 decoupling하여 학습하며, user 데이터에서는 interaction의 long-tail distribution 을 그대로 학습하는 main branch와 re-balan..
-
[논문리뷰-BERT4Rec] Sequential Recommendation with BidirectionalEncoder Representations from TransformerPapers Review 2023. 11. 23. 21:24
목차 BERT나 self-attention의 구조는 이해한 것으로 가정. BERT를 추천시스템에 어떻게 적용하였는지, BERT와의 차이점은 무엇인지 등을 위주로 작성 BERT4Rec : Sequential Recommendation with BidirectionalEncoder Representations from Transformer BERT 논문 : BERT: Pre-training of Deep Bidirectional Transformers for Language understanding Transformer 논문 : Attention is all you need 1. Introduction 기존 RNN 기반의 Sequential한 모델의 성과를 인정하지만, 단점이 있다. 1) RNN 기반의 se..
-
추천시스템 평가지표 | Offline Metric with CodeRecommendation System 2023. 11. 8. 14:27
목차 목표1. 기존의 평가지표들을 추천시스템에 어떻게 적용하고 해석하는지 ? 목표2. 추천시스템에서 사용되는 평가지표는 무엇인지 ? 1. Basic Classification Metrics : Rank-less recommendation Example, k=3으로 가정 USER TRUE PREDICT 1 A B C D E (5) A C D E H (5) 2 E F G H I (5) B D E F G (5) 3 B D F G H (5) A E A C D F G H (8) Accuracy 전체 set에서 긍정이라고 예측했는데 실제 긍정이었던 것(TP) + 부정이라고 예측했는데 실제 부정이었던 것(TN)의 비율 추천시스템의 목표는 긍정(click, buy) 예측이며, true와 pred의 길이가 다르기 때문에..
-
[NAVER DEVIEW 2021] Look-alike Modeling and Serving : 비슷한 사람 찾기 추천시스템Recommendation System 2023. 10. 31. 18:14
목차 네이버 2021 DEVIEW에는 여러 추천시스템이 공개되었는데, 그 중 비슷한 유저그룹을 찾는 방법에 대한 리뷰 - 영상 링크 - 자료 링크 1. What is Look-alike Look-alike (유사타겟) : 특정한 유저 그룹(seed)이 주어졌을 때, 해당 그룹과 비슷한 유저를 찾는 것 네이버 플랫폼은 see(광고주가 소유한 유저 정보)가 없기 때문에 임의로 seed를 만들어서 평가함 2가지 seed set (스마트스토어 방문자, 상품페이지 조회자)를 사용하여 오프라인 테스트 진행 KPI : CVR(conversion rate, 전환수/클릭수), CTR(click through rate, 클릭수/노출수), CTCVR(CTR*CVR) 처리량 : 1억 이상의 유저(브라우저별 익명화된 유저, 쿠..
-
2023 트위터 X의 추천시스템 (Twitter's Recommendation Algorithm)Recommendation System 2023. 10. 24. 10:00
목차 2023년 3월, 트위터의 추천시스템이 코드와 함께 공개되었다. 코드 : https://github.com/twitter/the-algorithm-ml 본문 : https://blog.twitter.com/engineering/en_us/topics/open-source/2023/twitter-recommendation-algorithm 코드는 scala, Thrift로 작성되어 있다. 아무래도 대용량의 데이터를 실시간으로 돌려야 하니까 빠른 언어를 사용한 것 같다. 물론 소스코드를 100% 공개한건 아닐거라서 직접 돌려보거나 할 경우 에러가 날 확률이 높다. 그래서 그냥 참고용으로만 보면 좋을 듯하다. 아래는 코드의 주요한 component를 도식화 시킨 사진이다. 간략하게 설명하자면, DATA ..
-
[NAVER DEVIEW 2023] 장소 기반 추천시스템, HyperLocal | 상황에 맞는 취향 장소 발견하기Recommendation System 2023. 10. 18. 09:30
목차 HLP Engine : HyperLocal Personalization Engine - 추천 대상 : POI(point of interest), User(POI를 방문하는 user), UGC(contents), Theme(POI, UGC를 공통 특성으로 묶은 그룹) - 추천 모델 : No persoanlization, segmentation, personalization(사용자의 취향 추천), HyperLocal Persoanlization(사용자가 놓인 '상황'까지 이해하여 추천) 발표 영상 : https://tv.naver.com/v/34032810 발표 자료 : 1. POI x HyperLocal Personalization : 특정 장소 다음에 방문할 만한 장소 추천 ex) 부산 호텔 다음에..
-
ChatGPT를 이용해서 추천시스템 만들기Recommendation System 2023. 10. 4. 19:28
목차 1. 환경세팅 1-1. OpenAI에서 API KEY 받기 OpenAI 사이트 로그인 -> 프로필에 view API Keys -> Create new secret key를 해서 임의로 이름을 만들고 KEY를 받는다. 이 KEY는 메모장에 따로 메모해두기. 기존에 있는 KEY는 볼 수 없으므로 주의하기 1-2. 테스트 해보기 google colab에서 실습했음. ! pip install openai ! pip install python-dotenv ! pip install -U sentence-transformers import os import openai from dotenv import load_dotenv import pandas as pd import torch from sentence_tr..